Город возник предположительно в V—VI веках как укреплённое поселение на границе византийских владений. Есть версия, что его укрепления строились византийскими инженерами в два этапа (между 530/550 и 560/580 гг.) для защиты стратегически важных дефиле Марьям-Дере и Ашлама-Дере, и усиления обороны дальних подступов к Херсону[17]. Вероятно, что в ту эпоху он носил название Фуллы. Город с таким названием встречается в различных источниках, но историки однозначно не могут определить, какое из известных ныне городищ ему соответствует. Население города в этот период состояло в основном из алан.

В эпоху господства в Крыму кыпчаков город перешёл под их контроль и получил название Кырк-Ер.

В 1299 году Кырк-Ер был взят штурмом и ограблен ордынской армией эмира Ногая. В XIII—XIV веках город был центром небольшого княжества, находившегося в вассальной зависимости от правителей Крымского Юрта Золотой Орды. Начиная с XIV века в городе стали селиться караимы и к моменту образования Крымского ханства они, скорее всего, составляли уже большую часть населения города. Способствовали этому ограничения на их проживание в других городах Крымского ханства[18][19].

Кырк-Ер был резиденцией первого хана независимого Крыма Хаджи I Герая. Менгли I Герай основал новый город на месте нынешнего бахчисарайского предместья Салачик, и ханская столица была перенесена туда. В крепости остались жить лишь караимы и небольшое количество крымчаков[20]. В XVII веке топоним «Кырк-Ер» сменяется на «Чуфут-Кале» (в переводе «иудейская/еврейская крепость» с негативным, презрительным смысловым оттенком)[19][10]. Во времена Крымского ханства крепость была местом содержания высокопоставленных военнопленных, там же располагался и государственный монетный двор.

После вхождения Крыма в состав Российской империи ограничения на проживание караимов и крымчаков были отменены, и они стали покидать крепость и переселяться в другие крымские города. К концу XIX века Чуфут-Кале был полностью покинут жителями. В крепости осталась жить лишь семья смотрителя.

С октября 2015 года Крепость и пещерный город «Чуфут-Кале» являются объектом культурного наследия федерального значения