Вардзия находится в 18 км от Ахалкалаки, в непосредственной близости от границы с Турцией. Город был создан в XII - XIII веках во время правления Георгия III и его дочери царицы Тамары для защиты южных рубежей Грузии. Вардзия – это не просто хаотично вырытые в отвесной скале пещерные помещения. Это настоящий многоэтажный (!) комплекс с улицами, тоннелями и лестницами, ведущими мимо монастырей, храмов, крепостей, бань, библиотек, жилых построек и пр. Всего свыше 600 соединенных ходами помещений, которые простирались вдоль горы в длину на 800 метров , в глубину горы до 50 метров и в высоту на восемь этажей. В случае нападения врагов монастырь становился убежищем для мирных жителей и мог вместить до 20 000 человек. А грузинские воины, спустившись по трем тайным ходам, могли спокойно уничтожить врагов, застав их врасплох. Пещерный комплекс, помимо защитной, выполнял еще и духовную функцию - как христианский монастырь, в центре которого был высечен большой храм Успения Богородицы. В храме сохранились фрагменты чудесных фресок XII века, в том числе и изображающих царя Георгия III и царицу Тамару. По одной из версий, здесь она и похоронена. Чтобы вандалы не смогли обнаружить могилу, из Тбилиси в разные концы света отправились сразу 8 похоронных процессий. Прибыли они и в Гелати, и в Вардзию.
В XIII веке Вардзия пострадала от крупного землетрясения (1283 год), когда от скалы отделился и упал в Куру пласт породы шириной до 15 метров . В результате чего монастырь обнажился и потерял свое значение как крепость. Затем Вардзия пострадала от монгольского нашествия в XIII веке, во время иранского разгрома и турецкого ига в XVI - XVII веках, вследствие чего пришел в упадок и запустел. В 1828 году местность Джавахетия была освобождена русскими войсками, и в Вардзии вновь затеплилась жизнь. В советский период монашеская жизнь в монастыре прекратилась и возобновилась лишь в конце 80-х годов. Сегодня в мужском монастыре живет около 15 послушников.
В 1938 году Вардзия была объявлена музеем-заповедником и является им до сих пор.