Vardzia je jaskynné kláštorné mesto západne od mesta Achalkalaki. Mesto bolo vybudované na ľavom brehu rieky Kury v Malom Kaukazu na juhu Gruzínska v 12. storočí v stene hory Erušetu. Pod skalným mestom, v údolí rieky Kury, sa nachádzajú tradičné sírne kúpele.
Stavebníkom bol gruzínsky kráľ Giorgi III. - Bagration . Mesto chcel zriadiť ako hraničnú pevnosť proti nájazdom Turkov a Peržanov. Jeho dcéra, kráľovná Tamara Gruzínska , stavbu dokončila a zriadila v nej kláštor. Za vojnového konfliktu s seldžuckými Turkami tu sama žila v rokoch 1193 až 1195 aj so svojím dvorom.
Vardzia bola vytesaná do skalnej steny vyčnievajúcej v dĺžke asi 500 metrov do oblúkovitého údolia rieky Kury. Stavitelia pritom využívali skalných výstupkov a zákutia k vyhĺbeniu hlbokých jaskýň, ktoré medzi sebou spájali tunely, schodiská, terasy a galérie. Pôvodne bolo pre obyvateľov zriadených 3000 bytov v až siedmich poschodiach, ktoré mohli poskytnúť bývanie až pre 50 tisíc ľuďom. Každý byt pozostával z troch miestností. Okrem bytov tu bola aj pokladnica, kostol, knižnica, pekárne, stajne a kúpacie nádrže. Voda bola rozvedená keramickým potrubím.
Po zemetrasení je dnes zachovaných ešte 750 miestností na ploche 900 m². Hlavnou turistickou atrakciou je kláštorný kostol so stĺpovým portálom, veľká sála s valenou klenbou , apsidou a nartexom , ktorý je vyzdobený farebnými freskami ztvárňujícími okrem iného aj kráľa Giorgi III. und kráľovnú Tamaru. Ešte dnes tu žije niekoľko mníchov, ktorí fungujú ako sprievodcovia návštevníkov.