Het Khertvisi Fort ligt prachtig bovenop een rots van een nauwe kloof waar de Mtkvari en de Paravani rivieren samenstromen. Via tunnels verliep de watervoorziening en ook de communicatie met dit kasteel. De exacte leeftijd van dit eeuwenoude fort is niet bekend, maar volgens onderzoek is het gebouwd tussen de 10de en 14de eeuw.