Древнейшим оборонительным сооружением Абхазии является крепость Абаата, построенная в IV-V веках. Внутри крепости христиане в VI-VIII в.в. построили храм Покрова Божьей Матери. Позже этот храм освятили в честь св. Ипатия Гагрского. Согласно некоторых данных, этот святой из рода Званба проживал в пещере, расположенной в ущелье горы, которую называют Мамдзышха. Скорее всего, он был похоронен в Гагрском храме Абаата, так как его имя упоминается во многих источниках, связанных с этим храмом. По количеству сохранившихся древних памятников храмового зодчества Абхазия является уникальной. Храм святого Ипатия принадлежит к древнейшим образцам трехцерковных базилик, находящихся на территории Абхазии. Он пережил период генуэзских факторий, время турецкого господства и почти полностью сохранил древние формы, неповторимый облик и суровую аскетическую красоту.

При строительстве стен храма использовались отесанные известняковые блоки разной величины. Базилику составляют три продолговатых зала: северный зал немного короче других. Северный и средний залы завершаются с востока апсидами, которые вписаны в прямоугольник внешнего очертания. Все три сводчатые помещения связаны друг с другом дверями, расположенными в продольных стенах. Центральный зал имеет также западную дверь. В южной стене над основным входом изображен Греческий крест, заключенный в круг (крест освящения).

Крепость Абаата в 1830 году была занята русским гарнизоном. Во времена Крымской войны в 1854 году военные оставили крепость, взорвав при этом ее укрепления. После войны крепость снова заняли русские войска. Они восстановили ее и организовали здесь госпиталь. Заброшенный храм превратили в пороховой погреб.

Местными жителями из поколения в поколение передавалась легенда о подземелье под храмом, в котором хранятся несметные сокровища. В конце девятнадцатого столетия, когда началось исследование храма и цитадели, археологами были обнаружены подземные галереи, которые расходятся в разные стороны.

Храм в 1902 году был реставрирован, а его свод перестроен. Чтобы сохранить этот памятник архитектуры, здесь в 1958 году провели ремонтные работы, а затем в его стенах открыли музей абхазского оружия. Среди экспонатов этого музея можно увидеть образцы кремневых рубил, бронзовые топоры, наконечники дротиков, кинжалы, топоры, мечи, щиты, шлемы, средневековые кольчуги.

Последнюю реставрацию храма провели в 2007 году, в ходе которой воссоздали внутреннюю обстановку, установили новый иконостас, провели освещение. Сейчас крепость Абаата является исторической достопримечательностью, а в храме св. Ипатия Гагрского проходят богослужения. Абхазская епархия в настоящее время ведет переговоры о передаче храма во владение церкви.