Джамия Хаджи Байрям построен през XV век върху руините на византийска църква. Още преди да е имало храм на Август, от която запазена само останки от стени, и те изрежете текста на завещанието на император Август.

Хаджи Байрям Уали, на когото е кръстен на джамията, е основател на реда дервиш Байрами. Той е погребан в мавзолей с мраморна фасада и купола на олово. Вътрешни врати на джамията бяха заменени с копия, а оригиналът се съхранява в Етнографския музей в Анкара.