Ardahan’a ilişkin birkaç değişik söylence bulunmaktadır.

Bunlardan ilki Arda Ana destanında aktarıldığı gibi yaratılış ve insanın varoluşu ile birleştirilendir. Tanrının, bu yöreyi cennet olarak adlandırdığı ve insanın oluşumu için Arda Anayı buraya yolladığı anlatılmaktadır bu destanda.

Bir başka söylenceye göre, bu bölge eski çağlarda tümüyle yeşil çam ağaçlarıyla dolu, ormanlık bir yer imiş. Yöreye ilk gelen Kimmerler bu bölgeyi bereket bölgesi olarak tanımlamışlar. Kendilerinin de Bereket Tanrısı olan ve aynı zamanda yeşil anlamına gelen Arda adını vermişler. Kurdukları bir kalenin içine de en ünlü din adamı olan Kam’ı yerleştirerek Bu kaleye Arda-Kam adını vermişler. Bu ad giderek Ardahan adına dönüşmüştür.

Üçüncü bir söylenceye göreyse, Hazar boylarından göç ederek bu bölgeye yerleşen Arda Türklerinin yerleşim esnasında kurdukları büyük bir kaleye kendi kağanlarını oturtmuşlar. Bu kaleye de Arda Kağan yeri demişler. Bu deyim giderek Ardahan adına dönüşmüş.

Dördüncü söylencede ise, İskitlerin bu bölgeye yerleşirken kurduğu şehirleri bir incinin ipe dizildiği gibi, Kür Irmağının kenarına kurmuşlar. Kurulan en büyük yerleşim yerine Ard Akan adını vermişler. Çift akan anlamına geliyormuş. Bu ad da zamanla Ardahan olarak anılmaya başlamış.

Son söylenceye göre ise de, bu yöreye Arsaklar yerleşince kurdukları kalelerin adlarını da o günkü deyimle kale komutanlarının adını vermişler. Kurulan bu kalenin içinde ise oturan en büyük kale komutanı 14 yaşındaki Arsak Kayan adıyla anılırmış. Süreç içinde ise bu isim önce Arda Kayan, daha sonra ise Ardahan biçimine dönüşmüş.