Bazı araştırmacılar, Kelkit Çayı' nın Antik Çağ'da Helen dilinde kurt anlamına gelen Lykos şeklinde ifade edildiğini belirtmektedirler. Onlara göre bu kelime daha sonra Ermenice'ye tercüme edilerek gail-get olarak söylenmeye başlanmıstır, ardından da Kelkit'e dönüşmüştür.
Bir başka hakim görüş ise Kelkit isminin 7. Yüzyılda yöreye gelip yerleşen Peçenek Türklerinden Kilki Beyden geldiği görüşüdür. Kelkit'in Kilki Beyin çiftliği olarak anıldıgı rivayet edilmektedir ki Kelkit ilçe merkezinin diğer bir adı da Çiftlik'tir.
Bazı araştırmacılar ise, ilk çağlarda yörede Kerkit adında bir halkın yaşadığına dikkat çekmektedirler. Ünlü tarihçi Strabon (bkz: Strabon), bu görüşü doğrulamakta, bölgenin dağlık kesimlerinde Appaitler adında bir kavmin yaşadığını ve bunların da Kerkit'lerin soyundan geldiğini ifade etmektedir. Bu durumda Kelkit adının değişik bir kullanımla ta ilk çağlardan beri kullanıla geldiğini yazmak mümkündür.
Alansa-ki yeni ismi Gümüşgöze beldesidir-Kelkit'in bir köyüydü.Şimdi ise beldesi durumundadır.
