Kuruluşu M.Ö 5000 yıllarına dayanan Gümüşhane’ de hiç kuşkusuz tarihi süreç içerisinde yukarıdaki unsurların etkilemesiyle günümüze dek önemini kaybetmemiş yerleşim yerlerimizden birisidir. Gümüşhane ilk defa, günümüzde Canca adıyla bilinen ve bugünkü şehrin kuzeybatısında bulunan mahallenin olduğu yerde kurulmuştu. Bütün eski kaynakların tasvirlerine göre gümüş yatakları da bu mevkide bulunuyordu. Bu sebeple şehrin adı Türk kaynaklarında Canca biçiminde geçmektedir. Evliya Çelebi’ye göre Büyük İskender’in hakimlerinden Philikos tarafından bu yörede gümüş madenleri bulunduktan sonra eski Canca Kalesi onarım görmüş ve şehrin önemi artmıştır. İskender döneminden sonra Pontus Devleti’nin, daha sonra da Roma İmparatorluğu’nun sınırları içine giren Canca Kalesi, bu imparatorluğun ikiye ayrılmasından sonra da Doğu Roma (Bizans) sınırları içinde kaldı. Gümüşhane yöresi, Bizans’ın idarî birimlerinden olan Khaldia “tema”sı içinde yer alıyordu. Bu ad, Ortaçağ İslâm kaynaklarından İbn Hurdâzbih ve Kudâme b. Ca‘fer’in eserlerinde Haldiye veya Hâlidiyât şeklinde geçmektedir. Harşit vadisi ve bu arada Canca Kalesi (Gümüşhane) Şelçuklular’ın en erken ulaştığı yerler arasındadır. Tuğrul Bey döneminde Şelçuklular’ın Bizans’a karşı kazandığı ilk zafer olan Pasinler ovasındaki savaştan (18 Eylül 1048) sonra Gümüşhane dolayları geçici de olsa bir süre Türkler’in elinde kaldı. Alparslan’ın Malazgirt Savaşı’nı kazanmasından sonra Erzincan yöresine hâkim olan Emîr Mengücük Gazi, Gümüşhane dolaylarını zapt ederek Erzincan imaretine bağladı. Anadolu Selçukluları zamanında Gümüşhane, Harşit vadisinden geçerek Maçka’ya kadar ilerleyen Melik II. Gıyâseddin Keyhusrev ve atabegi Mübârizüddin Ertokuş kumandasındaki kuvvetler tarafından ele geçirildi. Moğol istilâsı başladıktan sonra Anadolu’nun birçok yeri gibi Gümüşhane ve çevresi de İlhanlılar’ın hâkimiyeti altına girdi. İlhanlılar’ın saltanat kavgasına düşerek kuvvetlerini kaybettikleri sırada ise Gümüşhane komşusu Bayburt gibi Celâyirliler’in idaresine geçti. XIV. yüzyılın ilk yarısında merkezi önceleri Sivas, daha sonra Kayseri olan Eretnaoğulları’nın hâkimiyetini tanıdı. Ardından Kadı Burhâneddin, Akkoyunlular, Karakoyunlular arasında el değiştirdi; zaman zaman da Trabzon Rum Devleti’nin idaresine girdi. Fâtih Sultan Mehmed’in bu devlete son vermesi üzerine de Osmanlı topraklarına katıldı. Fakat bu hâkimiyet uzun sürmedi. 1467’de Gümüşhane yöresi Akkoyunlular tarafından ele geçirildi. Akkoyunlu hâkimiyeti 1473 yılında Fâtih Sultan Mehmed’in Otlukbeli Savaşı’nda Uzun Hasan’ı yenilgiye uğratmasıyla son buldu. Bu tarihten sonra şehir kesin olarak Osmanlı hâkimiyetine geçmiş oldu. Kanûnî Sultan Süleyman döneminde şehrin yerindeki ilk değişiklik gerçekleşti; yeni gümüş yataklarına daha yakın olan mevkide Süleymaniye Camii adı verilen bir cami ile bu cami çevresinde elli kadar evin inşası emredildi. Bu şekilde günümüzde Süleymaniye mahallesi ya da Eski Gümüşhane adı verilen şehrin temelleri atılmış oldu. Bunun üzerine Canca sönükleşmeye, yeni kurulan ve muhtemelen bu dönemde Gümüşhane adı verilen şehir gelişmeye başladı. Bu şehir, Harşit ırmağına sol taraftan karışan Musallâ deresinin yamaçlarında ve bugünkü Gümüşhane’ye 4 km. kadar uzaklıkta kurulmuş, mahalleleri 1400-1500 m. yükseklikler arasında amfiteatr şeklinde yayılmıştı. Gümüşhane’den çıkan gümüş ve bakır hükümet tarafından satın alınarak gümüş kısmı darphâneye, bakır tophâneye gönderilir, bakırın fazlası da dışarıya gitmemek şartıyla ülke içinde sarfedilirdi. Buradan çıkan gümüş, sikke kesmek üzere ülkenin başka darphânelerine gönderildiği gibi Gümüşhane’de de sikke kesilmekteydi. İsminin Gümüşhane olarak değiştirilmesine rağmen bu sikkelerde hâlâ Canca adının da kullanıldığı dikkati çeker. Kanûnî Sultan Süleyman (926/1520) ve onun ardından gelen iki padişah da Gümüşhane’de sikke kestirmişlerdi (II. Selim döneminde ve III. Murad döneminde.
Kâtib Çelebi Cihannümâ’sında Gümüşhane’den “azîm ve mâmur” bir kasaba olarak söz eder. 1647 yılında buraya gelen Evliya Çelebi de maden yataklarının zenginliğini anlatıp bazısı kapalı, bazısı işleyen yetmiş gümüş madeni ocağı bulunduğunu, bu tarihte darphânesinin çalışmadığını, fakat üzerinde Canca yazılı sikkeler gördüğünü söyler. Evliya Çelebi’nin şehri ziyaret ettiği yıllardan önce sona eren IV. Murad dönemi (1623-1640), şehrin yeni yerinde en fazla geliştiği dönemlerden biri olmuştur. XVIII. yüzyılda burada maden çıkarılması ve aynı yüzyılın ilk yarısında gümüş sikke darbı sürdürülmüştür. 1130 (1718) ve 1143 (1730-31) tarihlerini taşıyan sikkelerde artık Canca adının kullanılmadığı, Gümüşhane isminin geçmeye başladığı görülmektedir. Şehrin önemi XIX. yüzyıla kadar devam etmiştir. Devlet idaresinin Gümüşhane’ye ve çevresindeki madenlere verdiği önem, zaman zaman buradan Tophâne-i Âmire için bakır getirilmesine, darphâneye gümüş gönderilmesine, Gümüşhane madenlerinden çıkan gümüşün dışarıya satılmamasına, buradaki madenlerin sermayesine ve madenlerde çalışan işçilere dair hükümler göndermesinden de anlaşılmaktadır. Ancak XVIII. yüzyılın ikinci yarısında III. Mustafa döneminde (1757-1774) su dolan maden ocakları Fransa’dan getirtilen aletlerle de çalıştırılamayınca şehir canlılığını yitirmeye başlamıştır. XIX. yüzyılın başlarına gelindiğinde maden yatakları giderek tükendi. 1829 yılındaki Osmanlı-Rus harbi esnasında Rus kuvvetleri Gümüşhane’ye ulaşamadılarsa da çok yakınındaki Hart ovasına kadar geldiklerinden Gümüşhane bu savaştan etkilendi; nüfusun ve özellikle madencilikle uğraşan gayri müslim nüfusun önemli bir kısmı ülkenin başka yerlerine göç etti. Bu da madenciliğin ve şehrin gerilemesine, nüfusunun azalmasına yol açtı.
Aynı yüzyılın ortalarında yörenin ormanlarının tükenmesi sonucu yakıt sıkıntısı da buna eklenince maden işletmesi durdurulmuştur. XIX. yüzyılın ilk yarısında terkedilen ve kapatılan gümüş madeni ocakları için 1883’te son bir denemeye girişildi ve maden işletmesi bir şirkete verildi,fakat bu son teşebbüste de hâsılatın işletme masrafını karşılamadığı görüldüğünden faaliyet tamamıyla durduruldu. Bunun üzerine önemi çevresindeki madenlerin varlığına dayanan yerleşme merkezi yavaş yavaş 3 km. ötedeki Harşit vadisine kaydı. Önceleri bu vadi boyunda bahçeler ve meyvelikler arasına serpiştirilmiş yazlık evler sıralanırdı. Zamanla bu kesimde Trabzon’u Erzurum’a bağlayan işlek yolun (Trabzon-Erzurum-İran transit yolu) kenarında önce ticaret, sonra da bir yönetim merkezi doğdu. Gümüşhane 87 yıl sonra Birinci Dünya savaşı sırasında, ikinci kez 19 Temmuz 1916 yılında Ruslar tarafından işgal edilmiş ve yaklaşık iki yıl Rus ve Ermenilerin vahşetine sahne olmuştur.
16 Şubat 1916’ da Erzurum’ un Ruslar tarafından işgal edilmesi üzerine 3. ordu komutanlığına getirilen Vehip paşa Tercan’ın batısından, Bayburt’un doğusu ve Trabzon’ un batı hattına kadar ilerlemiş olan düşmanı durdurur. 1916 Mayıs ayı başında Vehip paşa elindeki kuvvetlerle Ruslara saldırır, bu saldırı Rus ordusunun planını bozar. 18 Haziran 1916 günü düşmanın Trabzon kanadına saldırı gerçekleştirilir, Rusların 1. alayı 34. Tümenimizin çekilmesiyle boş kalan yerlerden 19 Temmuz 1916 günü Gümüşhane’ ye girer, Gümüşhane’yi işgal eden Rus kuvvetleri Trabzon yolunu kendilerine açmış olurlar.
Gümüşhane ve çevresi bu işgal karşısında özellikle Ermeni zulmü altında ezilirken, Rusya’ da çıkan ihtilal nedeniyle 18 Aralık 1917 de Erzincan Mütarekesi imzalanmış Ruslar ordularını geri çekmeyi kabul etmişlerdir. Ancak Ermeniler Gümüşhane ve çevresinde katliamlarına devam etmişler, 3. Ordu komutanı Vehip Paşa tek taraflı olarak 5 Şubat 1918’ de Erzincan Mütarekesinin geçersiz olduğunu ilan ederek 3. Kafkas ordusu ile yeniden savaşı başlatmış ve bu suretle Gümüşhane 15 Şubat 1918’ de Rus işgalinden kurtarılmıştır.
Bugün Gümüşhane’ nin düşman işgalinden kurtuluşunun 104. yıldönümünü kutluyoruz. Türk tarihi, Türk Milletinin bağımsız yaşama tutkusu ve varlığını sürdürmek için yaptığı inanılması güç mücadelelere ilişkin olaylarla dolu savaşlara sahne olmuştur. Türk Milletinin ölümsüz zaferlerini kanları ile tarihe yazan aziz şehitlerimizi daima hatırlamak, kahramanlarımıza ebedi şükran borcumuzu ifade etmek ve gelecek nesillere anlatmak hepimizin başta gelen görevidir.