Köyün eski adı Geley'dir. 1522 yılındaki ve 1928 yılındaki bazı Devlet Arşivlerinde köyün adının Gelay veya Geloylar olduğu belirtilmektedir. Uzun yıllar önce Kılıçpınarı köyü Şebinkarahisar'a bağlıydı. Köyün ilk yerlileri ''Karakeçili Oğuzlar'' aşiretinden olan ''Köseoğulları'' sülelesidir ve Koyulhisar'ın Ameyle köyünden Kılıçpınarı'na göç etmişlerdir. Köyün ilk yerlileri arasında ''Demirciler'' sülalesi, ''Alioğulları'' sülalesi ve ''Çıtaklar'' sülalesi yer almaktaydı. Rum Pontus Devleti yani diğer adıyla Trabzon İmparatorluğu zamanında Kılıçpınarı köyü ''Uç beyliği'' statüsündeydi ve Düyûn-ı Umûmiye tarafından Kılıçpınarı köyüne o dönem tarım arazisi tahsis edilmiştir. Kılıçpınarı köyünde Osmanlı İmparatorluğu öncesine dayanan camii ve vakıf arazisi vardır. Bölgedeki en eski köylerin başında gelir. Kurtuluş Savaşı'nda ve Çanakkale Savaşı'nda Kılıçpınarı köyünden birçok kişi orduya katılmıştır.