比治山神社はもと黄幡大明神と称し、比治山南の谷(俗称・黄幡谷)に鎮座されていましたが、江戸時代の正保3年3月(西暦1646年)現在の地(比治山麓)に移して鎮守社となりました。
藩政時代には稲荷町三組、東柳町、下段原村、竹屋町南裏、平塚、竹屋村などの産土神として祀られ、毎年正月には当時の藩府より門松を添木され、九月の祭礼には湯立ての薪木を寄附されるなど崇められていました。
明治元年、神仏分離令の際社名をあらためて比治山神社と称し、
明治四年に拝殿を再建しました。
明治五年に村社に列せられ、明治四十年に神饌幣帛料 供進社に指定されました。
昭和二十年八月六日、原子爆弾により本・拝殿を焼失。
第一鳥居及び玉垣・狛犬などは戦前のものが残されました。
昭和二十二年、本・拝殿を仮再建し、昭和二十九年現在地ご鎮座三百年記念として三間社流造の本建築にて建立致しました。
昭和三十四年には神社本庁より別表神社に列せられました。
平成十九年、現在地御鎮座三百五十年記念として新社務所・境内整備を行いました。
令和元年五月一日、御大典記念として手水舎改修工事を行いました。