社伝によると往昔、このあたり一帯の地を八剱の里と呼び、この里の神を八剱の神と称え、この神に仕えるはふりを八剱と申した。
人皇第１２代景行天皇の４０年、日本武尊（ヤマトタケル）御東征の折、浦賀沖で暴風雨に遭遇。妃橘姫（おとたちばなひめ）が海の神の怒りを静めるため御入水あそばれた。尊は無事に此の地にお着きになりましたが、姫の死を悼んでしばらく当社にご滞留になり、此の地を去ることをなさらなかったので、「君去らず」と呼ぶようになり、なまって現在の「木更津」になったと伝えられる。
社殿は、源頼朝鎌倉幕府開幕にあたり神領を寄進して造営された。