景行天皇43年(113)日本武尊は東国征討からの帰途、伊勢の能褒野〔のぼの〕において薨去した。景行天皇はこれを嘆き、御名代〔みなしろ〕として建部〔たけべ〕を定めた。
景行天皇46年(116)神勅により、近江安国造〔おうみのやすのくにのみやつこ〕の娘で日本武尊の妃の布多遅比売〔ふたじひめ〕とその御子・稲依別王〔いなよりわけのみこ〕が神崎郡建部郷に尊の神霊を祀ったのが、建部大社の創祀とされる。
天武天皇の御代、勅により建部連安麿〔たけべのむらじやすまろ〕が瀬田郷大野山に遷祀し、さらに天平勝宝7年(755)建部公尹賀麿〔たけべのきみいがまろ〕が勅によって現社地に遷した。このとき、大和の三輪山より大己貴命を勧請し、権殿に祀ったという。貞観2年(860)官社に列し、延喜式神名帳では名神大社。近江国一宮として朝廷・武門の崇敬篤く、たびたび神領を寄進された。
永暦元年(1160)源頼朝は伊豆に配流される途次、建部大明神に参籠して源氏再興を祈願した。建久元年(1190)宿願成就した源頼朝は、上洛に際して再び参詣し、奉賽として神宝や神領300戸を寄進している。以来、出世開運・武運の神として広く崇められるようになった。しかし、交通の要衝にあったことから兵火にかかることもたびたびであった。
江戸時代には膳所藩主の戸田氏・本多氏の崇敬を受ける。明治4年(1871)県社に列格、同18年(1885)官幣中社、さらに同33年(1900)官幣大社に昇格した。戦後、社号を建部大社と改称した。