創建年代は不詳だが、東海道を代表する大社として朝野の尊崇を集めた。
御祭神は三嶋明神と称する。三嶋明神については、古くより大山祇神とする説が強く、伊予国大三島の大山祇神社より勧請したものともいわれてきた。しかし、平田篤胤が事代主命とする説を唱えたことにより、明治６年（1873）祭神を八重事代主神とした（後に玉籤入彦厳之事代主神）。これに対する異論もあり、昭和27年（1952）両神を合わせて三嶋明神と称するようになった。
三嶋（三島）は「御島〔みしま〕」の意味で、三嶋大神は伊豆諸島の造島・噴火を神格化した神だと思われる。元は三宅島を本拠地とし、後に下田市白浜へ遷ったと伝えられる。伊豆諸島には神津島の阿波命神社〔あわのみことじんじゃ〕・物忌奈神社〔ものいみなじんじゃ〕をはじめ、三嶋大神の妃や御子神が祀られている。
延喜式では名神大社に列し、月次・新嘗の官幣に預かっているが、賀茂郡の筆頭に記載されている（三島市は旧君沢郡、平安時代は田方郡だった）。当時は下田市白浜にあって、三嶋大神の后神を祀る伊古奈比咩命神社〔いこなひめのみことじんじゃ〕と同じ神域に鎮座していたが、平安時代の中頃、国府近くの現社地に新宮として勧請されたのが現在の三嶋大社だと考えられている。総社または六所宮の一社として勧請されたものともいう。
伝承によれば、三嶋大神は現社地に遷座するにあたり、当地に鎮座していた若宮八幡に対し、藁一把分だけ土地を譲ってほしいと頼み、承諾を得た。ところが、三嶋大神は藁束を解いて一本につなぎ合わせ、広大な敷地を囲ってしまった。そのため、若宮八幡は三嶋大社に背を向けて建っていたという（現在は三嶋大社と同じく南面している）。
伊豆に流された源頼朝は三嶋大社を深く崇敬し、例祭の夜に平家打倒の旗揚げをした。鎌倉に幕府を開いてからは社領や神宝を寄進し、鶴岡八幡宮に御分霊を勧請するなど、伊豆・箱根の二所権現とともに特に篤く遇された。以来、武門の尊崇篤く、各地に三島神社が勧請された。
室町時代から江戸時代にかけて、「三島暦」を発行したことでも知られる。
明治４年（1871）官幣大社に列する。戦後は、各地の三島神社の根本社であることから三嶋大社と称するようになった。
