三輪明神と称するように、三輪山そのものを御神体とし、拝殿のみあって本殿を持たない。このように本殿を持たない神社というのは、他の旧官国幣社では信濃の諏訪大社と武蔵の金鑚神社のみであり、神社の古い形態を残していると考えられている。本殿の背後には、三輪鳥居と呼ばれる三ツ鳥居がある。
三輪山は三諸山〔みもろやま〕ともいい、古来「三諸の神名備〔かんなび〕」と称される。なだらかな円錐形の秀麗な姿をしており、古くから信仰の対象になっていた。山中には磐座〔いわくら〕などの祭祀遺跡があるという。大和でも特に古い神社の一つであり、朝野の尊崇を集めてきた。
記紀の伝えるところでは、少彦名神が常世の国に去った後、大物主大神が海を照らしながら現れて大己貴神（大国主命）に協力を申し出、三輪山に祀られたことを淵源とする。日本書紀によれば、大物主大神は大己貴神の「幸魂〔さきみたま〕・奇魂〔くしみたま〕」だという。
崇神天皇の御代、疫病が大いに流行った。大物主神が倭迹迹日百襲媛命〔やまとととひももそひめのみこと〕に神懸かりして託宣があったため、天皇は伊香色雄命〔いかがしこおのみこと〕に命じ、大田田根子〔おおたたねこ〕に大物主神を祀らしめた。これが大神神社の始まりである。大田田根子の子孫は三輪君〔みわのきみ〕（後に大神氏〔おおみわし〕）を称し、累代大神神社の祭祀を司った。
また、三輪山の神と人間の女性が婚姻関係を結ぶ三輪山伝説もよく知られる。（賀茂社でも同系統の説話が『山城国風土記』に残っている）。
以後、朝廷の崇敬篤く、奉幣・祈願もたびたびであり、貞観元年（859）には正一位に昇叙している。大和国の一宮とされ、二十二社にも列した。
奈良時代には神宮寺として大神寺〔おおみわじ〕（大三輪寺とも。後に大御輪寺〔だいごりんじ〕）が創建された。中世以降は慶円の開いた三輪別所に始まる平等寺が台頭し、大御輪寺にとってかわった。いずれも真言宗で、両部神道系の三輪流神道〔みわりゅうしんとう〕が行われていた。
しかし、明治の神仏分離で廃寺となり、堂塔の大半は破却された。ただ、大御輪寺の本堂は、内部に若宮を祀っていたことから、本尊・十一面観音像を聖林寺に遷し、摂社・大直禰子神社〔おおたたねこじんじゃ〕（若宮社）とされた。用材には奈良時代の創建当時のものも使用されているという。現在は国の重要文化財である。
なお、平等寺は後に曹洞宗の寺として再興された。また、末社の三輪成願稲荷は、同じく大神神社の神宮寺で尼寺だった浄願寺の跡に稲荷を勧請したものである。
