古代、大和朝廷で軍事と鎮魂を司った物部氏の総氏神である。記紀にも石上神宮・石上振神宮などの記述があり、古くから朝廷の尊崇を受けた。古代においては朝廷の武器庫の役割も果たしていたと考えられている。
御祭神の布都御魂大神は佐士布都神〔さじふつのかみ〕ともいい、葦原中国〔あしはらのなかつくに〕平定の際、武甕槌命〔たけみかづちのみこと〕が帯びていた霊剣・平国之剣〔くにむけしつるぎ〕である。熊野山中で危機に陥った神武天皇の軍勢を救うために天から降され、高倉下〔たかくらじ〕を通じて神武天皇のもとにもたらされた。神武天皇が即位されてからは物部氏の祖・宇摩志麻治命により宮中で祀られたが、崇神天皇７年（B.C.91）石上高庭〔いそのかみのたかにわ〕の現社地に遷され、その５代の孫・伊香色雄命〔いかがしこおのみこと〕によって祀られることとなった。これが石上神宮の創祀である。
また、布留御魂大神は、物部氏の始祖・鐃速日命〔にぎはやひのみこと〕が天降る際に携えてきた天璽十種瑞宝〔あまつしるしとくさのみづのたから〕（十種神宝〔とくさのかんだから〕）の霊力である。『先代旧事本紀〔せんだいくじほんぎ〕』によれば「ひふみの祓」を唱えながら十種神宝を振り動かせば、死者も生き返るほどの霊力があるとされる（参照「十種大祓」）。
さらに布都斯魂大神は、素盞嗚尊〔すさのおのみこと〕が八岐大蛇〔やまたのおろち〕を退治した天十握剣〔あめのとつかのつるぎ〕の威霊であり、布都御魂大神・布留御魂大神・布都斯魂大神を石上大神〔いそのかみのおおかみ〕と総称する。
石上神宮の天神庫〔あめのほくら〕には、各氏族や朝廷の莫大な武器や神宝が保管されていたとされる。延暦13年（794）桓武天皇の命によって石上神宮の神宝を平安京へ移すことになった。この時、石川吉備人は運搬に必要な人数を15万７千人余と答えたという。
平安以降も朝野の崇敬篤く、貞観９年（867）には神階正一位に進んだ。延喜式では「石上坐布都御魂神社 名神大」と記され、月次・相嘗・新嘗の官幣に預かった。永保元年（1081）には白河天皇が宮中の神嘉殿〔しんかでん〕を寄進し、拝殿とした。二十二社の制では中七社に列す。
中世には実質的な大和国守護となった興福寺が勢力を拡大し、石上神宮もその勢力下に入った（石上神宮の神宮寺である内山永久寺は興福寺大乗院に属していた）。これに対抗して、石上神宮を中心とする布留郷〔ふるごう〕の氏人はしばしば興福寺の勢力と争った（布留郷一揆）。
明治４年（1871）官幣大社に列し、同16年（1883）神宮号の復称が許される。
もともと石上神宮には本殿はなく、拝殿の背後に御神体・布都御魂剣などが埋められた禁足地〔きんそくち〕があった。明治７年（1874）大宮司・菅政友が官許をえて禁足地を発掘、御神体をはじめ多数の宝物が出土した。
大正２年（1913）禁足地に本殿が造営され、御神体が安置された。また、同じく禁足地に建てられた神庫〔ほくら〕には国宝の七支刀〔しちしとう〕他、禁足地から出土した宝物や伝世の神宝が収められている。
禁足地は現在も昔の通り、「布留社」と刻まれた剣先状石瑞垣で囲まれ、立ち入ることはできない。
神宮寺の内山永久寺は、大和では東大寺・興福寺・法隆寺に次ぐ寺格を誇っていた。江戸時代の朱印地は971石、壮大な伽藍であったが、明治の廃仏毀釈で廃寺となった。今はその姿をまったく留めないが、石上神宮境内にある摂社・出雲建雄神社〔いずもたけおじんじゃ〕（式内社）の拝殿は永久寺から移築されたもので、現存する唯一の遺構である。また、本社拝殿を囲む廻廊には永久寺ゆかりの品が展示されている。
