摂津の住吉大社（大阪市住吉区）、長門の住吉神社（下関市）とともに三大住吉神社の一に数えられる。最初の住吉神社であることから、古書にも「住吉本社」「日本第一住吉宮」等とある。
記紀に、伊弉諾大神が黄泉より戻った後、筑紫の日向の橘の小戸の阿波伎原で禊祓をされた時、住吉三神が御出現になった。その小戸の阿波伎原が当地だという。因みに、対岸の志賀島には住吉三神と同時に現れた綿津見三神の総本宮・志賀海神社が鎮座している。
神功皇后は三韓征伐より凱旋した際、住吉大神の導きに感謝して勅祭を行った。これが当社の例祭の起源であるという。また11月の歩射祭は、元慶２年（878）、新羅の海賊船による襲撃の気配があったため、陽成天皇は勅使を派遣して奉幣した。その霊験があらたかであったことから、太宰府の役人が奉賽として歩射を行ったことに因むという。
以来、朝廷・武門の崇敬篤く、天平９年（737）には奉幣があり、延喜の制では名神大社に列し、歴代天皇がたびたび奉幣をされている。寛仁元年（1019）には後一条天皇の一代一度の奉幣に預かった。また、筑前国一宮として尊崇され、神領三千町余、神人三百人余に及んだこともあったという。
しかし、相次ぐ戦火などにより衰退し、戦国時代には社殿も荒廃してしまった。天文20年（1551）、社殿の再建を依頼するため、神官２名が伝来の宝物を携えて周防の大内義隆を訪ねた。義隆はこれを承知したが、陶晴賢の反乱に遭遇し、義隆は自害した。２名の神官は、義隆への恩義のために出陣し、戦死してしまったため、携えていった神宝も散逸してしまったという。
筑前の一宮については、住吉神社を当てる説と筥崎宮を当てる説があるが、筥崎宮を一宮とする資料は近世以降のものしかないのに対し、住吉神社については建武元年（1334）の資料がある。本来は住吉神社が一宮であったが、上記のように衰退してしまい、一宮としての機能が果たせなくなってしまったため、筥崎宮が一宮を称するようになったのではないかという。
江戸時代には藩主黒田家も篤く崇敬した。現在の本殿は元和９年（1623）に黒田長政が再建したもので住吉造、国の重要文化財に指定されている。
