当神社は宝亀３年（７７２年）に滋賀県大津市に鎮座する日吉大社より御霊を勧請され山王宮として創建されました。

現嘉麻市の一部の地域は平安時代後期、太宰府市の観世音寺の荘園とされており奈良県の東大寺等にお米を納めなければならなかったため嘉麻市の人々は日吉神社を地域の守護神・五穀豊穣の神として崇敬され現在に至ります。

創建以来、藩主秋月氏らによる増築・改修を繰り返してきましたが、江戸時代に大改修が行われて以来２００年以上経ち老朽化が進んでいたため、氏子崇敬者の皆様のご協力により社殿・手水舎の大改修・社務所の新築が平成12年に行われました。