1281年（弘安4年）9月「平原」というところで夜毎に不思議な光がありました。土地の人が見に行ったところ、それはなんと宝剣でした。この剣は「天国の剣」で神様が外敵を追い払う時にこの剣を箭として使ったに違いないと考え「箭の神」と称して祀りました。「箭神」の「箭」を「矢」、「神」を「上」としたのが地名の由来です。江戸時代には大王社・大王権現と称し、1872年（明治5年）正式に矢上神社となりました。例祭は10月17日で「矢上くんち」と呼ばれ、シャギリや間の瀬狂言、中尾の獅子舞等が奉納されます。また県下有数の大きさを誇るクスノキがあります。