原爆被災者と戦没者の冥福を祈って建てられた高さ約34mの「万国霊廟長崎観音」が寺のシンボルです。大雄宝殿があり国宝に指定されていたものの、1945年（昭和20年）の長崎原爆で全焼してしまいました。現在は亀の上に載った大きな「万国霊廟長崎観音」があります。1864年（元治元年）勝海舟について初めて長崎に入った坂本龍馬は、まずこの福済寺に逗留しました。