오늘날에는 완전히 폐사가 되어 그 유적지만 전한다. 창건자와 창건연대는 분명하지 않으나, 당시 일본에 망명해 있던 백제의 왕족들이 본국의 오함사(현 충청남도 보령시 미산면 성주리에 그 유적이 남아 있음)를 본떠 세운 절일 것으로 추정되고 있다.
이로 말미암아 창건연대도 어느 정도 추정이 가능하다. 백제의 오함사가 616년(무왕 17)에 무왕이 신라와의 전쟁에서 이긴 것을 기념하고, 또 전몰자의 명복을 빌기 위하여 건립되었으므로, 일본 오함사의 건립은 적어도 그 이후가 될 것이다.
일본의 오함사가 위치하였던 곳은 백제촌(百濟村)이라 불릴 만큼 일찍이 백제계통의 이주민들이 많이 거주하였던 지역이다. 그 예로서, 583년에 백제의 사신 일라(日羅)가 부하에게 살해당하였을 때, 그 유족과 수행원들을 이곳에 머물게 하였던 것은 그만큼 이 지역이 백제인들이 많이 거주하는 곳이었기 때문이었다.
백제 왕자 교기(翹岐)가 643년(의자왕 3)경 일본으로 건너갔을 때도 이곳에 거주하였다. 이와 같이, 이 절은 백제의 왕족과 그 유민들에 의하여 건립되고 신앙화되었다. 1959년 기타노[北野耕平] 등에 의하여 발굴 작업이 이루어졌는데, 그 결과 유구(遺構)의 존재가 확인되었다. 또 수많은 기와를 비롯하여 소상(塑像)과 삼채도기(三彩陶器)의 조각, 금동금구(金銅金具)의 조각 등이 출토되었다. 특히, 출토된 기와들 가운데에는 아스카시대[飛鳥時代]의 최고(最古)의 시기에 속하는 것이 있으며, 또 백제계통의 소변연화문(素弁蓮花文)의 것도 있다.