『삼국유사(三國遺事)』에 의하면 신라 법흥왕(法興王)이 양 무제를 위해서 527년 또는 529년 웅진에 세웠다고 한다. 학계에서는 신라 법흥왕을 백제 성왕으로 바꾸어 이해하고 있다. 한편, 대통사는 양 무제를 위해서 세운 절이 아니고 백제 성왕이 대통불을 모시기 위해 세운 사찰로 보기도 한다.
백제 성왕 때 세워진 대통사는 통일신라 이후에도 존속하였다. 현재 남아 있는 당간지주(幢竿支柱)는 통일신라시대의 것으로 추정된다. 고려 때의 기와도 출토되었다. 조선시대에 대통사에 관한 기록은 보이지 않는다. 조선시대 기록에 공주 시내 금강의 주1인 제민천 위에 대통교라는 다리가 보이는데 다리 인근에 대통사가 있어 붙여진 다리 이름으로 보인다.
『삼국유사』는 대통사의 대통(大通)을 중국 양나라 무제의 연호로 보고 대통사의 창건 연대를 대통 원년(527)으로 보고 창건 목적도 양 무제를 위한 것으로 해석한 것 같다. 하지만 양나라가 대통으로 연호를 바꾼 때는 527년 3월이기 때문에 백제에서 이를 알고 527년에 대통사를 세울 수 있는 여건이 되지 못한다. 『삼국유사』는 대통 원년은 신라의 흥륜사(興輪寺)가 세워지고 있었으므로 대통사를 세울 겨를이 없다고 하면서 중대통 원년(529)에 세워졌다고 하였지만 이 또한 중대통으로 연호를 바꾼 시기도 529년 10월이기 때문에 529년에 대통사를 세울 수 없다.
대통사에 대한 유일한 기록은 『삼국유사』 원종흥법염촉멸신조이다. 원종은 법흥왕이고 염촉은 이차돈(異次頓)으로 이차돈의 주2로 신라에 불교가 공인되는 과정을 서술하고 있다. 그러면서 법흥왕의 또 다른 업적으로 웅진에 대통사를 세운 것을 들고 있다. 이처럼 『삼국유사』의 대통사 기록은 많은 문제점을 안고 있다.
한편, 대통사의 대통을 대통불이란 부처의 이름으로 보기도 한다. 『법화경』에 의하면 대통불의 다른 이름은 위덕불이고 아버지는 전륜성왕이며 대통불의 큰아들은 지적이고 막내아들은 법왕[석가모니]이라고 한다. 백제에는 전륜성왕으로 자처한 성왕이 있고 성왕의 아들은 위덕왕(威德王)이고 성왕의 손자로 법왕(法王)이 있고 지적이란 이름을 가진 주3도 남아 있다. 창건 목적도 무령왕의 명복을 빌고 새로 태어난 창(훗날 위덕왕)의 건강을 위해 세운 절로 보면서 창건 시기도 무령왕의 주4이 끝나고 창이 태어난 525년으로 보기도 한다.
일제강점기에 공주시 반죽동과 중동 부근에서 '대통'명 기와가 발견되었다. 현재 당간지주가 서 있긴 하지만 당간지주 부근을 발굴해 본 결과 대통사지였는지는 정확하게 확인되지 않았다. 백제 대통사지의 정확한 위치는 현 당간지주 북쪽 대통교 부근으로 추정된다. '대통'명 기와는 부여 부소산성(扶餘 扶蘇山城)에도 발견되었고, 최근 공주 공산성(公州 公山城) 안에서 '대통사'란 명문이 적힌 벼루가 발견되기도 했다. 대통사의 정확한 위치는 알 수 없지만 대통교 건너 북쪽 지역에 대통명 기와가 다수 출토되고 있다.
우리나라에 불교가 들어온 시기는 고구려 소수림왕(小獸林王) 대인 372년이고 최초의 절은 373년에 세워진 성문사(省門寺)이지만 정확한 위치는 알려지지 않았다. 신라 최초의 절은 『삼국사기(三國史記)』에 의하면 528년(법흥왕 16)에 세워진 흥륜사지만 이 또한 위치에 대해선 논란이 있다. 백제 대통사는 현재 알려진 백제의 절 중에 그 위치를 정확히 알 수 있는 절이다.