7세부터 서당에 들어가 한학(漢學)을 익혔고, 15세에 고향의 익명 학원(益明學院)에 입학하여 19세에 졸업하였다. 이후 경성으로 올라가 1910년에 중동학교(中東學校)를 졸업하고 의학 전문학교에 입학하였다. 1912년에 의학 전문학교를 졸업함과 동시에 동래 범어사(梵魚寺)로 내려가 백용성(白龍城)을 은사로 출가하였다.
그 뒤 맹산(孟山)의 우두암(牛頭庵)에서 한암(漢巖)에게 사교(四敎)를 배웠다. 이후 범어사로 돌아와 대교(大敎)를 배웠으며, 1923년에 장성 운문암(雲門庵)에서 구족계(具足戒)를 받았다. 그 뒤, 오대산 상원사(上院寺), 금강산 마하연사(摩訶衍寺), 속리산 복천암(福泉庵), 마천 백운암(白雲庵), 김천 직지사(直指寺) 천불선원(千佛禪院) 등 전국의 선실(禪室)을 찾아 수행하였다. 이처럼 출가하여 먼저 교학을 연마한 후에 선원에서 정진하였던 수행 이력이 말해 주듯, 전형적으로 사교입선(捨敎入禪)을 지향하였다. 선교 일치의 관점을 취하면서 다른 한편으로 사교입선의 전통을 지니는 간화선(看話禪)의 전통을 따랐음을 알 수 있다.
1941년에는 서울의 선학원(禪學院)에서 열렸던 은사 용성의 유교 법회(遺敎法會)에 참석하여 선지(禪旨)를 현양하였다. 그에 앞서 그는 1936년에 범어사에서의 동안거 당시, 용성에게서 계맥(戒脈)의 전계증(傳戒證)을 받은 바 있다. 즉 조선 후기 자생적인 서상수계(瑞祥受戒)의 계맥을 용성에게서 전수받은 것이다. 그 전법 게문이 공개되거나 파악되고 있지는 않지만, 이러한 혜일의 계맥은 다시 제자 성철(性徹)에게 전수되었을 것으로 보고 있다.
범어사의 금강계단(金剛戒壇)은 그에 의하여 전통이 세워졌는데, 여러 해 동안의 교수아사리(敎授阿闍梨)를 거쳐 1943년에 전계 대화상(傳戒大和尙)이 된 뒤 1965년 입적하기까지 수많은 불제자를 배출하였다. 범어사 금강계단의 계맥(戒脈) 외에도, 지리산 칠불선원(七佛禪院)의 대은(大隱) 율사(律師)에서 시작되어 금담(錦潭)-초의(草衣)-범해(梵海)-선곡(禪谷)-용성의 여러 율사로 전수되어 온 계맥도 전수받았다.
해방 이후 1954년에는 전국 비구의 선두에 서서 불교 정화(佛敎淨化)를 주도하였다. 그는 전국 비구승 대회를 통해 종정으로 추대되었다. 그를 주축으로 한 비구승들은 대처승에 의하여 강점되었던 태고사(太古寺)를 다시 찾기 위하여 소송을 제기하여 1954년 11월 5일 정식으로 태고사를 접수하고 조계사(曹溪寺)라 개칭하였다. 종정으로서 불교 정화를 이끈 그는 1962년에 비구-대처의 통합 종단이 성립된 이후 모든 직책을 사임하고 범어사로 돌아와 후학들을 지도하다가, 1965년 음력 3월 23일에 입적하였다.
한편 불교 정화를 이끄는 와중에 세계 불교도 대회에 참석하여 한국 불교와 정화의 취지를 알리기도 하였다. 1955년에 네팔에서 열린 제4차 세계 불교도 대회에 한국 종단의 대표로 효봉(曉峰) · 청담(靑潭)과 함께 참석하였고, 1956년에는 방콕에서 열렸던 세계 불교도 대회에 참석하여 한국 불교를 널리 알리는 데 힘을 쏟았다.
그는 ‘삼학원명(三學圓明)’이라고 하여 계정혜 삼학을 구족할 것을 강조했다. 삼학 중에서도 계학(戒學)의 중요성을 강조하여 계율의 수지 없이 삼학을 등지(等持)할 수 없다고 했다. 즉 계가 없는 정(定)이 없고, 정이 없는 혜(慧)가 없음을 알고 수행해 나간다면 저절로 계정혜 삼학이 이루어진다고 하였다. 일제강점기와 해방 이후 불교계의 혼란 속에서 파계와 무애(無碍)가 혼동되는 현실을 몹시 우려하며 계행(戒行)의 준수를 강조하였던 것으로 보인다.
수행자의 마음 쓰는 법은, 자심(自心)이 곧 부처라는 전제로부터 시작된다고 하면서, 성품이 곧 부처이고 부처가 곧 성품임을 알 때 그 깨달음의 길이 열린다고 보았다. 즉, 계행(戒行)의 궁극적 목적은 자성(自性)을 회복하여 깨치는 것임을 강조한 것이다. 혜일이 종단의 청정 가풍을 진작시키기 위해 정화 운동에 힘을 기울였던 것도 바로 이러한 계행의 강조와 실천으로부터 비롯된 것이라고 볼 수 있다.
유첩(遺帖)으로는 범어사에서 제자들이 편찬한 『동산대종사석영첩』이 있다.