1903년 음력 7월 10일 황해도 연안군에서 황원준과 송충성의 1남 2녀 중 맏딸로 태어났다. 법명은 정신행(淨信行), 호는 팔타원(八陀圓)이다.
1912년 황해도 연안보통학교에 입학하였고, 1916년 서울 이화학당 중등부에 진학하였다. 1918년 2월 이화학당 중등부를 졸업하고, 그해 3월 경성여자고등보통학교에 진학하였다. 1919년 3·1운동 당시 어머니 송충성이 연안 지역 만세운동에 적극 가담하여 투옥되었다. 황온순도 재판을 받았으나, 어머니 대신 어린 동생을 돌보아야 하는 상황 등이 참작되어 구속되지 않았다.
1921년 중국 지린[吉林]으로 이주하여 길림성립여자중학교에 입학하였고, 1922년에는 길림여자사범학교에 입학하였다. 1923년 귀국하였다. 지린에서 지낼 때 일본 측에서는 황온순을 상하이[上海] 독립운동가들과 연결된 '배일사상 포지자'라고 보았다.
1923년 이화학당 유치원사범과에 입학하여 1926년 졸업하였다. 졸업 후 수송유치원 보모를 거쳐 1927년부터 1937년까지 일본 불교 정토종 재단에서 설립 · 운영한 화광교원에서 유치원 교사로 일하였다.
1936년 서울 돈암동 원불교 교당에서 원불교 창시자 박중빈을 처음 만난 후 원불교를 받아들이고 교리 공부에 정진하였다. 1938년 전라북도 원불교 총부 안에 탁아시설인 자육원을 신설하여 여성들이 동원된 뒤 고아 상태로 남은 아동들을 돌보았다. 1941년에는 서울 동대문부인병원 내에 탁아소를 설립하여 원불교 여성 교우들을 고용하였다.
1945년 9월 ‘불법연구회 전재동포구호회’ 설립에 참여해 전재민 구호에 앞장섰다. 원불교의 서울 전재 동포 구호 사업 참여 과정에서 부모 잃은 고아들을 동대문부인병원에 수용해 돌보았다. 1946년 2월 서울 한남동에 설립된 고아원인 보화원의 초대 원장을 맡았다.
한국전쟁 중인 1950년 12월 20일 미군은 군 수송기를 통해 전쟁고아 907명 등 1,000여 명을 제주도로 피난시켰다. 황온순은 1951년 제주도에 수용된 전쟁고아들을 돌보는 한국보육원 원장을 맡았다. 전쟁으로 경제가 힘들어 보육원 원아들의 식량을 구하기 어렵게 되자, 서울의 땅을 팔아서 보육원 운영에 보탰고, 도청과 군부대를 드나들며 식량을 구하였다. 이러한 활동으로 인해 '전쟁고아의 어머니'로 불렸다.
1955년부터 제주도 한국보육원 원아들을 서울 이문동으로 이주시켰으며, 1957년 한국보육원에 화재가 발생하자, 인근인 휘경동으로 이전하였다. 1961년 제5대 한국사회사업연합회 회장으로 취임하였다. 1970년 1월에는 휘경동에 소유하고 있던 대지와 임야를 전부 기증하여 학교법인 휘경학원을 설립하고 이사장에 취임하였다.
육영 사업에 대한 공로로 1984년 12월 30일 제28회 소파상을 수상하였다. 1994년 10월 14일에는 한국여성단체협의회가 주는 제30회 용신봉사상을 수상하였다.