본관은 기계(杞溪). 자는 군옥(君玉) 또는 중옥(仲玉). 호는 정산(鼎山). 진주 출신. 아버지는 효력부위 유수창(兪壽昌)이다.
1525년(중종 20) 사마시에 합격하여 진사가 되었으나, 문과 응시를 단념한 채 성리학연구에 몰두하는 한편 후학 양성을 업으로 삼았다.
이복형제 둘이 유백온을 해치기 위하여 좁은 골목길에서 기다리고 있었는데, 이를 보고 말에서 내려 그들을 간절하게 타일렀다. 이에 감동된 그들도 차마 해치지 못하고, 그때부터 형제간 우애가 더욱 두텁게 되었다.
진주의 정강서원(鼎岡書院)에 정온(鄭溫) 등과 함께 배향되었으며, 아들 유함(兪晗)은 임진왜란 때 의병장으로 진주성싸움에서 진몰(陣歿: 전투하던 진지에서 죽음)하여 정충사(旌忠祠)에 배향되었다.