가계와 출신지는 자세하지 않다. 채온겸(蔡溫謙)은 거란의 제2차 침입(1010(현종 1)∼1011(현종 2)) 때 활약한 무신이다. 1010년(현종 원년) 11월 거란의 성종이 직접 40만 대군을 이끌고 고려를 침입하자, 고려에서는 강조(康兆)가 30만 군사를 거느리고 통주(通州) 삼수채에서 방어했지만 패배하여 포로가 되었다. 거란군은 통주(通州, 평안북도 선천군)에 이르러 항복하기를 강요하였다. 이때 대장군(大將軍) 채온겸은 방어사(防禦使) 이원구(李元龜), 부사(副使) 최탁(崔卓), 판관(判官) 시거운(柴巨雲) 등과 함께 성문을 굳게 닫고 민심을 통일시켜 거란군의 공격을 물리쳤다.
이후 채온겸의 행적이 발견되지 않으나 1010년 말엽∼1011년 초엽 거란과의 전투에서 전사하였던 것으로 보인다. 1011년(현종 2) 3월 대장군 채온겸·신영한 등의 집에 쌀과 베를 차등 있게 부의(賻儀)로 내려주었다는 기록을 통해서 그러한 사실을 알 수 있다. 대장군 채온겸의 통주성전투에서의 승리와 이후 대거란전에서의 분투는 고려군이 지연전, 유격전을 수행하면서 거란군을 격퇴하는데 영향을 주었다.