본관은 광산(光山). 자는 덕삼(德三), 호는 송계(松溪). 아버지는 참판(參判)에 증직된 김이홍(金履洪), 어머니는 흥덕장씨(興德張氏)로 주부(主簿) 장운한(張雲翰)의 딸이다.
효성이 지극하여 60세가 넘은 뒤에도 70세가 넘은 병든 어버이를 지성으로 봉양하였다. 집 뒤에 송계정사(松溪精舍)를 지어 인근의 젊은이들을 모아 글을 가르쳤는데 반드시 『효경(孝經)』을 먼저 가르치고 뒤에 용학(庸學)을 가르쳐서 학문보다는 인격 완성을 꾀했다.
1784년(정조 8) 이승훈(李承薰)이 연경(燕京)에서 돌아와 서학(西學)을 포교하자 이것을 망국의 교라고 반대하여 척사운동(斥邪運動)을 일으키고 유학의 진흥을 부르짖었다.
김용언의 학행이 널리 알려져서 여러 번 도에서 천거되었는데, 1786년에 장사랑(將仕郞)에 제수되고, 이듬 해 통정대부(通政大夫)가 되었으며 1788년에 가의대부(嘉義大夫)로 승진했다. 유림의 천거로 1806년(순조 6)에 효행으로 정려(旌閭)가 내려졌다. 저서로는 『송계유고(松溪遺稿)』 2권이 있다.