본관은 경주(慶州). 자는 원익(元益), 호는 성암(性菴) 또는 길고자(吉皐子). 아버지는 사헌부감찰 김사주(金師柱)이며, 어머니는 전의이씨로 이직승(李直升)의 딸이다.
유년시절에 아우 김노석(金魯錫)과 함께 아버지에게 수학하였으며, 1814년(순조 14) 진사시에 합격하였다. 뒤에 홍산현감에 재임하였다.
1847년(헌종 13) 암행어사 송정화(宋廷和)의 서계(書啓)에 의하여 충청감사 조운철(趙雲澈), 전직 서천군수 이철영(李喆榮), 예산현감 송일성(宋一成), 해미현감 김성호(金性浩) 등을 포함한 12인과 함께 조운선(漕運船) 침몰사건을 이유로 죄를 얻었다.
그는 심능숙(沈能淑)·조기영(趙冀永)·유병주(兪秉柱)·서유훈(徐有薰)·윤정현(尹定鉉) 등과 폭넓게 교유하면서, 경학(經學)·사학(史學)을 비롯하여 음악·언어학 등에 이르기까지 매우 광범위한 분야에 걸쳐 박학하였으며, 당시의 보편적인 학문성향을 탈피하여 주로 고증적인 전거를 위주로 하는 저술들을 즐겨 지었다.
70세 이전의 저술이 수록되어 있는 규장각도서의 『성암집(性菴集)』 16권 12책과, 70세 이후의 저술이 수록되어 있는 국립중앙도서관 소장의 『성암집(性菴集)』 12권 6책이 있다.