본관은 강릉(江陵). 자는 계문(季文). 김선여(金善餘)의 증손으로, 할아버지는 김득원(金得元)이고, 아버지는 김홍기(金弘機)이며, 어머니는 이선(李楦)의 딸이다.
1730년(영조 6) 정시 문과에 병과로 급제, 정언(正言)이 되었다.
1739년 소론이 밀려나고 노론이 정국을 담당하게 되었을 때 지평(持平)으로 있으면서 직언(直言)을 하다가 장기(長鬐)에 유배되었다. 이듬해 석방되어 1741년 다시 지평에 올랐으며, 부수찬(副修撰)·수찬·부교리(副校理) 등을 역임한 뒤 1751년 승지가 되었다. 그 뒤 영광군수 등 지방관을 지냈다. 『홍재전서(弘齋全書)』에 의하면, 김시위의 저서로 『휘언(彙言)』이 있다.