본관은 강릉(江陵). 자는 계문(季文). 김선여(金善餘)의 증손으로, 할아버지는 김득원(金得元)이고, 아버지는 김홍기(金弘機)이며, 어머니는 이선(李楦)의 딸이다.
1713년(숙종 39)에 진사가 주1, 1730년(영조 6) 정시 문과에 병과로 주2, 정언(正言)이 되었다.
1739년 소론이 밀려나고 노론이 정국을 담당하게 되었을 때 지평(持平)으로 있으면서 직언(直言)을 하다가 장기(長鬐)에 유배되었다. 이듬해 석방되어 1741년 다시 지평에 올랐으며, 부수찬(副修撰) · 수찬 · 부교리(副校理) 등을 역임한 뒤 1751년 승지가 되었다. 그 뒤 영광군수 등 지방관을 지냈다. 『홍재전서(弘齋全書)』에 의하면, 김시위의 저서로 『휘언(彙言)』이 있다.