본관은 김해(金海). 초명은 김빈(金鑌), 자는 자화(子和), 호는 졸재(拙齋).
어려서부터 학문에 정진했고 특히 역산(曆算)에 정통하였다. 1411년(태종 11) 식년 문과에 동진사(同進士)로 급제해 예문관검열이 되고, 1416년에 문과 중시에 을과로 급제하였다.
1425(세종 7) 인동현감 재직 중 집현전사찬에 발탁, 이후 교리(校理)·직장(直長)·부제학(副提學)을 역임하면서 갑인자(甲寅字) 주조와 간의대·자격루의 제조에 참여하는 등 세종대의 과학 발달에 기여하였다.
특히 1438년 천추전(千秋殿) 서쪽에 한 칸 남짓한 조그마한 집을 짓고 종이를 발라서 약 7척 정도의 산을 만들어 그 안에 옥루기(玉漏機)를 설치, 이 집을 흠경각(欽敬閣)이라 하였다. 1441년 좌부승지가 되면서 조(銚)라는 이름을 받았다.
1443년 우승지에 승진되었으나, 세종의 온양 행차 수행 중에 충청도관찰사 이익박(李益朴)으로부터 쌀·콩 등 물품을 받은 사건으로 인하여 사헌부가 김조에 대한 탄핵 상소를 올렸으나 세종이 윤허하지 않았다. 같은 해 4월에 첨지중추원사(僉知中樞院事)로 관직을 옮겼다. 그 해 충청도관찰사로 파견, 이후 형조참의·경상도관찰사·한성부윤 등을 역임하였다.
1447년 정조사(正朝使)가 되어 명나라를 다녀왔다. 이듬해 병조참판에 발탁되었으나, 곧 병조정랑 이현로(李賢老)와 좌랑 윤배(尹培)가 향화인(向化人) 홍사을마(洪沙乙麽)를 자의로 사직(司直)에 임명한 사실이 탄로날 때, 병조의 일을 철저히 감독하지 못했다는 문책을 받고 의금부에 하옥되었다가 외방에 중도부처(中道付處: 죄질이 가벼워 유배지로 가는 도중에 자신이 원하는 곳에서 귀양살이를 하는 형벌), 곧 방면되었다.
또한 같은 해에 이전에 병조참판 재직시 신맹린(辛孟磷) 등을 내금위(內禁衛)에 충속시킨 사건으로 문책을 받아, 다시 의금부에 하옥된 뒤 외방에 부처되었다. 1450년(세종 32) 방환(放還)되었고, 세종이 위독해지자 추은(推恩)을 받아 직첩을 돌려받았다.
같은 해 형조참판에 복직되었고, 이듬해 사은부사가 되어 고명(誥命: 중국이 조선의 왕을 인정해 주는 사령)을 내려준 명나라에 감사의 뜻을 전하고 돌아왔다. 같은 해에 찬진된 『고려사절요(高麗史節要)』의 교열에 김종서(金宗瑞)등과 함께 참여했으며, 영릉비(英陵碑)의 음기(陰記: 비석 뒷면에 새기는 기록)를 지어 올렸다.
1453년(단종 1) 호조참판이 되었고, 같은 해 10월 계유정난이 성공한 뒤 예조판서로 승진했고, 지춘추관사(知春秋館事)로서 『문종실록(文宗實錄)』의 찬수에 참여하였다. 1455년 지중추원사로 옮겼다가 죽었다. 시호는 공간(恭簡)이다. 1455년 원종공신 2등에 추록되었다.