경기도 부평 출신. 1491년(성종 22) 문자를 해독할 수 있다 하여 승전색(承傳色)이 되었으며, 이듬해 상전(尙傳)이 되었으나 전지(傳旨: 임금이 문서로 내린 명령서)의 내용을 덧붙여 전달한 죄로 장 100대를 맞았다. 1495년(연산군 1) 연산군이 상중에 궁중에서 문란한 생활을 하자 이를 간하다가 의금부에 하옥되어 장 100대를 맞고 외방에 충군(充軍)되었다가 곧 제주도 대정에 유배되었다.
이듬해 왕은 제주목사로 하여금 죄상을 문초하여 3년 후에 처형하도록 하였으나, 간관들로부터 법에 의하여 죄상을 밝히지 않고 왕의 자의로 처벌을 명령하는 것은 옳지 못하다는 심한 반발을 받았다.
1504년 전가족이 제주도로 유배됨과 동시에 김순손은 참형에 처하여졌으며, 목은 서울로 가져와 환관들로 하여금 구경하도록 하였다. 중종반정 후 그 공을 인정받아 1509년(중종 4) 정문이 세워지고 복호(復戶: 전세나 요역 이외에 잡부금을 면제하여 주던 일)하도록 하였으며, 상선(尙膳)에 추증되었다.