가계, 출신지는 알 수 없으나 궁궐의 초노[抄, 抄奴]였다고 한다. 1268년(원종 9) 3월 21일(壬申) 몽고가 사신을 보내와 무신집권자 김준(金俊) 부자(父子) 및 동생 김충(金冲, 金承俊)을 몽고 수도인 대도(大都)로 입조(入朝)하게 하자, 김준이 장군 차송우(車松祐)와 함께 몽고 사신을 죽이고 국왕 원종을 폐위시키려 하였다. 당시 몽고 황제와 보다 긴밀하게 연결하여 실추된 왕권을 회복하려던 원종은 김준의 처사에 대해 반대하면서 낭장(郎將) 강윤소(康允紹), 추밀원부사(樞密院副使) 임연(林衍) 등으로 하여금 김준을 제거하게 하였다.
이에 강윤소와 임연은 환관(宦官) 최은(崔은)·김경(金鏡) 등과 밀모하였고, 같은 해 12월 21일(丁酉) 원종이 환관 김경(金鏡)에게 명하여 김준을 궁궐로 불러서, 호위하는 군사가 없는 김준을 정사당(政事堂)으로 유인하였다. 이때 초노 김상이 철퇴로 김준을 쳐서 죽였으며, 김자후(金子厚, 환관 金子廷의 동생)는 뒤따라 들러온 김충을 살해하였다. 이로써 왕권회복과 출륙환도(出陸還都)를 염원하던 원종 측근에 의해 10년동안 유지되어온 김준정권은 붕괴되고 말았다.