국보인 만파식적(萬波息笛)을 보관하던 천존고(天尊庫)의 창고지기로 근무하였다. 『삼국유사(三國遺事)』에 의하면 693년(효소왕 2)에 화랑인 부례랑(夫禮郎)이 화적에게 붙잡혀간 직후 천존고에 보관중이던 피리와 현금(玄琴)도 없어졌다.
이에 창고를 지키던 김정고를 비롯한 다섯명이 투옥되었다. 그 뒤 부례랑의 부모가 백률사(柏栗寺)의 관세음보살상 앞에 나아가 무사히 귀환할 것을 기원하여 부례랑과 승려낭도인 안상(安常), 피리와 현금을 찾을 수 있었다. 효소왕은 국보와 화랑이 무사히 돌아온 것을 치하하고, 3년간의 조세를 면세하여주는 등의 조처를 취하였다.
이때 김정고도 사면되었으며, 관직도 5등급 승진되었다. 그런데 『삼국사기(三國史記)』에 의하면 조부(調府)의 관리인 사고(司庫)는 관등이 사지(舍知)에서 대사(大舍)에 해당하는 사람이 임명되었는데, 천존고를 지키던 그의 관등이 무엇이었는지는 정확히 알 수 없다.