20세에 역관이 되었다가, 1886년 박문국 주사로서 『한성순보』 기자를 겸하였다. 1894년에 군국기무처 총재비서관이 되었고, 이어 농상공부 참서관, 통신원 국장 등을 역임하였다. 1897년 일본 문부성의 초청으로 동경외국어학교에서 조선어교사로 1년간 체류하였다. 1902년 개화당사건으로 일본에 망명하던 중에 손병희(孫秉熙)의 권유로 천도교에 입교하였다. 1906년 귀국 후 『만세보』 · 『대한민보』 사장을 역임하였고, 3 · 1운동 때에는 민족대표 33인의 한 사람으로 활약하다 3년간 옥고를 치렀다.
1918년에 근대적 미술가 단체의 효시인 서화협회가 결성될 때 13인의 발기인으로 참가하였으며, 민족서화계의 정신적 지도자로 활약하였다. 광복 후 서울신문사명예사장 · 민주의원 · 대한민국촉성국민회장 · 전국애국단체총연합회장 등을 역임하였다. 6 · 25전쟁 중 피난지 대구에서 사망하여 사회장(社會葬)이 거행되었다.
한편, 일제강점기에는 주로 한묵생활(翰墨生活)로 은거하며 오경석과 자신이 수집한 풍부한 문헌과 고서화를 토대로 『근역서화징(槿域書畫徵)』을 편술하였다. 이 책은 삼국시대부터 근대에 이르는 한국서화가에 관한 기록을 총정리한 사전이다.
그 밖에도 조선 초기부터 근대에 걸친 서화가 · 문인학자들의 인장자료를 모아 『근역인수(槿域印藪)』를 집성하였으며, 수집한 소품 고서화들을 화첩으로 묶은 『근역서휘(槿域書彙)』 · 『근역화휘(槿域畫彙)』 등 한국서화사 연구에 귀중한 자료를 남겼다. 글씨는 전서와 예서를 고격(高格:높은 품격)하게 즐겨 썼다.
특히 전서와 예서를 혼합한 글씨나 와당(瓦當), 고전(古錢), 갑골문 형태의 구성적인 작품도 시도하여 독특한 경지를 이루었다. 또한 고서화의 감식과 전각(篆刻)에 있어서도 당대의 일인자였다. 합천 해인사의 「자통홍제존자사명대사비(慈通弘濟尊者四溟大師碑)」의 두전(頭篆: 빗몸의 머리에 돌려가며 쓴 전자)을 비롯한 기념비 글씨도 전국 곳곳에 많이 남겼다.
1962년 건국훈장 대통령장이 추서되었다.