1904년 11월 전 부상(負商)이던 윤효정(尹孝定) · 이원직(李元稷) · 나유석 등이 상계(商契) 내에서 친일적이며 보수적인 일부 계원을 배제하고 진명회를 발족시켰다. 그러나 입회하는 사람이 얼마 안 되자, 회장 나유석 등이 의논하여 인망이 높은 이준을 회장으로 추대하고 공진회라고 개칭, 여론을 쇄신하여 같은 해 12월 12일 단체를 발기하였다.
이 때 유신회(維新會)와 진보회(進步會)가 합당하여 조직된 일진회(一進會)가 식민지화를 획책하자, 이준은 이들의 활동을 저지시키기 위해 민영환(閔泳煥)과 의논하여, 12월 17일 단체의 성격을 일반 정당으로 전환하고 3대 강령을 발표하였다.
즉, ① 황실의 위신은 전범(典範)에 정한 것에 의하여 존중할 것 ② 정부의 명령은 법률과 규칙이 정한 범위 내에서 복종할 것 ③ 인민의 권리는 법률 내에서 자유로이 신장할 것 등이다.
그리고 일진회의 세력 약화와 정면 대결을 위한 진용으로 구성하기 위해 유신회에서 활약하던 윤효정을 일진회에서 탈회하도록 권유하여 부총무로 영입하고, 이상재(李商在)를 총무로, 나유석을 평의장으로 추대하였다.
또한 12월 25일 연설회를 개최하여 신기선(申箕善) · 김가진(金嘉鎭) · 이용태(李容泰) · 이윤용(李允用) 등에게 공개장을 보내어 일진회에서 탈되할 것을 종용하였다.
이를 지켜보던 정부는 사태가 점점 심각하게 전개되자 이준 · 나유석 · 윤효정 등을 체포하였다. 이에 격분한 공진회 회원들은 대대적인 시위 운동을 전개하는 한편, 경무사(警務使)를 위협하여 세 사람의 석방을 요구하였다. 그러나 일본 기마헌병대의 출동으로 집회는 강제 해산되었다.
다음날 26일 이준의 부인 이일정(李一貞) 등 여성 단체 임원들이 시위 운동에 가담한 가운데 종로에서 대연설회를 개최하고, 평리원으로 진출하며 국문으로 된 격문을 살포하였다.
사태의 진전을 주시하던 고종은 일진회 회장 윤길병(尹吉炳)을 체포하여 공정성을 띠고자 하였다. 그러나 이미 윤길병은 일본조계(日本租界) 안으로 피신한 상태였으므로 이뤄지지 못하였다. 그 때 일진회의 송병준(宋秉晙)은 일본헌병을 평리원 감옥으로 파견, 이준을 탈취하려 하였으나 실패하였다.
28일 정부는 공진회와 일진회의 사무실을 폐쇄하고, 양 회의 지방 회원이 대거 상경한다는 풍문이 파다해지자 이를 금지시키려고 경계령을 내렸다. 그 뒤 송병준 · 이용구(李容九) · 윤시병(尹始炳) 등의 끊임없는 모함으로 공진회가 불리하게 되었다.
또한, 회장 이준이 3년의 정배형(定配刑)을 선고 받고 황주의 철도(鐵島)로 떠나자, 공진회의 활동은 점차 약화되어 1905년 2월 12일 스스로 해산하고 말았다.