김창신은 경북사범학교 강습과 재학 중 아나키즘(Anarchism)을 수용하였다. 경북사범학교를 졸업한 후 대구, 칠곡 등지에서 교사 생활을 하다가 퇴직하여 봉화에서 농업에 종사하였다. 1930년부터 같은 마을의 농민들인 김중문(金重文), 김덕기(金德基), 김중헌(金重憲), 최동열(崔東烈) 등에게 아나키즘 서적 등을 제공하는 등의 활동을 펼쳤다.
1932년 11월 말에 동지들을 규합하여 아나키즘 연구와 실천을 목표로 하는 비밀결사 '흑색자유청년연합회'를 결성하였다. 아나키즘 서적을 구입하기 위해 매월 20원씩 회비를 걷고, ‘무정부주의 조직론’, ‘상호부조론’ 등을 연구하였다. 그리고 『흑색신문(黑色新聞)』, 『자유연합신문(自由聯合新聞)』 등 아나키즘 간행물을 입수하여 주변 인물들에게 배포하였다.
봉화군 내성면과 물야면 두 곳의 사방공사(砂防工事)에 종사하는 인부를 상대로 선전작업을 펼치기도 하였는데, 1933년 4월 6일 물야면 사방공사장에서 마을 청년들이 일본인들에게 폭행당했다는 소식을 듣고 마을 주민들과 함께 그들을 폭행하였다. 아울러 사방공사에 참여하는 노동자들과 함께 항일투쟁을 전개하였다. 이 과정에서 체포되어 1934년 4월 2일 김창신, 김덕기, 김중문이 각각 징역 2년 6월의 형을 선고받았다.