조남준(趙南駿)을 비롯한 서울 거상들을 중심으로 한 상공인 계층 자본과 윤덕영(尹德榮)을 비롯한 구 귀족 계층 인사들의 합작으로 1920년 6월에 설립되었다.
실질적으로 출자를 전담한 상공인 계층은 은행의 운영 실권을 쥐고 있으면서, 귀족 계층의 명성을 이용하여 은행을 설립, 영업의 번영을 기하자는 생각이었다. 반면에 귀족 계층은 상공인 계층의 자본으로 은행을 설립하고, 형식상 소액주주로서 참여하면서 중역의 자리를 많이 차지하여 은행의 운영 실권을 장악하겠다는 생각이었다.
이와 같이 서로의 의견이 다른 상황이었지만, 1920년 1월 자본금 200만원으로 설립 인가를 받아 6월 창립 총회를 개최하였다. 초대 은행장에 윤덕영, 취체역에 윤덕영·민철훈(閔哲勳)·엄주승(嚴柱承)·심상익(沈相翊) 등 7인을 선출하였다.
그러나 7월에 중역진 대부분이 사임하였으며, 이러한 양측의 의견 불일치와 1920년 중반 이후 시작된 불경기 등으로 장기간 영업 부진을 면하지 못하였다. 그 뒤 1923년 7월에 가서 실질적으로 상인 계층이 운영 실권을 장악하였다.
1925년 10월 경성방직주식회사의 취체역이며 호남의 실력자인 조설현(曺偰鉉)이 전무 취체역에 취임함으로써 상공인 계층의 은행 운영의 실권은 더욱 공고해졌다.
1926년 7월 명목상 은행장이던 윤덕영이 사임하고, 경성방직주식회사의 전무인 김연수(金䄵洙)가 은행장으로 취임하였다. 그 결과 명목상 남아있던 귀족 세력은 완전히 물러나고, 김연수를 중심으로 하는 호남 재벌이 은행의 운영 실권을 장악하였다.
이 시기에 불입 자본은 50만원에서 80만원으로 증자하였고, 건실한 운영을 지속하여 1934년에는 황해도 해주에 지점을 개설하는 등 착실하고 번영하는 은행으로 세간의 평가를 받고 있었다.
그러나 일제의 민족계 은행합병정책의 강행으로 1938년 1월 은행 업무를 한성은행에 양도하였고, 해동은행은 해동금융주식회사로 남게 되었다.
해동은행은 출자·운영상에 있어서 끝까지 한 사람의 일본인도 참여하지 않은 순수한 민족계 은행이었다.