누구든 말에서 내려야 한다는 문구가 비석의 표면에 적혀 있다. 각 궁궐의 정문 밖, 종묘 입구에 세웠으며, 성균관을 비롯한 각 지방의 문묘 밖 홍살문에 하마비를 세웠다. 매우 드물지만 순천 송광사와 같이 사찰 일주문 밖에 하마비를 세운 경우도 있다. 왕이나 장군 · 고관 · 성현들의 출생지나 무덤 앞에 세워놓기도 하였는데, 말에서 내려 걸어가는 것이 이들에 대한 존경심의 표시이자 예의에 합당했기 때문이다.
말에서 내려 걸어감으로써 대상에 대한 존경의 뜻을 나타내는 예절을 왕명으로 권고한 사례는 고려시대에 이미 있었다. 예컨대 1017년(현종 8) 12월에 “고구려(高句麗) · 신라(新羅) · 백제(百濟) 임금의 능묘(陵廟)를 모두 소재지의 주현(州縣)으로 하여금 보수하게 하고, 땔나무 채집을 못하게 하며, 그 앞을 지나가는 자는 말에서 내리게 하라.”라는 교서를 내렸던 기록이 『고려사』에 보인다.
이밖에 하마비를 따로 세워서 권고하는 법식의 가장 뚜렷한 전례는 1413년(태종 13) 1월 하순에 예조의 건의로 종묘(宗廟) · 궐문(闕門)의 동구(洞口)에 “대소 관리로서 이곳을 지나가는 자는 모두 말에서 내리라(大小官吏過此者皆下馬).”고 쓰인 표목(標木)을 세웠다는 『태종실록』의 기록에서 찾아볼 수 있다. 이러한 표목은 후대에 이르러 돌을 깎아 비석 형태로 만들었는데, 오늘날까지 실물이 전해오는 것이 많다.