본관은 함종(咸從). 자는 성칙(聖則), 호는 긍재(兢齋). 수운판관(水運判官) 어한명(魚漢明)의 증손으로, 할아버지는 경기도관찰사 어진익(魚震翼)이고, 아버지는 한성부우윤 어사형(魚史衡)이다. 어머니는 유거(柳椐)의 딸이다.
1699년(숙종 25) 사마시에 합격해 태릉참봉이 되고, 1707년 별시 문과에 병과로 급제해 정언(正言)·사서(司書)·지평(持平)을 역임하였다. 1713년에는 홍문록(弘文錄) 편찬에 참여하였다. 1714년 이후 수찬(修撰)·교리(校理)·응교(應敎)·집의(執義)·사간 등 주로 삼사의 일을 맡았다.
1718년 수원부사를 거쳐 병조참지로 있을 때, 딸이 세자빈(뒤의 宣懿王后)으로 들어갔으며, 그 해에 대사간에 오르고 이어 승지가 되었다. 1720년 경종이 즉위하자 함원부원군(咸原府院君)에 봉해지고, 이듬해 어영대장이 되어 훈국(訓局)의 관장을 겸하였다.
1721년(경종 1) 사직 김일경(金一鏡) 등이 소를 올려 노론 사대신(김창집·이이명·이건명·조태채)의 세제 대리청정 주장이 역모라고 규탄해 사대신이 파직되자, 그들의 무고를 밝히고 김일경 등의 상소를 물리쳤다.
그러나 노론이기 때문에 부득이 신원(伸寃: 억울하게 입은 죄를 회복함)하는 글을 올린 것이고, 경종의 장인으로서 본심은 달랐다고 보는 견해도 있다.
1722년 영돈녕부사에 오르고, 강화유수가 되었다. 신임사화 후 김일경이 원훈(元勳)에 오를 것을 청했으나 극구 사양하였다. 유생 황욱(黃昱)·김수구(金壽龜) 등이 윤선거(尹宣擧)·윤증(尹拯) 부자의 복관을 상소하자 스승을 배반한 죄를 논하고 반대하였다.
1724년 영조가 즉위하자 신임사화 때의 내통을 심문하자는 논의도 있었으나 영조는 국구(國舅: 왕의 장인)로서 예우하였다. 1728년(영조 4) 분무원종공신(奮武原從功臣) 1등에 책록되고, 1735년 훈련대장, 이듬해 수어사로 임명되었으나 모두 사퇴하였다.
영의정에 추증되었으며, 시호는 익헌(翼獻)이다. 저서로 『긍재편록』·『농암사단칠정변(農巖四端七情辨)』이 있다.