본관은 청주(淸州). 자는 낙천(樂天), 호는 청허자(淸虛子). 평장사(平章事) 이공승(李公升)의 6대손이다.
조선 왕조가 건국된 뒤 1393년(태조 2)에 우산기상시(右散騎常侍)에 임명되고, 그 뒤 평안도병마도절제사·참지문하부사(參知門下府事)·참찬문하부사·판한성부사(判漢城府事) 등을 차례로 역임하였다.
그러나 이거이는 왕자의 난으로 태종이 권력을 장악한 뒤부터 본격적으로 출세하기 시작하였다. 왕자의 난 직후에 책봉된 정사공신(定社功臣)에 올랐으며, 또한 태종이 즉위한 직후에는 좌명공신(佐命功臣)에 책봉되었다. 사실 이거이는 조선 왕조의 왕실과 밀접한 관련을 맺고 있었다.
즉, 이거이의 아들 이저(李佇)는 태조 이성계(李成桂)의 장녀 경신공주(慶愼公主)와 혼인하였으며, 또 다른 아들 이백강(李伯剛)은 태종의 장녀 정순공주(貞順公主)와 혼인하였다. 이러한 특수한 관계가 조선 왕조 건국 이후에도 이거이의 정치적 진출을 쉽게 하였으며, 나아가 태종의 집권 이후에도 이거이가 공신이 될 수 있는 배경이 되었을 것이다.
그러나 정종이 재위할 때 시행된 사병혁파(私兵革罷) 조처에 대하여 크게 불만을 토로한 것이 연유가 되어 한때 계림부윤(鷄林府尹)으로 좌천되었다. 이 후 1402년(태종 2) 좌명공신이 되고 또한 영사평부사(領司平府事)로 승진되었다.
이 후에 다시 대간의 탄핵을 받아 유배되었다가 복직되어서는 우정승을 거쳐, 영의정까지 올랐다. 시호는 문도(文度)이다.