1627年、京都堀川の材木商・鶴屋七右衛門の長男として生まれた。幼名・源吉。11歳より朱子学を学び始めたが、28歳の時に病気を機に家業を弟に譲り、学問に専念する道を選んだ。以後30年以上、自宅を拠点に朱子学・仏教・道教を幅広く研究し、晩年に独自の学問「古義学」を確立。朱子や程子の解釈を排し、論語・孟子の原典を古代の言葉の意味に即して読み解くべきと主張。1662年、堀川の自宅に「古義堂」を開き、私塾として3000人を超える門弟を育てた。主著『語孟字義』(1683年)『童子問』(1691年)は、中国儒教の教条を脱した日本独自の儒学の始まりとされる。息子の伊藤東涯が父の学を大成し、伊藤家は代々「古義堂」を継承。1705年、京都で79歳で没。