1560年、近江国（滋賀県）の地侍の家に生まれた。少年時代に長浜城主・羽柴秀吉に才能を見出され小姓として仕え、以後豊臣政権の中枢で文治派官僚として頭角を現した。太閤検地・刀狩の実施に際して実務を担い、五奉行の一人として財政・行政・朝鮮出兵の兵站管理を担当した。武断派の加藤清正・福島正則らと折り合いが悪く、しばしば対立した。1598年の秀吉の死後、徳川家康の台頭を危惧し、前田利家の没後は西軍を糾合して家康に対抗。「内府ちがひの条々」を諸大名に送り付け、家康の不法を告発した。1600年の関ヶ原の戦いでは豊臣家への忠義から西軍の総大将として奮闘したが、小早川秀秋の裏切りなどによって開戦からわずか数時間で大敗。近江から逃走中に田中吉政に捕縛され、同年10月1日に京都・六条河原で斬首された。享年41歳。盟友・大谷吉継との友情は後世に語り継がれる義の物語として知られる。石田三成の居城・佐和山城跡（滋賀県彦根市）には多くの訪問者が訪れ、豊臣への忠義を貫いた律義者の生涯を偲んでいる。