近江国坂田郡（現滋賀県長浜市）に生まれ、少年時代に豊臣秀吉に見出されて小姓として仕えた。三成を見出した際の「三杯の茶」の逸話は有名で、茶を三回に分けて温度を調整して出した機転が秀吉に賞賛されたとされる。以後、秀吉の側近として行政・兵站・外交などの実務に抜群の才を発揮し、近江佐和山19万石を賜った。文禄・慶長の役では兵站奉行として渡海し、前線武将との対立が生まれた。秀吉死後、福島正則・加藤清正ら豊臣系武将と対立を深め、1600年に徳川家康打倒を掲げて毛利輝元を総大将とする西軍を組織した。関ヶ原の戦いでは当初互角の形勢だったが、小早川秀秋の離反によって西軍は総崩れとなり壊滅した。敗走した三成は近江の故郷に潜伏したが捕らえられ、同年10月1日に京都六条河原で斬首された。享年40歳。処刑前夜に差し入れられた柿を「痰の毒」と断ったという逸話も有名で、最後まで毅然とした態度を保ったと伝えられる。

傑出した事務処理能力と忠誠心を持つ一方、融通の利かない頑固さと対人関係の不器用さが武将仲間からの強い反感を買った。「義に生き義に死す」という生き様は後世に高く評価されており、負け戦と知りながら豊臣家のために関ヶ原に挑んだ姿は武士道の理想像として語られる。

関ヶ原の戦いにおける西軍の組織者として、東軍の家康と並ぶ対立の象徴となった。近年の再評価では優れた行政官・思想家として見直されており、滋賀県長浜市や大垣市では地元の英雄として顕彰されている。「義に殉じた武将」という像は現代の大河ドラマや歴史小説でも繰り返し描かれ、根強い人気を持つ。