近江の生まれで、若いころから豊臣秀吉に仕えた。戦場よりも、検地や物資の手配などの実務で力を発揮し、秀吉の政権を支える奉行の一人となった。近江の佐和山城を居城とした。
1590年の小田原征伐では、北条方の忍城を水攻めにしたが、落とせないまま小田原城の開城を迎えた。
秀吉が亡くなると、力を強める徳川家康と対立した。1600年、毛利輝元を総大将に立てて挙兵し、関ヶ原の戦いで家康の東軍と戦った。
笹尾山に陣を置いて戦ったが、小早川秀秋らの寝返りもあって西軍は敗れた。三成は伊吹山の方へ逃れたが捕らえられ、10月1日、京都の六条河原で処刑された。