薩摩藩の下級藩士の家に生まれた。藩主・島津斉彬に取り立てられて頭角を現し、のちに薩摩藩を率いて長州藩と結び、倒幕を進めた。
1868年の戊辰戦争では新政府軍の参謀として東へ進み、旧幕府の勝海舟と話し合って、江戸城を戦わずに明け渡させた(江戸城無血開城)。明治政府でも中心人物の一人となった。
1873年、朝鮮への使節の派遣をめぐる対立(明治六年政変)で政府を去り、鹿児島へ戻って私学校を作った。1877年、私学校の生徒らに担がれて挙兵し(西南戦争)、熊本城を囲んだが敗れ、9月に鹿児島の城山で自刃した。