尽管德川庆喜在幕末的混乱期曾因多次意见对立而疏远胜海舟，但胜海舟为争取德川庆喜获得明治政府的赦免而竭尽全力。在他的努力下，德川庆喜觐见明治天皇并被特旨授封公爵爵位，在德川宗家之外另设德川庆喜家（德川公爵家）。此外，胜海舟还努力照顾旧幕臣的就业和生活保障，将因幕府崩溃造成的混乱和反乱抑制到最小限度。他利用在新政府的职爵权限和人脉，在维新后的30余年间一直持续这项工作。
明治6年（1873年），胜海舟作为勅使与西四辻公业南下鹿儿岛，召岛津久光北上东京。在大日本帝国宪法制定阶段，他以枢密顾问官的身份参与枢密院的审议，但始终保持沉默。胜海舟喜好座谈，与西乡隆盛、大久保利通等新政府要人相比，他更愿意开陈自己的意见。然而，他自身的政治姿态也受到团团珍闻等媒体的严厉批判。
明治7年（1874年），胜海舟因反对政府出兵台湾（1874年日本侵略台湾事件）提出辞职。明治10年（1877年）以后，他完全退出了政治舞台。尽管如此，胜海舟仍积极参与社会活动。他发起了西乡隆盛复权运动，为江户无血开城和明治维新的中心人物西乡隆盛的名誉恢复积极奔走。在他和黑田清隆的努力下，明治22年（1889年）随着《大日本帝国宪法》的颁布，西乡隆盛得以平反，追授正三位，以维新之功勋叙侯爵爵位，并在东京上野公园为西乡隆盛树立铜像。
胜海舟被视作日本海军的缔造者。他批评明治政府的脱亚入欧政策，主张中日提携，反对日清战争（中日甲午战争）。中国北洋舰队提督丁汝昌战败自杀殉国后，胜海舟撰写了追悼文发表在报纸上。他认为，人们自恃战胜而气势高涨、简单追随欧美的殖民主义政策是愚蠢的。他解释了中国大陆的广大和中国现状的真实情况，主张中日联合共同对抗欧美。三国干涉还辽对日本造成的高压态势也在胜海舟事前的预料之内。他严词批判足尾矿毒事件，支持田中正造反对公害、维护人民权益的运动。
退出政治舞台后，胜海舟在东京的赤坂冰川町的邸宅吟诗作画，为文着书。他参与了明治政府的修史事业，接受政府资金援助，撰写、口述、编纂了《吹尘录》（江户时代的经济制度大纲）、《海军历史》、《陆军历史》、《开国起源》、《水川清话》等着作。他还与向山黄村组织旧幕臣进行《德川氏实录》的编纂计划，但由于政治因素的干扰而未能实现。
胜海舟晚年经历了许多个人的不幸。他的嫡长子早逝，孙子也因丑闻而困扰，使他在孤独中度过晚年。1899年1月19日（明治32年1月19日），胜海舟因脑溢血去世，终年77岁。
喜欢古代历史着名人物请大家收藏：(m.shuhaige.net)古代历史着名人物书海阁小说网更新速度全网最快。