太子中庶子佐助曹丕。时司马懿“每与大谋辄有奇策”为曹丕所信任和重用所以关系一直很好。司马懿还与陈群、吴质、朱铄并称四友。此后司马懿更是常谋国事多出奇策。不久司马懿转为丞相军司马。他指出荆州刺史胡修粗暴南乡(治南乡今河南淅川东南)太守傅方骄奢都不应驻守边防曹操未予重视。

    同年六月刘备继取汉中后派孟达、刘封攻占汉中郡东部的房陵、上庸等地势力有所扩展。七月孙权欲攻合肥魏军大部调动淮南防备吴军。镇守荆州的蜀前将军关羽乘此机会留南郡(治江陵今湖北江陵)太守糜芳守江陵将军傅士仁守公安(今湖北公安西北)自率主力北攻荆襄(魏荆州治新野今河南新野；襄阳郡治襄阳今湖北襄樊)。围魏将曹仁水淹于禁七军斩庞德。时樊城守军仅数千人城墙因水淹多处崩塌曹仁曾考虑放弃樊城被辅助曹仁的汝南太守满宠所劝止。曹仁决心奋勇抵御。胡、傅二人果然乘机降蜀。此时6浑(今河南嵩县东北)人孙狼等亦杀官起兵响应关羽。关羽声势一时“威震华夏”

    当时都城在许昌距樊城很近曹操感到威胁为避关羽锋芒一度准备迁都河北。司马懿和曹椽蒋济及时劝阻：“禁等为水所没非战守之所失于国家大计未有所损而便迁都既示敌以弱又淮沔之人大不安矣。孙权、刘备外亲内疏羽之得意权所不愿也。可喻权所令掎其后则樊围自解”。曹操从其计孙权果然派吕蒙袭取江陵关羽被其俘杀。

    此战的胜利曹操利用孙、刘争夺荆州的矛盾充分运用外交谋略坐收渔利不仅挫败关羽的强大攻势解除了樊城之围而且也使诸葛亮原定的一路向宛洛、一路出秦川的两面钳击中原的计划无法实现。更重要的是破坏孙、刘联盟改变了当时的战略格局掌握了主动权。

    徐晃击退关羽后曹操嫌恶荆州及附近百姓想把他们都迁走。司马懿认为：“荆楚轻脱易动难安。关羽新破诸为恶者藏窜观望。今徙其善者既伤其意将令去者不敢复还”。曹操从之没有移民。藏窜逃亡者果然都复出归化。

    延康元年(22o年)曹操去世朝野危惧司马懿管理丧葬诸事内外肃然。

    同年曹丕即魏王位司马懿受封河津亭侯转丞相长史。

    时孙权率军向西。朝臣认为樊城、襄阳缺乏粮不能抵御吴军请召守将曹仁回驻宛城。司马懿则认为不该放弃二城：“孙权新破关羽此其欲自结之时也必不敢为患。襄阳水6之冲御寇要害不可弃也”。曹丕未依其言命曹仁放火烧毁二城。后来孙权果然没有入侵。曹丕悔之不及。

    同年曹丕登皇帝位史称魏文帝。由于司马懿为曹丕“篡汉”出了大力所以登基后曹丕任命司马懿为尚书不久转督军、御史中丞封安国乡侯。

    黄初二年(221年)免去督军官职升任侍中、尚书右仆射。

    黄初三年(222年)和黄初五年(224年)曹丕两次伐吴都以司马懿镇守许昌并改封司马懿为向乡侯。黄初六年(225年)春二月转任抚军大将军、假节领兵五千加给事中、录尚书事。司马懿辞让曹丕说：“吾于庶事以夜继昼无须臾宁息。此非以为荣乃分忧耳”。

    同年曹丕又大兴水军攻吴仍命司马懿留守“内镇百姓外供军资”。临行下诏书给司马懿说：“吾深以后事为念故以委卿。曹参虽有战功而萧何为重。使吾无西顾之忧不亦可乎”！后曹丕由广陵回师洛阳又下诏对司马懿说：“吾东抚军当总西事；吾西抚军当总东事”。于是司马懿留镇许昌。”