司马懿在许昌危机中，劝阻曹操迁都，提出和孙权结盟，共同抗蜀的战略，为挽救曹魏危机做出重要贡献，成为曹操幕府核心幕僚，升任督军御史中丞。司马懿又劝阻曹操把荆州和颍川靠近敌境的百姓都北迁，认为这样会丢失很多肥沃土地，而且会让周围很多逃亡的人隐藏，甚至逃亡敌境，曹操采纳后，不久很多隐藏的人都返回生产复业。公元219年，41岁。
司马懿等主持曹操丧事，和贾逵、夏侯尚负责曹操在洛阳后事，首次成为托孤臣，司马孚等辅佐曹丕继位，幕职从丞相军司马升丞相长史。司马懿劝曹丕不要放弃襄阳，可惜不从，结果孙权占领襄阳，为争夺襄阳成为导致魏吴联盟瓦解开战的重要原因。司马懿帅御史台的众臣参加拥立曹丕称帝，以督军御史中丞兼任魏尚书，封安国乡侯，三国正式形成后，司马懿发挥越来越重要的历史作用。公元220年，42岁。
司马懿任侍中尚书右仆射，负责军事、刑法等的文职工作，不再兼任督军，曹操任命司马懿为督军是准备让司马懿出战，而曹丕是要亲自出战，让司马懿负责留守和后勤。蜀吴交战，曹魏内部就攻蜀或攻吴争论。司马孚献策先招抚四夷通西域。公元221年，43岁。
司马懿留守洛阳，曹丕指挥三路伐吴，但是吴军在战胜蜀军后气势正盛打退魏军。司马懿和降魏的黄权等成为好友，司马徽的学生徐庶、孟建、石广元等也都成为司马懿的朋友，司马懿是继任徐庶的御史中丞，他升尚书仆射后，鲍勋继任御史中丞。公元222年，44岁。
司马懿在洛阳留守能保障后勤补给充足及时，稳定后方局势，组织百姓生产。曹丕出征不利怒杀杨俊，司马懿叩头流血求情未果，曹丕和杨氏门阀等的关系恶化，并且诏令再次伐吴，因为劳师远征而遭到众臣的反对，造成蜀吴再次结盟。公元223年，45岁。
司马懿出镇许昌，改封向乡侯，封抚军将军领五千兵，加录尚书事，司马懿辞让录尚书事，曹丕表示让他任职是因为自己日夜操劳难以休息，这是让司马懿为自己分忧，不是仅仅要他荣耀。司马懿的好友陈群封镇军将军，士族武装地位提升。公元224年，46岁。
司马懿任抚军将军兼尚书右仆射，曹丕称赞他是萧何，并且正式表示：他出征向东，司马懿负责西部治理，他回朝后，司马懿负责治理东部，司马懿再次出镇许昌，为曹丕出征准备。司马懿在许昌指挥平定青州蔡方和唐咨起兵，唐咨逃亡吴国。曹丕南征到淮南，遭遇寒流河道结冰，被迫退兵，司马懿在洛阳留守，曹丕在返回途中前往许昌未到而城门崩塌，回洛阳遣司马懿修许昌，曹丕患病怒杀鲍勋，病情加重，诏令司马懿、陈群、曹真托孤辅政，对曹睿称有离间这三人的不要听从。司马懿改封舞阳县侯。公元225年，47岁。
司马懿和辅臣都被曹睿排挤，曹睿任命征东将军曹休为大司马，让司马懿出征去抵抗孙权进攻，司马懿都督张郃等救援襄阳和江夏，击败诸葛瑾和张霸、刘阿等，击退吴军解救襄阳和江夏等地，司马懿因功升迁为骠骑将军。公元226年，48岁。
司马懿和曹真是姻亲，司马师妻是夏侯尚女，曹真外甥女，司马懿和陈群是密友，曹睿为分化三大辅臣把司马懿派驻宛城，把曹真派驻关中，仅留陈群在朝廷任命为司空，解除他镇军将军兵权，曹睿亲政后解除司马懿行政权。司马懿在宛城练兵，发明得胜鼓军乐提升军队士气。曹睿诏令司马懿讨伐孟达，司马懿一面秘密集结部队，同时派梁畿送信安抚，防止孟达快速起兵。公元227年，49岁。
司马懿帅张郃、徐晃、贾逵、申氏兄弟、黄权等八路军在州泰向导带领下，急行军八天到新城，十六日攻破新城，招抚李辅、邓贤，平定上庸。孟达给诸葛亮书信惊叹司马懿行军神速，蜀吴两国的援兵被阻挡在安桥和木兰塞，未能救援成功。司马懿攻汉中援助曹真，派张郃入关中助战，诸葛亮退回汉中。司马懿招降守卫汉中西部的郑他、姚静等七千人，控制沔水中游。入朝报捷，曹睿问伐敌先后，司马懿献策曹休佯攻下游诱敌主力，自己帅军攻武昌南下，但曹睿执行中改让曹休主攻，诏令司马懿停兵，结果石亭兵败。公元228年，50岁。