当时，房玄龄、杜如晦都被唐高祖李渊逐出了秦王府，不能再来，李世民叫长孙无忌去秘密地把他们请来，房玄龄等人回话说：“皇上诏令规定不许我们再事奉秦王，如果私自拜见，一定会杀我全家，不敢接受秦王的命令。”李世民大发脾气，对尉迟敬德说：“房玄龄、杜如晦难道要背叛我吗？”取下腰间的宝剑交给尉迟敬德说：“您去一趟，看他们要是没有来的意思，就斩下他们的首级带回来。”尉迟敬德又去通知长孙无忌说：“秦王已决定限期除奸，您应该按时进府筹划。我们四个人不能邀在一起走。”于是房玄龄、杜如晦道士打扮跟着长孙无忌进了秦王府，尉迟敬德也从另一条路进来了。
李世民发动玄武门之变，李建成被杀后，尉迟敬德带着七十名骑兵跟着赶到玄武门，李元吉驱马向东逃跑，被乱箭射下马来。李世民骑马跑进树林，突然缰绳挂到树上被绊倒，不能起身，李元吉追上来抢夺弓箭，俯身下去要掐李世民，尉迟敬德驱马上前大声喝斥，李元吉撒腿就跑，想回武德殿，尉迟敬德赶上去一箭射死了他。李建成、李元吉的部将薛万彻、谢叔方、冯立等人率领队伍来了，聚集在玄武门，杀死了屯营将军，尉迟敬德提来李建成、李元吉的首级给他们看，他们就撤走了。
这时，唐高祖在海池上划船游览，李世民命令尉迟敬德去保卫皇帝，尉迟敬德身穿铠甲手执武器，直奔海池。唐高祖极度震惊，问道：“今天发动叛乱的是谁？你到这里来干什么？”尉迟敬德回答说：“由于太子、齐王发动叛乱，秦王派兵杀了他们，他担心皇上受惊，派我来执勤警卫。”唐高祖这才放心。南衙卫兵、北门羽林军以及东宫、齐王府、秦王府的将士还在混战，尉迟敬德奏请唐高祖亲笔写了道诏令，命令各部人马一并听从秦王处置，于是宫廷内外都安定了。唐高祖慰劳尉迟敬德说：“你为国家立下了稳定政权的大功勋。”赏赐给他很多珍贵物品。李世民被立为太子后，尉迟敬德被任命为太子左卫率。
当时的舆论认为李建成等人的一百多名部属，都应判处胁从罪而没收他们的家产充公，只有尉迟敬德坚持反对说：“两名罪魁祸首，已经惩罚完毕，如果再株连他们的部属，这不是稳定局势的政策。”这些人因此都免于处分。后来论功行赏，尉迟敬德和长孙无忌定为头等，每人赏赐了一万匹绢，齐王府的钱财器物，连同整个府第，都赏给了尉迟敬德，授予尉迟敬德右武侯大将军头衔，赐予吴国公爵位，同长孙无忌、房玄龄、杜如晦一齐实封一千三百户。
突厥侵犯边境，朝廷任命他为泾州道行军大总管去攻打突厥，敌军到了泾阳，尉迟敬德派率轻装骑兵去挑战，杀死了对方领军的名将，打败了敌军。尉迟敬德喜欢揭发别人的短处，负功自傲，每当发现长孙无忌、房玄龄、杜如晦等人的过失，必然不讲情面直言指责，因此与宰相不和，离京任襄州都督。
尉迟敬德迁任同州刺史，李世民大摆酒宴，尉迟敬德也回京赴宴。席间，有人座次排在他的前边，他愤怒地说：“你有什么功劳，配坐在我的上席？”任城王李道宗坐在他的下位，便向他做解释，尉迟敬德勃然大怒，一拳打在李道宗的眼睛上，差点儿打瞎。唐太宗很不高兴，停止了饮宴，对尉迟敬德说：“我读《汉书》，发现汉高祖的功臣能够保全自己的很少，心里常常责怪汉高祖。因此登基以后，一直想保全功臣，让他们子孙平安。但是你做了高官之后不断触犯国法，才明白韩信、彭越遭到杀戮，不是汉高祖的过失。治理国家最重要的事情，只有奖赏与处罚。分外的恩惠，不能给得太多，要严格要求自己，别做后悔不及的事。”尉迟敬德由此感到害怕，才约束自己的行为。
唐太宗分封功臣时给予世袭刺史，诏令授予尉迟敬德宣州刺史，改封为鄂国公，调任鄜州都督。李世民曾对尉迟敬德说：“有人说你谋反，这是为什么呢？”尉迟敬德愤然道：“臣确实谋反！臣跟随陛下征伐四方，身经百战，如今身上留下的都是刀锋箭头的痕迹。如今天下已经安定，便开始怀疑我要谋反吗？”因而脱下衣服置于地上，展示身上的疮疤，李世民见此流下眼泪说：“你穿上衣服，朕丝毫不怀疑你，所以才跟你这么说，何必这么恼怒呢？”此后，尉迟敬德又出任夏州都督。
尉迟敬德上表请求回家养老，朝廷授予尉迟敬德开府仪同三司，让他每月初一、十五进宫朝拜。不久，跟长孙无忌等二十四人被绘制成肖像，陈列在专为表彰功臣而修建的凌烟阁中，尉迟敬德位列第七名。
李世民由洛阳出发，亲征高句丽，下诏令太子监国。已经在家养老的尉迟敬德上书进言：“皇上如果亲自到辽东去，皇太子眼下又在定州，洛阳、长安都是国库所在地，虽然有守卫部队，但兵力还是很薄弱。到辽东路途遥远，令人担心发生意外事故。再说征讨一个边远小国，不必麻烦皇上御驾亲征，请把这事交给一位优秀将领，自然可以按时摧毁敌人。”唐太宗没有采纳，而是命令尉迟敬德以原来的官职身份，行使太常卿职权，任左一马军总管，跟随唐太宗到驻跸山打败了高丽，班师回朝后，尉迟敬德仍旧退职家居。
尉迟敬德晚年迷信仙丹，研磨金属矿石，吞服云母矿石粉，挖池圹建楼台，用白色花纹的丝织物予以装饰，学着演奏清商乐曲自我娱乐，不跟外人交往，达十六年之久。唐高宗李治按尉迟敬德的功勋，追认他的父亲为幽州都督，尉迟敬德在家中去世，享年七十四岁。唐高宗李治为他举行悼念活动，三天不临朝理事，令在京五品以上官员都去参加吊唁，并下诏追认他为司徒、并州都督，谥号为“忠武”，赐东园秘器，陪葬在唐太宗的昭陵。
传说，尉迟敬德面如黑炭，擅使铁鞭，骑乌骓马，据西游记一书，尉迟敬德与秦琼因保护唐太宗李世民免于龙王鬼魂之犯，成为两位道教传统门神。在说唐系列小说、评书中，尉迟敬德乃黑煞星转世，为隋唐十八杰里的第十三杰，与秦琼并列，曾与秦琼三鞭换两锏，娶有黑、白两夫人。在《薛丁山征西》中，尉迟敬德为救薛仁贵，鞭打禁门，将钢鞭打断，想起师父“鞭在人在，鞭亡人亡”之言，撞柱自尽。
