洪武四年，李善长因病辞官归居，太祖赐临濠地若干顷，设置守坟户一百五十家，赐给佃户一千五百家，仪仗士二十家。

一年后病愈，太祖便命他负责修建临濠宫殿，将江南富民十四万迁徙濠州耕种，让李善长管理他们，留在濠州数年。

洪武七年，太祖提升李善长之弟李存义为太仆丞，李存义之子李伸、李佑都为群牧所官。

洪武九年，太祖以临安公主下嫁其子李祺，授为驸马都尉，初定婚礼，公主严修妇道，李家受宠显赫，时人极为羡慕。

李祺与公主结婚一个月后，御史大夫汪广洋、陈宁上疏说“李善长恃宠自纵，陛下因病几乎十日不能上朝，他不来问候。

驸马都尉李祺也六日不来朝见，召他至殿前，又不认罪，这是对陛下极大的不敬。”

李善长因此获罪，被削年禄一千八百石，不久，太祖又命李善长与曹国公李文忠一起统领中书省、大都督府、御史台，同议军国大事，监督圜丘之工程。

洪武十三年，胡惟庸因谋反被诛杀，受牵连而处死者甚多，但李善长仍然如故。

御史台缺中丞，李善长暂理御史台事务，多次向太祖提出建议。

洪武十八年，有人告发李存义父子实为胡惟庸的党羽，明太祖下诏免死，将他们安置在崇明，但李善长没有表示感谢，太祖因而怀恨在心。

洪武二十三年，多岁的李善长却与妻女弟侄七十余口，一起被冤斩，故居被抄毁，从此以后，李善长的故居与后裔成为未解之谜。

崇祯十七年，南明弘光帝追补开国名臣赠谥，获追谥“襄愍”。

洪武二十三年，李善长已经七十七岁，因为年老约束不了部下，曾想建造府宅，从信国公汤和那里借卫士三百人，汤和悄悄告诉他所听到的事。

四月，京城有百姓受株连而被发配到边疆，李善长屡次请求赦免其亲戚丁斌等，太祖大怒，将丁斌治罪。

丁斌以前在胡惟庸家做的事，他供出李存义等过去与胡惟庸互相交往的情况。

于是太祖下令将李存义父子逮捕审讯，他们的供词牵连到李善长，供词上说“胡惟庸企图谋反，派李存义暗地里劝说李善长。

李善长惊叱道‘你这么说到底为了什么？你们一定要慎重，否则九族都要被灭。’

不久，又派李善长的老友杨文裕去劝他说‘事成之后，当以淮西之地封你为王。’

李善长惊骇不已，仍不同意，却又颇为心动，胡惟庸于是亲自去劝说李善长，仍然不同意。

过了一段时间后，胡惟庸又派李存义去劝说，李善长叹道‘我已经老了，我死之后，你们好自为之。’”

有人又告发李善长说“将军蓝玉率军出塞，到捕鱼儿海时，俘获胡惟庸私通沙漠使者封绩，李善长却匿而不报。”

于是，御史竞相上奏弹劾李善长，而李善长的奴仆卢仲谦等，也告发李善长与胡惟庸之间互相贿赠，经常偷偷私语。