早年仕途
李存义作为李善长胞弟，凭借家族关系进入仕途。洪武七年（1374年），经明太祖朱元璋提拔担任太仆寺丞，该机构主要负责皇室车马管理事务。其子李伸、李佑亦于同期被任命为群牧所官，父子三人形成以李善长为核心的家族政治网络。
卷入胡惟庸案
洪武十三年（1380年）胡惟庸谋反案发后，据审讯记录显示，李存义曾被胡惟庸指派暗中游说李善长参与谋反，洪武十八年（1385年）李存义父子被举报为胡惟庸党羽，朱元璋下诏免其死罪，流放至崇明。李存义因卷入胡惟庸案，曾受胡惟庸指使暗中游说李善长参与谋反，虽李善长未明确同意，但李存义父子因此被牵连。
流放与结局
李存义流放期间，其供词在洪武二十三年（1390年）重新引发关注。御史弹劾李善长时，特别指出其”知逆谋不发举，狐疑观望怀两端”，其中关键证据即来自李存义与胡惟庸的交往细节。此次追责最终导致李善长被处决，而文献中未再记载李存义流放后的具体动向。
历史影响
作为明初重大政治案件的关键人物，李存义的仕途起伏反映了洪武年间官僚集团内部复杂的姻亲关系网络。其从太仆寺丞到流放犯的身份转变，既展现了朱元璋肃清功臣集团的决心，也折射出胡惟庸案波及范围的广泛性。李存义案的特殊性在于，他既是胡惟庸谋反案的参与者，又是更高层级政治斗争的牺牲品，这种双重身份使其成为研究明初政治清洗的重要个案。