用口蜜腹剑来形容李林甫的为人一点也不为过。
小人生存的空间
开元末年，大唐帝国迎来了我国历史上少有的盛世局面，民丰物阜，四方臣服。唐玄宗李隆基做了二十多年太平天子，渐渐滋长了骄傲怠惰的情绪。他不再像以前那样励精图治、纳谏如流，开始满足于已经取得的成绩，贪图享乐。宰相张九龄看到这种情况，心里十分着急，常常给唐玄宗提意见。
李林甫本是一个不学无术、胸无点墨的市井无赖，他什么事都不会，专学了一套奉承拍马的本领。他和宫内的宦官、妃子勾结，探听宫内的动静。唐玄宗在宫里说些什么，想些什么，他都先摸了底。等到唐玄宗找他商量什么事，他都对答如流，简直跟唐玄宗想的一样。唐玄宗听了很舒服，觉得李林甫又能干又听话，比张九龄强多了。
唐玄宗想把李林甫提为宰相，跟张九龄商量。张九龄看出李林甫不是正路人，就直截了当地说：“宰相的地位，关系到国家的安危。陛下如果拜李林甫为相，只怕将来国家要遭到灾难。”这些话传到李林甫那里，李林甫把张九龄恨得咬牙切齿。
如愿以偿当上了宰相
朔方（今宁夏灵武）守将牛仙客，目不识丁，但是在理财方面，很有点办法。唐玄宗想提拔牛仙客，张九龄没有同意。李林甫在唐玄宗面前说：“像牛仙客这样的人，才是宰相的人选；张九龄是个书呆子，不识大体。”
有一次，唐玄宗又找张九龄商量提拔牛仙客的事，张九龄还是不同意。唐玄宗发火了，厉声说：“难道什么事都得由你作主吗！”唐玄宗越来越讨厌张九龄，加上听信了李林甫的诽谤，终于找了个机会撒掉张九龄的职，让李林甫当宰相。
李林甫一当上宰相，第一件事就是要把唐玄宗和百官隔绝，不许大家在玄宗面前提意见。有一次，他把谏官召集起来，公开宣布说：“现在皇上圣明，做臣下的只要按皇上的意旨办事，用不着大家七嘴八舌。你们没看到立仗马（一种在皇宫前作仪仗用的马）吗？它们吃的饲料相当于三品官的待遇，但是哪一匹马要是叫了一声，就被拉出去不用，后悔也来不及了。”有一个谏官不听李林甫的话，上奏本给唐玄宗提建议。第二天，就接到命令，被降职到外地去做县令。大家知道这是李林甫的意思，以后谁也不敢向玄宗提意见了。
口蜜腹剑
李林甫知道自己在朝廷中的名声不好。凡是大臣中能力比他强的，他就千方百计地把他们排挤掉。他要排挤一个人，表面上不动声色，笑脸相待，却在背地里暗箭伤人。有一次，唐玄宗在勤政楼上隔着帘子眺望，兵部侍郎卢绚骑马经过楼下。唐玄宗看到卢绚风度很好，随口赞赏几句。第二天，李林甫得知这件事，就把卢绚降职为华州刺史。卢绚到任不久，又诬说他身体不好，不称职，再一次降了他的职。
有一个官员严挺之，被李林甫排挤在外地当刺史。后来，唐玄宗想起他跟李林甫说：“严挺之还在吗？这个人很有才能，还可以用呢。”李林甫诡答：“陛下既然想念他，我去打听一下。”退了朝，李林甫连忙把严挺之的弟弟叫来，说：“你哥哥不是很想回京城见皇上吗，我倒有一个办法。”严挺之的弟弟见李林甫这样关心他哥哥，当然很感激，连忙请教该怎么办。李林甫说：“只要叫你哥哥上一道奏章，就说他得了病，请求回京城来看病。”严挺之接到他弟弟的信，真的上了一道奏章，请求回京城看病。李林甫就拿着奏章去见唐玄宗，说：“真太可惜，严挺之现在得了重病，不能干大事了。”唐玄宗惋惜地叹了口气，也就算了。
像严挺之这样上当受骗的人还真不少。但是，不管李林甫装扮得怎么巧妙，他的阴谋诡计到底还是被人们识破。人们都说李林甫这个人是“嘴上像蜜甜，肚里藏着剑”，成语“口蜜腹剑”就是这样来的。
古人骑兽表面上看，李林甫甜言蜜语，好像很关心人，实际上，暗藏杀机，有自己的险恶用心。他还常常挑拨他所反对的人之间的关系，制造矛盾，各个击破，或在两败俱伤时，坐收渔利。户部尚书裴宽，平时为玄宗所器重，李林甫怕他有一天入相，威胁自己，便设法阻拦。刑部尚书裴敦复“平赋有功”，玄宗表彰了他，李林甫内心十分嫉恨。二裴之间本来就有矛盾，于是，李林甫千方百计地寻找突破口。
李林甫怂恿裴敦复买通杨贵妃的姐姐，在玄宗面前说裴宽的坏话，致使裴宽被贬为睢阳太守。接着，李林甫又采取明升暗降的手法，借口裴敦复有战功，奏请玄宗让他充任岭南王府经略使。裴敦复不太乐意，稍稍迟疑，没有及时赴任，则被李林甫反奏一状，因“逗留京师”之罪，被贬为淄川太守。就这洋，李林甫在不到一年的时间里就把裴宽和裴敦复赶出京城，何谈人相？
嫉妒成性的李林甫不仅排斥朝官，还十分注意边帅。按唐朝传统，边帅皆是忠厚名臣，其中功绩卓著的人往往迁升入朝，拜为宰相。李林甫欲杜绝边帅入相之路，于是献上一条奸计，即不用文人和贵族子弟为边帅。天宝六年（公元746年），他向玄宗再次进言：“文臣为将，怯当矢石，不若用寒酸胡人（出身低微的少数族将领）。胡人则勇决习战，寒族则孤立无党。陛下诚以恩给其，彼必能为朝廷尽死。”其花招是，少数族将领不识汉字，驻边领军，才能再大也不会入朝拜相。这就从根本上杜绝了边帅入相的路子，自己的相位可长保无虞。玄宗不知道李林甫的险恶用心，竟然听信他的话，选用安禄山做边帅，委以重任，这才有天宝末年“安史之乱”的发生。
李林甫对有贤能的人或杀或贬或压制不用，而只用一些才智平庸而善于溜须拍马的小人，一个个有才能的正直的大臣全都遭到排斥。就在这个时期，唐朝的政治从兴旺转向衰败，“开元之治”的繁荣景象消失了。