拉拢杨国忠作为自己的助手，把他提拔为御史。凡是与东宫有点儿瓜葛的案子，都尽量牵扯到太子，让杨国忠上奏弹劾，交给吉温、罗希奭进行审问。杨国忠因此有机会按自己的意愿行事，排斥异己。因这样的案子受株连被判刑诛死的达数百家，都是杨国忠发起操作的。只是太子仁孝谨静，张垍、高力士又常在玄宗面前保护太子，所以李林甫始终没有机会把太子拿掉。

玄宗后期，对李林甫的信任和重用以及李林甫的专权，都达到无以复加的程度。玄宗经常不上朝理政，官员们有事都到李林甫家禀报，御史台和尚书省经常空无一人。陈希烈虽然在尚书省值班，并没有人来见他。

过去，宰相都以德高望重立身处世，不靠权势威风凌驾于人，出行时随从不过数人，士人百姓有时并不回避。李林甫自知结怨太多，经常担心有人复仇杀他，为了防止刺客，出门就布置百余名步兵和骑兵，分左右两队，由负责京城治安的左、右金吾卫派武警人员驱赶街上行人静街。前行的人员在百余步外，公卿大臣必须回避。史书上说，唐朝时，宰相出行前呼后拥是从李林甫开始的。在他家里，进入他的住处要经过一道道门，每一道门都上着大锁，卧室里有复壁可以藏身；以石头铺地，墙中又安装木板隔开。李林甫日夜如临大敌，一夜间都换几个床，即便是家人都不知道他睡在哪里。