中国的沉重外患是北方的东、西突厥，虽然唐太宗曾派兵击退东突厥，使他赢得「天可汗」的尊称，但是，东突厥汗国仍然有若干部落跟大唐对抗，其中，有两个小部落最为强悍，一是薛陀延部落，一是回纥部落。
薛陀延收纳东突厥的流亡部落，进入突厥故地，直接与中国为邻，并且自称可汗，建立了薛陀延汗国，而中国的富饶诱使它跟突厥一样不断南侵，不过薛陀延汗国的运气实在太坏了，踫上了骁勇善战的唐朝大将李承晔，不出半年，他就击溃了野心勃勃的薛陀延汗国。
薛陀延汗国灭亡后，回纥部落立即壮大在沙漠上的势力。
为了维持北方的和平，唐朝在云中设置了「燕然都护府」（即日后的「安北都护府」），以李承晔为大都护，表面上是管理辖境的边防、行政和各族事务，实际上则是看管一直蠢蠢欲动的回起部落。