元前627年)白狄君长被晋国所抓，白狄的一支便就此衰落。此后，陕西的这支白狄受到秦晋两个大国的夹击，因此时而服从于秦，时而服从于晋。鲁宣公八年(公元前601年)，狄人联合晋国一起进攻秦国，而到鲁成公九年(公元前582年)，狄人又转而与秦国一起攻伐晋国了。
在鲁宣公三年(公元前606年)至鲁成公三年(公元前588年)，晋国还与活动在今天山西长治地区的赤狄发生冲突。此一时期，赤狄的势力也相当强大。鲁宣公六年(公元前603年)，赤狄侵晋，围困了经过的怀与邢丘。随后，晋国又对赤狄采取了骄纵和孤立的策略，使其气焰有所收敛。鲁成公三年(公元前588年)，晋国终于将赤狄一部消灭，随后又陆续消灭赤狄各部，最终解除了赤狄的侵扰。
到了春秋的晚期，晋国公室的力量逐渐衰弱，卿大夫的专权进一步发展，致使晋国的内部争斗频繁，已无暇顾及在诸侯间称雄争霸。于是，晋国就把力量主要放在了白狄身上。鲁襄公二十七年(公元前546年)，向戎弭兵之后，中原战火稍有平息。晋国内的六卿为了向晋东北拓地自肥，便向东迁的的白狄三部发动了战争。所谓的白狄三部实际上是东迁白狄在此一带建立的三个国家，分别是鲜虞、肥、鼓。
鲁昭公元年(公元前541年)，晋国大将荀吴在太原一带打败了无终部落及群狄。鲁昭公十二年(公元前530年)，中山穆子假借去会齐师，向鲜虞借路，趁机攻占了昔阳(今河北晋县西)，灭掉了肥国，俘虏了肥君緜皋，并将緜皋及其臣子带回了晋国。随后，晋军又顺道进攻鲜虞，但鲜虞人固守，晋军无功而返。第二年，晋在平丘大会诸侯后，荀吴率军回晋国路过著雍时，袭击了鲜虞，追击鲜虞人至中人(今河北省保定附近)，晋军全胜而归。
此后又两年，荀吴又领兵攻伐归属于鲜虞的鼓国。晋军分兵三路，将鼓军团团包围，最后鼓人粮尽而被迫投降。鲁昭公二十二年(公元前520年)，鼓人发生叛乱，并再次归依于鲜虞，荀吴再次带兵征讨，以伪装籴粮人的办法偷偷潜入昔阳，对鼓人发动了突然袭击并最终将鼓人消灭。
东迁的白狄三部此时已被消灭两部，而剩下的鲜虞一部还有相当强的实力。鲁定公三年(公元前507年)，鲜虞趁晋国挥师南下之机，向晋国发动了进攻，在平中击败了晋军，并俘获了晋国大夫观虎，可见鲜虞力量之强盛。次年，晋国为向鲜虞报复，让范鞅率军与卫军一起征讨鲜虞。同年，鲜虞建立了中山国。然而，