在鲁宣公三年（公元前606年）至鲁成公三年（公元前588年），晋国还与活动在今天山西长治地区的赤狄发生冲突。此一时期，赤狄的势力也相当强大。鲁宣公六年（公元前603年），赤狄侵晋，围困了经过的怀与邢丘。随后，晋国又对赤狄采取了骄纵和孤立的策略，使其气焰有所收敛。鲁成公三年（公元前588年），晋国终于将赤狄一部消灭，随后又陆续消灭赤狄各部，最终解除了赤狄的侵扰。
到了春秋的晚期，晋国公室的力量逐渐衰弱，卿大夫的专权进一步发展，致使晋国的内部争斗频繁，已无暇顾及在诸侯间称雄争霸。于是，晋国就把力量主要放在了白狄身上。鲁襄公二十七年（公元前546年），向戎弭兵之后，中原战火稍有平息。晋国内的六卿为了向晋东北拓地自肥，便向东迁的的白狄三部发动了战争。所谓的白狄三部实际上是东迁白狄在此一带建立的三个国家，分别是鲜虞、肥、鼓。
鲁昭公元年（公元前541年），晋国大将荀吴在太原一带打败了无终部落及群狄。鲁昭公十二年（公元前530年），中山穆子假借去会齐师，向鲜虞借路，趁机攻占了昔阳（今河北晋县西），灭掉了肥国，俘虏了肥君緜皋，并将緜皋及其臣子带回了晋国。随后，晋军又顺道进攻鲜虞，但鲜虞人固守，晋军无功而返。第二年，晋在平丘大会诸侯后，荀吴率军回晋国路过著雍时，袭击了鲜虞，追击鲜虞人至中人（今河北省保定附近），晋军全胜而归。
此后又两年，荀吴又领兵攻伐归属于鲜虞的鼓国。晋军分兵三路，将鼓军团团包围，最后鼓人粮尽而被迫投降。鲁昭公二十二年（公元前520年），鼓人发生叛乱，并再次归依于鲜虞，荀吴再次带兵征讨，以伪装籴粮人的办法偷偷潜入昔阳，对鼓人发动了突然袭击并最终将鼓人消灭。
东迁的白狄三部此时已被消灭两部，而剩下的鲜虞一部还有相当强的实力。鲁定公三年（公元前507年），鲜虞趁晋国挥师南下之机，向晋国发动了进攻，在平中击败了晋军，并俘获了晋国大夫观虎，可见鲜虞力量之强盛。次年，晋国为向鲜虞报复，让范鞅率军与卫军一起征讨鲜虞。同年，鲜虞建立了中山国。然而，晋国的这次征讨并没有什么结果，而十年后晋国的内乱中，中山国还与齐、鲁、卫三国联合出兵救援晋国的范氏和中行氏。在战国时期，中山国仍然存在，成为七雄以外的北方强国。
在晋国对白狄的征伐当中，基本都处于优势地位。但是晋国与白狄之间除了战争以外，还有不少和解政策。最为典型的就是和亲政策，双方互通婚姻。晋献公的宠妾骊姬就来自戎族，晋文公的母亲