新生的秦帝国面临着一南一北两大威胁，首要的就是北方的匈奴。
匈奴是中国北方一支非常古老的民族，他们游牧于大漠南北。据《山海经》记载：“犬戎（匈奴）与夏人同祖，皆出于黄帝。”《史记》也记载说，匈奴人的祖先是夏王朝的遗民，“匈奴，其先夏后氏之苗裔，曰淳维”。夏朝灭亡后，夏桀被流放，三年后死去，他的儿子淳维带着父亲留下的族人，避居北野，随畜移徙。后来，他的子孙就在那里繁衍，发展成为一支人数众多的民族，这就是后来的匈奴。
但匈奴这一称呼是汉代才有的，殷商时代称其为“鬼方”，春秋战国时各国对其称呼不同，有“狄”、“戎”和“胡人”等多种称谓。
匈奴人是游牧民族，经济活动以狩猎和畜牧业为主，主要牧养马、牛、羊三种牲畜，其中又以马最为重要，其生活地点也不固定，逐水草而居。《史记》记载：“儿能骑羊，引弓射鸟鼠，少长，则射狐兔，用为食，士力能毋弓，尽为甲骑。”匈奴人从小就在羊背上学习射箭，大一点的时候，射箭技术就很高明了，等再大一点，就开始骑马打猎。成人以后，他们平时是打猎放牧的好手，战时就变成骑射高超、身披铠甲的战士。
匈奴人作为一个游牧民族，其生存环境决定了他们的民族习性。在年景好的时候，水草丰美，他们骑马放牧，生活悠闲。但一遇到天灾，游牧经济的弱点就体现出来，面对生存危机的匈奴人就靠掠夺为生。久而久之，这就变成了匈奴人的习惯，所以司马迁说：“其俗，宽则随畜，因射猎禽兽为生业；急则人习战攻以侵伐，其天性也。”
处在大草原南部的中原民族有这样一个邻居，日子过得肯定不安宁。因此，只要一有实力，中原王朝就会设法征讨匈奴，这一活动从很早就开始了。殷商末年西伯侯率军攻伐夷狄，周穆王讨伐犬戎，都是中原王朝对匈奴的征讨。
周幽王时，申侯联合的犬戎，也是匈奴人的分支，正是他们灭亡了西周，开启了中国历史上的春秋战国时代。
春秋时期，春秋五霸相继诞生，作为五霸之首的齐桓公就曾以“尊王攘夷”为口号会盟诸侯。这里的“攘夷”也主要是指防止北方匈奴人的骚扰劫掠。在整个春秋时期，匈奴及其分支广泛地分布在从西北到东北漫长的边境线上，他们不断南下侵袭，秦、晋、燕等国深受其害。
到了战国时期，由于不断与先进的华夏文明接触，匈奴社会渐渐进入奴隶制阶段。当时的中原各国面临频繁和激烈的兼并战争，无暇顾及北方的匈奴，因此，匈奴常常利用骑兵机动性强的优势，大举入侵中原进行掠夺。当时，秦、赵、燕与匈奴为邻，但其主要的注意力都放在了中原，各国忙于混战，都在北边修筑了长城，对匈奴采取守势。
但只要一有时机，中原各国就会对匈奴进行打击，保卫本国的安宁。例如，秦国宣太后杀死义渠戎王后，秦军趁机出兵，攻占了义渠戎的属地，在那里设立了北地、上郡和陇西三郡，并修筑长城派兵把守。赵国进行了“胡服骑射”的改革后，军事力量迅速崛起。赵武灵王在位期间，赵军主动出击，将匈奴的分支林胡、楼烦等部族击溃，并在那里设立了云中、雁门和代三个郡，也修筑长城防备匈奴。燕国也在其国力强盛时期派秦开率兵击败东胡，在那里修筑长城，设立了辽东、辽西、渔阳等五个郡。
始皇发动统一战争后，秦国倾全力进攻六国，六国也是倾全力进行抵抗，各方均无力顾及北部的匈奴。这样，匈奴在十余年间不受打压的发展，势力迅速恢复和壮大。他们利用燕、赵、秦等国相互混战的时机，不断南下侵袭，占领了一块十分肥沃的地区——河套平原。河套平原距离咸阳较近，对秦帝国都城咸阳造成了直接危胁。
秦完成统一大业后，开始制定和实行巩固大一统的各项措施，暂时未对匈奴反击，随着大一统事业的逐步推进，始皇开始把目光投到匈奴身上。既然这样一位意气风发的皇帝想要着手解决匈奴问题，那秦和匈奴之间的战争也就不可避免了。
古人作战，一般都讲“师出有名”，也许是一时没找到出兵的理由，也许是始皇正在忙于处理内政，对匈奴作战这一决定迟迟未做出。直到公元前215年，始皇突然有了出兵的理由，这理由简单到只有四个字：旧恨新仇。
所谓旧恨，就是始皇在进行统一战争期间，匈奴不断出兵劫掠秦国，还将富庶的河套地区占据。这一地区不仅土地肥沃，而且地势平坦，匈奴可将这里作为南下的基地。这对当时的秦国，对现在新生的秦王朝都造成了不小的威胁，也牵制了秦军不少的兵力。这就是秦国与匈奴的“旧恨”。
新仇有两点：一是来自于始皇的巡游，二是来自于方士卢生的一句话。
公元前215年，始皇开始了他的第四次巡游，这次巡游的路线是先到碣石，再自东向西地巡视帝国的北部边境。始皇到碣石后，开始向西巡游，他先后经过辽西、渔阳、雁门、云中诸郡，最后返回都城咸阳。这次巡游，始皇亲眼目睹了匈奴侵扰给北部边疆带来的危害，目睹了被匈奴劫掠后的村庄，那些残垣断壁激怒了始皇，使他下定了讨伐匈奴的决心。
不久，始皇接见了一个叫卢生的方士。为了追求长生不老，始皇对这个方士非常信任。但这位叫卢生的方士并没有给秦始皇带回长生不老的药，而是给他带回了一本图录，所谓图录，就是预言之书。
卢生对始皇说，这本预言书里面有一句话：“亡秦者胡也。”这句话强烈地刺激了始皇的神经，毕竟这是关系到秦朝存亡的大事。因此，始皇也就没有再问卢生长生不老药的事情，而是问卢生这句话到底是指什么，但卢生也不知道，只好说“天机不可泄露”。始皇对这些可以“通神”的术士一向信任，因此也没有为难卢生。卢生走后，始皇就开始自己揣摩这句话的意思。
想了半天，始皇最终得出结论，这句话的意思就是说灭掉秦国的是胡人，而这个胡人就是北方的匈奴人。于是，始皇决定立即做战争动员，选拔将才、储备粮草，秦军开始磨刀霍霍，随时准备杀向北疆，给匈奴致命一击。
行军打仗、攻城略地、保卫国土，最重要的不是有多少兵，而是有没有一位堪当大任的将领，这就是千军易得一将难求的道理。始皇经过慎重的分析后，决定让蒙恬担任秦军主帅。
秦军进行灭六国的战争时，蒙恬并没有担任先锋，而是长年担负守卫北方边境的重任，保卫着首都咸阳的安全。由于长期戍边，蒙恬对北部的山川地形作了深入了解，对匈奴的战法也比较熟悉，并有一套专门针对匈奴骑兵的成熟战法，这就为他创造“胡人不敢南下而牧马”的战绩奠定了良好的基础。而且，蒙恬曾多次率军与匈奴骑兵对抗，取得了不俗的成绩。他的野战能力是秦军中其他的将领不能比的，因为秦朝的其他将领大多在中原地区进行的是攻城的攻坚战，对于草原上与匈奴的野战并无多少经验，因此始皇认为蒙恬是最适合的人选。
蒙恬得到任命后，决定对匈奴实施分阶段、分步骤的攻击：第一步，歼灭河套地区兵力较弱的匈奴部队，收复河南地。第二部，构筑防御工事，保卫既得成果，并伺机攻下贺兰山、阴山地区，歼灭匈奴主力，将其逐回大漠深处。
蒙恬将北击匈奴的第一目标锁定在河南地，这一目标是十分明智而务实的，因为匈奴的主力在阴山地区和贺兰山地区，南下河南地的力量相对比较薄弱。而且这一地区十分富庶，得到这一地区后，秦军的后勤补给就变得比较容易，而匈奴的经济实力将会受到较大的打击。
第一阶段的具体任务包括：将侵入陇西河套地区及原赵国边境的匈奴歼灭或驱逐到贺兰山、原赵长城以北地区，恢复赵武灵王时的边界线。
计划制定后，蒙恬开始行动。他亲率秦军主力从上郡出发，进入河套北部，另派一部偏师从北地郡出发，进入河套南部。
蒙恬率主力大军三十万经榆林北上，迅速攻占了河套北部地区。同时从北地出发的秦军也在河套南部发动攻势，准备充分的秦军进攻十分猛烈，而与此相反，面对突如其来的秦军，匈奴人并为作好战争准备，且在河南地的匈奴多为分散的部落，仓促而分散的抵抗显得很无力。
兵贵神速，蒙恬见匈奴人没能组织起有效力量，就下令秦军迅速推进，不给敌人喘息的机会。就这样，秦军一路上没有遭遇大的抵抗，就推进到了北河地区，顺利收复了河南地。始皇在那里设置了四十四个县，并徙民开垦。蒙恬则下令秦军到黄河南岸过冬，等来年春季再对匈奴作战。
在夺取了河南地后，蒙恬认为，匈奴人一定会组织反扑。于是他一边修筑防御工事，一边训练士卒，准备先下手为强，打匈奴一个措手不及。第二年一开春，蒙恬就亲率主力由九原渡过黄河，向高阙与陶山进军，另一部则西渡黄河，杀向贺兰山。
在高阙、阳山一带，两军主力相遇，展开激战。匈奴的头曼单于刚刚集结好兵力准备南下，没想到秦军会再次主动出击，于是便仓促摆开阵势，准备应战。
与之相反，准备充分、训练有素的秦军有自己的一套成熟战法。当时，秦军的攻击还是以步骑和战车相结合的战法为主，想必是借鉴了当年赵将李牧战胜匈奴的经验。但当年赵军用的主要兵器是弓箭，而此时的秦军却大量装备了威力更大的弩。弩代表着当时军事技术的最高峰。匈奴人普遍装备的是弓，无论射程还是威力都无法与弩相比。而且秦军战车数量较多，上载各式弩箭，一旦齐射，就是万箭齐发的场面，能对敌军造成极大的心理震慑。张艺谋在电影《英雄》中就将秦军万箭齐发的场面表现得淋漓尽致。
果然，两军接近时，秦军战车在前，阻挡匈奴骑兵的冲锋，后边的弩兵和骑射手张弓齐射，箭如雨下。匈奴被这种强大的攻势所震慑，还未冲到秦军阵前就有大量人马伤亡，士气聚降，阵形大乱，几乎溃不成军。秦军的步骑大军趁机掩杀过去，匈奴主力被彻底击溃，死伤惨重。
秦军连战连捷，匈奴遭到致命打击，不敢再留在阴山一带。不久，头曼单于率领残余势力退出阴山和贺兰山地区，向大漠深处北撤七百余里，直到漠南一带。
至此，秦帝国北击匈奴的战役取得完胜。此后，蒙恬率领三十万秦军一直驻守北边，威慑匈奴，并修筑起了长城。始皇在新征服的地区设置了九原郡，公元前211年，三万户民众被迁徙到那里从事边疆开发，此后，这块地区就成为秦军抗击匈奴的后勤保障基地。
秦帝国击败匈奴后的第二年，开始征发罪人和百姓，前往北边修筑长城。《史记》记载：“秦已并天下，乃使蒙恬将三十万众，北逐戎狄，收河南，筑长城，因地形，用险治塞，起临洮，至辽东，延袤万余里。”从这一记载可以看出，主持修筑长城的正是大将蒙恬。
蒙恬修筑的秦长城，西起今天甘肃的临洮，向东一直延伸到了今天朝鲜的平壤，直达海边。蒙恬用四年时间修好了这条举世闻名的万里长城，代价就是无数秦朝百姓的生命。《水经注》中有民谣这样唱道：“生男甚勿举，生女哺用脯，不见长城下，尸骸相支柱。”在那个重男轻女的时代。人们宁愿生女孩也不要男孩，因为生了男孩就要去修建长城，就很可能会死在那里，还不如要个女孩。可见修长城时百姓劳作之艰辛。但幸好这一伟大的工程并不是全新的，而是蒙恬将原来秦、赵、燕三国的长城连接而成，若不是这样，将有更多秦国百姓埋骨他乡。
长城的修筑，一方面耗费了秦王朝大量的民力物力，将秦国百姓推到了水深火热之中；另一方面，长城对于抵御匈奴的骚扰，保护内地人民生产和生活，确实也起了重大的作用。因此，秦王朝承受了修长城之害，但这确实也是一件功在千秋的大事业。
蒙恬北击匈奴、修建长城，有力地阻止了匈奴骑兵对中原的抢掠，使得秦军有了进可攻退可守的一块宝地，并且对这块宝地进行了进一步的开发。在后来与秦人的交往和联系中，不少匈奴人受中原文化的吸引，南迁中原，同秦人及其他各族人民共同居住和生产，到了汉代，这一趋势更加明显。可以说，正是长城的修建，保卫了中原文明的正常发展，促进了民族大融合，奠定了中国统一的多民族的中央集权国家的基本格局，也为汉代汉民族的形成创造了条件。