查理曼征服伦巴底之后，阿德利安教宗要求接收部分伦巴底的领土，查理曼因为急于帮他的新朋友达成心愿，便慷慨地答应了教宗的要求，此举更巩固了教廷和法兰克王国之间的关系。
然而，查理曼并没有在意大利久留，对家庭和国家的忠贞促使他回国，何况他亦得知希尔德佳迪刚产下的小女婴不幸夭折，他希望在爱妻哀伤时陪着她。此外，查理曼还必须应付另一场战斗——据报，凶狠的撒克逊人再度进犯，规模比以往更大。
撒克逊人传统上并没有国王，而是每个部族各立领袖，在缺乏内部统合的情形下，撒克逊人过去并没有对法兰克形成严重威胁。
但是，现在情况不同了。在众多撒克逊部族中，出现了一位聪颖、强力的领导人物，他试着统合撒克逊人，这个新领袖就是维杜金德。
查理曼决定马上采取行动。他在公元七七五年年初召集了人马，进军撒克逊人的领地，以迅雷不及掩耳之势袭击撒克逊人，一举便攻下了敌军的西格堡要塞。撒克逊人善打游击战，但在正规战场上，他们根本比不上组织完善的法兰克军队。法兰克的骑士们以致命的弓箭及挥舞着长矛的步兵为后盾，架好长剑，排出严密的队形，向前展开一波波凌厉的攻势。查理曼所向无敌，连战皆捷。
法兰克军队与撒克逊人再缠斗了两年，每一次查理曼战胜之后，都试着使一些撒克逊人皈依基督教，许多撒克逊人被迫受洗。查理曼这时并不了解，凭借武力迫使人们改变宗教信仰是行不通的。
到了公元七七七年，维杜金德终于弃降，并且逃到答应提供庇护的丹麦。查理曼决定征服行动至此告一段落，但是如同伦巴底之役，查理曼并不因撒克逊人的口头承诺而满足，他们必须成为法兰克王国的一部分。查理曼在帕德博恩附近建了一座要塞，并且于这年在此地召开法兰克王国年度大会。撒克逊人看到这个壮观的场面，莫不深感敬畏，随后有很多撒克逊人放弃他们原来的信仰（他们祭拜的神，有点类似古希腊罗马时代所膜拜的诸神），主动地参加受洗典礼。
这是查理曼的一大胜利，在当时，似乎没有事情是他做不到的。他终于解除了伦巴底对教廷的威胁，这是他父王试了多年却无法达成的成就。现在查理曼又为教廷挣得一大片新领土，以及数以千计的教徒，大部分的教徒还曾经是欧洲最顽强的无宗教信仰者。由此看来，上帝似乎真的与查理曼同在。
尽管查理曼是个信仰坚贞的教徒，他仍免不了和一般少年得志的年轻人一样，变得骄矜自喜。这位一帆风顺的年轻人，很快就会尝到骄者必败的苦果。
法兰克军队的行军场面非常壮观，他们未着盔帽、金发飘扬，英挺的身躯上穿的是皮制马甲或轻便的盔甲，身上的佩剑在阳光下闪闪发光。长剑是法兰克士兵的主要武器，也是他们唯一使用的武器，士兵们皆妥善保养自己的长剑，剑鞘可能由金或银所铸成，上面有时还镶着珠宝，这些都令法兰克士兵们感到骄傲且信心十足。
经过阿奎丹、伦巴底和撒克逊之役连战皆捷后，似乎让查理曼觉得，他的军队是所向无敌的。公元七七七年，查理曼怀着这样的信心接见一群奇怪的外国人，他们千里迢迢赶到帕德博恩向查理曼求援。
这些头上包着头巾，全身披着丝质精美长袍的外国使节，想必在法兰克王国境内引起一阵骚动，他们便是来自西班牙的伊斯兰教徒（虽然当时西班牙仍有许多基督徒，伊斯兰教徒还是控制了西班牙大部分地区）。
来访的使节团效忠巴格达的伊斯兰教国王，团长是巴塞罗那的统治者，他希望推翻顽强抗命的科尔多瓦族长。
换成其他时候，查理曼或许会有所顾虑，不愿出兵干涉这件与人民福祉没什么关系的事，但是此刻不然，使节团团长利用查理曼性喜征战的性格，轻易地说服了查理曼。他同时答应以几个城市来酬谢查理曼的协助。查理曼则希望借此解救西班牙的基督徒，使其免于被伊斯兰教徒统治。
因为伊斯兰教军队是出了名的强悍，所以查理曼比以往更为努力备战。查理曼的祖父曾在公元七三二年的图尔之役中，击败伊斯兰教君王阿卜杜勒·拉赫曼的强悍部队，此役让信仰基督教的欧洲免于沦入伊斯兰教徒之手。查理曼倾全力召集了规模最庞大的军队，征召全国各地最英勇的战士，然后信心十足，满怀希望地启程前往西班牙。当时是公元七七八年。
似乎一开始就诸事不顺。查理曼牺牲惨重才攻陷几个城镇，他本以为西班牙的基督徒们渴望自由，必定会提供援助，想不到这些基督徒们的反应却相当冷淡。事实上，法、西两国边界比利牛斯山区的巴斯克人，还阻止查理曼军队的前进，查理曼一怒之下即摧毁了巴人潘普洛纳市的城墙。此外，许多伊斯兰教徒也不急着推翻目前的统治者，萨拉戈萨城的统治者也没有依照当初的承诺，把这个重要的城市献给查理曼。因此，闷闷不乐的查理曼，在几个月之后决定撤军。当时据传撒克逊人准备再度滋事，这个消息更促使查理曼下达撤军的命令。士兵们又饿又累地攀越比利牛斯山，但他们仍显得趾高气昂。他们愈接近山区，路径变得愈可怕，山区树丛浓密，狭窄的道路两旁是锯齿状的尖锐山岩，但是士兵们仍显得士气高昂。在他们身上看不到战败者的畏缩神态，他们也不怕漆黑的森林，不管怎么说，他们毕竟是法兰克人。
然而，些许疑惧之心或许可以帮助他们逃过一劫。一天晚上，后卫部队正在龙塞斯瓦列斯的小径上扎营时，听到上面传来一阵阵奇怪的声音，忽然间，山崖上滚下一个巨大的圆石，撞毁了一辆补给马车。数分钟内，满腹狐疑的法兰克士兵被一群凶猛的巴斯克游击队击溃，查理曼曾拆毁巴斯克人的城墙，现在他们打算报一箭之仇。法兰克士兵们试图击退敌军，但他们的长剑对诡诈的巴斯克人根本派不上用场。巴斯克人不断由山崖上推下巨石且射箭攻击，本来法兰克士兵们可以请求前导部队支援，但是个个骄傲的士兵中没有一个愿意示弱，等到他们吹号角求援时，一切都已经太迟了。
查理曼一直在军队的最前方，等到他赶到出事地点，战斗早已结束。山径四周一片死寂，偶尔传来一声声微弱的呻吟，阵亡将士和马匹的尸体遍布各处，在这些被乱石打死的尸首上，已找不到士兵们宝贵的长剑，现场还可以看到补给马车的残骸。
查理曼不发一语地注视死者，而且不时跪在他认识的阵亡士兵身旁低声哭泣。死者之中有太多是查理曼的朋友，后卫部队都是查理曼所册封的伯爵，对查理曼而言，他们不仅是勋爵，更是他的朋友。查理曼曾和他们一起征战四方，一起打猎，一起欢宴，他们是查理曼最亲爱的朋友，但现在全都阵亡了。
查理曼带着沉重的心情离开龙塞斯瓦列斯，他第一次觉得这么难过，他不知道自己哪里冒犯了上帝，竟遭到这等责罚。但是查理曼的噩运并没有到此为止。
希尔德佳迪在查理曼远征西班牙时，产下一对双胞胎兄弟——路易和洛塔尔。查理曼回国后的冬天洛塔尔夭折，接着战场上传来更多战败的消息。
查理曼在得知撒克逊人再度展开猛烈攻击之后，随即自西班牙撤军回国，查理曼以为前几年的辉赫战绩已解决撒克逊人的问题，但他显然是错了。几个月内，撒克逊人摧毁了查理曼在卡尔斯堡建造的要塞；突袭法兰克城镇；焚烧教堂；同时还屠杀妇女和孩童。最糟的是，盛传维杜金德已自丹麦返回法兰克，而这一波攻击行动，据说皆由维杜金德授意。
公元七八二年，查理曼开始计划反攻，但是他看得出来，当时并非出兵的理想时机，他的军队仍需要更多时间来备战。尽管如此，负责领军的法兰克勋爵们却没有耐心等候，他们义愤填膺，早就想报复，他们眼中只看到驻扎在圣多山的一大群撒克逊人，终于他们无视于查理曼的命令，决定展开攻击行动。
结果是龙塞斯瓦列斯的悲剧再度上演。法兰克勋爵们太过自信，轻率地进攻，并没有等后援部队提供协助。他们匆促的决定惹来杀身之祸，查理曼旗下大部分的勋爵和将官，在这次突袭中惨遭屠杀。法兰克士兵们的骄傲自满，再一次使他们赔上了性命。
当查理曼听到圣多山之役的噩耗时，心情突生巨变。龙塞斯瓦列斯的悲剧使他伤心欲绝，几个月来不断自省，问自己到底做错了什么事情，竟带给他的子民，如此残酷的命运。但是，在这个时候，查理曼心中充满了怒火，而非伤痛。他不再抱着赎罪的心态，而只想报仇雪耻。查理曼的性情自此由宽容转为严苛，而这样绝不宽怠的个性持续了十年才逐渐消失。
查理曼把所有一年前宣誓效忠法兰克的撒克逊贵族传唤到凡尔登（，今德国北部），命令他们供出最近一连串攻击行动的主谋者姓名，这项要求无异是逼迫贵族们出卖同胞。根据当时的荣誉法则，胁迫一个人背叛同胞等于是夺走一个人的生命，两者皆被视为残酷不仁之举。贵族们一开始都保持沉默，但是查理曼毫不留情，威胁要杀死不肯招供的人，贵族们只好供出数千个涉嫌兴战的叛乱分子。
查理曼把这些嫌犯传唤到面前，当着这些人的同胞，将他们斩首示众。一天之内，将近四千五百名撒克逊人身首异处，同时有更多人被贬为贱民。
尽管查理曼可以把此事视为个人的一次胜利，但这件事情却毫无值得庆祝之处。事情结束后，随之而来的不是欢宴，而是一片沉寂。这些早先急欲复仇的查理曼臣子，此刻都对查理曼的残暴大感震慑。
此时，凡尔登传来更多悲剧。查理曼的母亲和爱妻希尔德佳迪，在公元七八三年相继过世。虽然查理曼随即再婚，但是他的第四任妻子斐斯卓达，与恬静、温顺的希尔德佳迪很不相同，斐斯卓达喜欢抱怨、索求无度，她对查理曼暴戾的个性，产生不了什么正面的影响力。查理曼早年幸福的家庭生活，以及连战皆捷的征服行动，至此似乎宣告结束。
现在有些人估计查理曼的影响比麦克·哈特所估计的要大些。他们说他恢复了罗马帝国；重新统一了西欧，把萨克森并入西欧。为西欧随后的大部分历史定了格调，保卫了西欧，使其免受外来危胁；制定了法国、德国和意大利大概的边界；传播了基督教，教皇为他加冕。从此，开始了欧洲国家与教会之间许多世纪的长期斗争的阶段。在我看来，这样的说法非常言过其实。首先，所谓的圣罗马帝国实际上根本不是罗马帝国的复辟，而是查理曼接管的法兰克王国的继续。
假如查理曼确实成功地完成了西欧的统一，那么这种统一的意义是非常重大的。但是在查理死后还不到三十年，他的帝国就崩溃了，而且随后从未得到恢复。法国、德国和意大利目前的边界实际上与查理曼或路易都毫无关系。意大利的北部边界基本上与阿尔卑斯山脉的地理边界相吻合。法德边界基本上是沿一条语言边界，而这条语言边界反过来又大体上与旧罗马帝国的北部边界相吻合。
把传播基督教的任何真正的功劳归于查理曼是完全不合理的。基督教在查理曼统治以前几个世纪中一直通过欧洲向北传播，此后又传播了几个世纪。查理曼强迫萨克森改宗，除了完全是一种可怕的道德行为外，丝毫没有别的必要。不用屠杀手段，英国的盎格鲁萨克森人也改信了基督教，而且在随后的几个世纪里，通过说服而不是动用武力，各个斯堪的纳维亚民族也改变了宗教信仰。那么查理曼的军事胜利成功地扞卫了西欧，使其免受外来袭击，这种说法对不对呢？不对。在整个第九世纪期间，欧洲北海岸和西海岸遭到了北欧海盗即斯堪的纳维亚人的一系列掠夺性的袭击。与此同时，马扎尔的骑兵从东方入侵欧洲，穆斯林的袭击者骚扰大陆的南部。这是欧洲史上最不安全的时期之一。
行政当局和教会之间争权夺势的斗争是欧洲史上的一种僵持不化的特征，甚至在非属于查理曼王朝所统治的地区也是如此。这样的斗争实际是由中世纪教会的远大目标所决定的，没有查理曼也会出现（虽然也许会以稍微不同的形式出现）。他在罗马加冕是一个有趣的事件，但是算不上是导致全部斗争的一个关键性的因素。
说服一个受过教育的中国人或印度人相信查理曼近乎同秦始皇、成吉思汗或阿育王这样的人物一样重要。实际上如果把查理曼与中国的隋文帝相比，似乎就很容易看出中国皇帝是两者中比较重要的人物。隋文帝实现的中国统一有一种持久的影响，而查理曼对西欧的统一几乎还没有持续到一代人的时间。虽然查理曼的影响在一定程度上被欧洲人估计得过高，但是他的短期影响当然是巨大的。他毁灭了伦巴第和阿瓦尔两个国家，征服了萨克森，许多人在他发动的战争中丧生。从积极的方面来看，在他统治期间出现了一个短暂的文化复兴时期。
查理曼的生涯也带来了各种不同的长期影响。在他死后的数百年中，德国皇帝进行了一场控制意大利的斗争，结果以徒劳而告终。没有查理曼的榜样，他们完全有可能不会那么肆意地侵犯意大利，而是集中更多精力向北或向东扩张。还有查理曼所开创的圣罗马帝国，也确实是持续到了十九世纪初期（但是在这一阶段的许多时期内，神圣罗马帝国的实权很小，而德国的实权被许多小诸侯国掌握着）。查理曼最重要的成就也许就是他征服了萨克森，把这个重要的地区引入了欧洲文明的主流。这是一项与儒略·凯撒对高卢的征服相类似的成就，但是不完全那么重要，因为萨克森实在是一个较小的地区。
