就在宋文帝刘义隆励精图治，开创史家所谓的“元嘉之治”的同时，北魏在拓跋焘的带领下持续发动军事扩张战争，先后攻灭胡夏、北燕、北凉，统一北方，南北朝的格局就此形成。
魏太平真君十一年（即宋元嘉二十七年，450年）二月，拓跋焘调集十万大军屯驻梁川，号称打猎。
这谁看不出拓跋焘想干嘛，毕竟哪个家伙会带着十万大军打猎？
刘义隆鉴于淮水一带防御薄弱，担心魏军攻破淮南重镇寿阳，于是下诏把淮北的部队都撤到寿阳防守。
应该说，刘义隆在这里做出的决断应该不能算是错误的，毕竟寿阳是刘宋在淮河南岸的重镇，更是南平王刘铄的驻地所在。如果魏军真的攻破了寿阳，那么第一，刘宋淮河防线崩溃；第二，儿子的命也悬了。
但是，拓跋焘没有给刘义隆这个机会，在刘义隆的诏令抵达前线之前，拓跋焘就亲自率领大军出击，淮北各郡太守，无不临阵脱逃。
刘义隆的计划落空了，拓跋焘的迅速进击使得刘宋的淮河防线陷于了极其危险的境地。在这种情况下，出镇寿阳的南平王刘铄派遣左军行参军陈宪渡过淮河北上，前往悬瓠负责防守，在悬瓠城阻击拓跋焘。
但是，主持悬瓠防守的人是有了，兵却并没有，陈宪手头的兵力不到一千人。
不到一千人的守军要迎战十万魏军，对手还是雄才大略的魏太武帝拓跋焘。
任谁看，这都是没救了。
当然，觉得他没救的人中也包括拓跋焘。
拓跋焘面对宋军的孤城，大举发动进攻。他在城外造起箭楼，不断向城中放箭。与此同时，魏军的冲车也开始对悬瓠的城门发起了冲击。但是，当时悬瓠城里有一个和尚，很有智谋，给陈宪献了很多应对魏军攻城器械的奇谋。
但是，就算悬瓠城里有这等奇计百出的和尚，也终究难以弥补兵力上的劣势，魏军的冲车终究还是冲破了悬瓠的南门。
陈宪并没有放弃，他组织部队退入内城，拓跋焘也命令部队登城肉搏，与宋军决战。陈宪则依托悬瓠的城防坚持抵御魏军。
刘义隆也听说了陈宪凭借悬瓠孤城阻击魏军，自然也不会把这种忠臣留在前线送死，于是诏令镇守彭城（今江苏省徐州市）的武陵王刘骏派遣部队进攻驻守在汝阳的魏军拓拔仁部。
刘骏接到父皇的诏令，不敢怠慢，连忙命令参军刘泰之率军进攻拓跋仁。刘泰之出其不意，发动奇袭，突入魏军阵地。
拓拔仁虽然被打了个措手不及，但还是迅速稳定了部队，加之此时援军赶到，魏军于是对刘泰之发动反击。刘泰之终究兵力吃了亏，宋军大败撤走，刘泰之自觉没脸回见刘骏，于是让士兵撤走，自己拒绝撤退，战死沙场。
刘骏的援军虽然被击溃了，但刘义隆并没有死心。当时，名将臧质正好要去寿阳赴任南平内史，刘义隆于是一方面让臧质北上赴任，另一方面派已故的名将萧承之之子萧道成到前线宣旨，让臧质等人渡过淮河北上支援悬瓠。
臧质于是奉命北上，渡过淮河，并一举击斩了北魏任城公拓拔乞地真。拓跋焘闻知兵败，加之围城日久，士气低迷，只得放弃进攻悬瓠，率军北还，悬瓠得以保全。
陈宪以数百孤军面对十万魏军，前后坚守总计四十二天，杀敌无数，汝水为之不流。宋主刘义隆大喜，以守城之功，将陈宪从一个小小的南平王左军行参军直接提拔为了龙骧将军、汝南新蔡二郡太守，并拿出一万匹布来赏赐陈宪及城中将士。
时间来到了那年的六月份，在这个月，北魏政权内部发生剧烈动荡——著名的国史之狱爆发了。在这个月，一代名臣，历仕道武帝拓跋珪、明元帝拓跋嗣、太武帝拓跋焘三代，屡进奇谋，谋略过人，辅佐北魏统一北方的北魏军师、宰相、著名军事战略家、政治家、司徒、白马郡公崔浩因为在史书中直言不讳，触怒拓跋焘，使得北魏内部早已存在的鲜卑勋贵与汉族士人之间的矛盾猝然爆发。拓跋焘下诏，将崔浩满门抄斩，同时夷灭范阳卢氏、太原郭氏、河东柳氏三个门阀士族满门。一时之间，北魏上下，人心惶惶。
此时，刘义隆也萌生了一点想法，元嘉七年的第一次元嘉北伐虽然输了，但是刘义隆北伐的雄心壮志并没有因此湮灭。在前一年（元嘉二十六年），王玄谟上疏，陈述北伐之策，刘义隆看了很感慨，对殷景仁说：“闻王玄谟陈说，使人有封狼居意”。
于是，在元嘉二十七年六七月份，是否应该大举北伐的争论在刘宋朝堂之上展开了。一方面，徐湛之、江湛、王玄谟等人跟刘义隆自己力主大举北伐，力争“封狼居胥”；另一方面，沈庆之、刘康祖、萧思话以及皇太子刘劭等人竭力反对刘义隆发动此次北伐。
沈庆之认为，刘宋是步兵，北魏是骑兵，本身就处于不利地位。当初，檀道济、到彦之北伐北魏，也没有拿到什么好处，而王玄谟那批主战派的水平比起到彦之、檀道济都差远了，北伐绝对稳输。
而刘义隆觉得，到彦之、檀道济之所以打不过北魏，主要是因为到彦之眼疾大作，檀道济养寇自重。而且他认为，北魏能够靠的只有骑兵，一定会等到冬天黄河封冻，战马肥壮的时候再反击，宋军只要抢先攻克洛阳，据险而守，这仗是能够赢的。
刘康祖这时则表示，现在北伐，到冬天似乎时间太短了些，不够攻克洛阳，他希望刘义隆能够到明年春天再北伐。
但任凭沈庆之、刘康祖他们怎么劝，刘义隆北伐的意愿始终不曾动摇，他执着地想要完成自己封狼居胥的志向。
于是，在一片反对的声浪之中，刘义隆一意孤行，正式下达了北伐的诏书。
其实，我们从诏书中也能略微看到一些刘义隆执着于在元嘉二十七年夏天、秋天发动北伐的原因。
刘义隆在诏书中说他得到了北方各族人民的奏疏，奏疏中说他们已经暗中集结，等候宋军，还说拓跋焘杀害重臣，危及根本，又言自己得到了柔然方面的来信，说柔然准备与刘宋南北夹击，攻打北魏。
这三条理由有道理吗？
有一说一，还真有。
其中说拓跋焘杀害重臣，指的肯定就是拓跋焘发动国史之狱，杀害崔浩之事，第一个问题其实刘义隆在回复刘康祖时也说过，此时北方大量有大量起义军，刘义隆希望借助起义军发动北伐。至于第三条，北魏跟柔然也算是老对头了，三天两头对攻，联合柔然合围北魏诚然看上去是个相当不错的主意。
因此，刘义隆在以上这些考量下做出了大举北伐的决定，诏令刘骏、刘铄、刘诞、刘秀之兵分四路，分别从彭城、寿阳、襄阳、汉中四处重镇北伐北魏，刘宋第二次元嘉北伐正式展开。
