纽约的教父维托·唐·科莱昂通过与政府要人互相勾结，不择手段地扩展势力，成为科莱昂家族的首领、黑手党的头子。他与美国东部地区和纽约的其他几个大家族明争暗斗，争权夺利。科莱昂育有三子一女，长子桑尼性格凶猛，脾气暴躁，是他的主要助手；次子弗莱德胆小怕事，有些窝囊，不受重用；小儿子迈克尔刚从军队回来，长相斯文，遇事稳重，女儿康妮年轻貌美，性格温柔。
康妮同卡洛结婚了，但婚后不久即遭到卡洛的暴力，桑尼痛打了卡洛一顿，对方一直怀恨在心。贩毒黑帮头子索洛佐要同教父合作，但由于他最近已同塔塔格利亚家族有了联系，而塔塔格利亚家族又和巴士尼家族串通一气。为此教父拒绝了索洛佐的要求。
一天，教父在上街的时候被暗算，连中数枪。与此同时，他的军师汤姆也被索洛佐劫持，但索洛佳的目的是要他为自己跟桑尼讲和进行斡旋，之后就将他放了。这时一个手下匆匆从外面回来，轻声告诉索洛佐，教父并没有死。
教父的险遭不测使桑尼怒火中烧，他根本不理会汤姆的劝告，决心要为父亲报仇，并不让弟弟迈克尔参加，迈克尔只好决定先去探望父亲。在医院里，迈克尔发现警长麦克洛斯基已加入敌对的一伙，自己和父亲差点丧命，十分震怒。
桑尼派了上百个人去跟踪索洛佐，图谋暗杀。而索洛佳却托人捎信来，建议谈判，并要求迈克尔去。于是，经过周密策划和安排，迈克尔赴约了，在会谈中，他以异乎寻常的冷静和大胆干掉了索洛佐和麦克洛斯基，为家族报了仇。
教父基本伤愈出院，返家疗养，他得知迈克尔因杀了索洛佐和警长后已经躲藏起来的消息后很不以为然。
由于卡洛的出卖，桑尼被暗害了，教父受到了沉重的打击，但他不愿追查下去，倾向于和谈，而各大家族虽然举行了会谈，达成了“和平协议”，但暗中的仇杀、倾轧、排挤并没有结束。
流浪在西西里的迈克尔被一位名叫阿波萝妮姬的女郎迷住了，两个人举行了婚礼。当他得知大哥桑尼被害后，复仇心切，决定马上回纽约。然而临行前，被收买的保镖法勃利齐奥在迈克尔的车上装了炸弹，迈克尔虽幸免于难，却痛失爱妻。
迈克尔回到了纽约，教父见他有雄心，有魄力，便让他继承了家业。
不久，迈克尔找到了以前的女友凯，两人结婚成家，并生有一子。
教父病故了，迈克尔一方面觉得失去了依靠，一方面又觉得从此可以自行其道了，于是开始执行多年的复仇计划。他先是除掉了几个其他家族的仇敌；为了给桑尼报仇，他亲手勒死了出卖桑尼的卡洛：接着又一枪结果了法勃利齐奥的性命，为前妻报了仇。
迈克尔终于满足了，他成了新一代的教父。
