物語は、ドンであるヴィト・コルリオーネの少年時代、彼の父の葬儀の行列のシーンから始まる。彼の父は、地元のドン、チッチオの上納金を納める事を拒否し殺されたのだ。ヴィトの兄は山に籠り父の復讐を企てるが、失敗し殺されてしまう。これはシチリアにあった実話に基づいている。
母は、チッチオにヴィトの命乞いをするが、ドンはヴィトが成長し自分を殺しに来る事を恐れ殺そうとする。
これは、シチリア人の情念や因習から来る考え方で、かつてコッポラが観た、オペラ『カバレリアルスカティカーナ』のテーマとなっている。
母は刃物をチッチオの首に突き付け人質に取り、ヴィトを逃がすが射殺されてしまう。シチリア人の歌手でもある女優の母としての情念溢れる演技が印象に残る。
ヴィトは地元の人に匿われ、アメリカに亡命する。移民局のシーンは、スチール写真を元に、忠実に当時の模様が再現されている。前作から引き続き担当をした美術監督の貢献度は高く、アカデミー美術賞を受賞している。
親兄弟を故郷のドンに無惨にも殺され、幼くして亡命を余儀なくされる。ゴッドファザーは、ここから始まったという、鮮烈な印象を残すオープニングである。

場面は、現代となり、マイケルの息子アンソニーの聖餐会が開かれ、前作のコニーの結婚式と対比的に描かれる。
コルリオーネファミリーが集結するが、表のビジネスも成功し、さらにラスベガス進出を目論み、一見すると栄華を窮めている様に思える。しかし、マイケルの妹コニーは、色々な男と奔放に付き合い、我が子をほったらかしなのをマイケルに諭され、一緒に暮らす事を提案されても、聞く耳を持たない放蕩な女と変わり果てている。前作で夫をマイケルに粛清された顛末が浮き彫りになる。
また、独身だった兄フレドは結婚するも、あばずれな女房の尻に敷かれている。
だが、マイケルはファミリーのドンとして勢いを増していた。妻のケイとダンスを踊りながら、ファミリーの仕事から手を引く約束が果たされない事を責められながら、ケイのお腹に宿る三人目の子供が男の子である事を願っていた。次なるゴッドファザーの誕生と、さらなるファミリーの繁栄を見越してのことだ。
スピーチに立ったギアリー上院議員は、挨拶で巨額の寄付をしたマイケルコルリオーネとコルリオーネファミリーを称える。しかし、暗がりの書斎では、やはり前作同様、裏取引が行われている。ギアリー上院議員は、カジノの営業許可の見返りに法外なマージンを要求する。ギアリーは、イタリア系マフィアであることでファミリーを屈辱し、マイケルは申し入れを拒否する。汚職を常套手段とするギアリーは、マイケルとコルリオーネファミリーの最初の敵として現れる。
マイケルが進出を狙うカジノビジネスはハイマンロスが握っているが、ハイマンロスは、『PARTⅡ』ではカットされているが、若き時、ヴィトコルリオーネに拾われたマフィアで、後に時系列に編集された『サーガ』では、そのシーンが出て来る。
ところが、とんでもない事件が起きる。領地の屋敷内の寝室にいたマイケルとケイが襲撃されたのだ。凄まじい数の銃弾が二人を襲う。なぜかカーテンが開いている事にケイが気付き、マイケルが閉めようとした時だった為、なんとか被弾は免れた。しかし、妻との団欒の時に銃撃されたマイケルの怒りは凄まじかった。
ハイマンロスの部下と折り合いの悪いフランクを呼び、ロスを油断させる為、手を打つ様に命令する。現場では、ロスの部下はフランクを暗殺しようとするが、たまたま警官が立ち寄り、何とか生き長らえる。しかし、ロスの部下はフランクにマイケルの指示と思わせる事に成功する。
マフィア同士の陰惨な駆引きが、ついに幕を開けるのである。

話は結婚し長男フレドが誕生した頃のヴィトへと移る。街には、同じイタリア移民でありながら、同胞から上納金を巻き上げるファヌッチがおり、ヴィトは初めてマフィアと邂逅する。また、ヴィトに匿われたこそ泥のクレメンザは、金がなく家族に尽くせない事を悩んでいたヴィトにお礼がしたいと、二人で金持ちの家に絨毯を盗み入り、ヴィトは妻へ絨毯を送る。
たぶらかされたヴィトの最初の犯罪は、家族の為であったのだ。

場面は、現代へと移る。ギアリーは、娼婦と一夜を共にするが、朝目覚めると、娼婦は刺殺体となっている。恐れおののくギアリー。そこは、フレドの店で、トムヘーガンが既に駆け付けており、アリバイを作り、スキャンダルを伏せる約束をする。しかし、トムが目配せした先には、手に着いた血を拭く配下が。見事はめられたギアリーは、マフィアの子飼いと成り果てるのだった。
父ヴィトの時代からのファミリーの裏の顔である常套手段が発揮されたシーンである。敵を潰すには、手段を選ばないマフィアの面目躍如といったところか。
物語は、ドミニカの大晦日バティスタ政権崩壊という史実を舞台に展開する。前作でマイケルが殺したモーグリーンと盟友だったハイマンロスは、コルリオーネファミリーの進出に多額の金を強硬な態度で要求する。
そんな中、華やかなフェスティバルの最中、フレドがハイマンの配下のジョニーと通じていた事をフレドの洩らした言葉で知ってしまい、ショックを受ける。
マイケルは、新年のパーティの後、ロスが自分を殺そうとしている事を察知し、ロスの暗殺を決行するも、政府軍の行進に阻まれ失敗する。カストロ率いる反乱軍は政府軍を反撃し大混乱となる中、マイケルはフレドを連れ脱出しようとするが、フレドは、これを拒否する。すでに、フレドの心は離れつつあったのだ。
前作から続く、マイケルによるファミリーの統率は、本来は愛から発しているはずである。マイケルは父であるヴィトから、それをまなんだはずだった。しかし、コニーは身を持ち崩し、フレドから不信と嫉妬を買いつつあった。いよいよ、マイケルのファミリーの崩壊の序曲が始まる。それを象徴する一連のシーンだ。