À la mort de Don Paolo, vieux chef de la Mafia new-yorkaise, les familles se réunissent afin de désigner son successeur. Frank, le fils de Paolo, est encore inexpérimenté pour assurer la relève. En attendant qu'il soit en mesure de le faire, c'est le respecté Don Angelo qui assure l'intérim. Mais l'ambitieux Orlando, lieutenant de Don Bruno actuellement sous les verrous, ourdit une machination pour devenir le vrai " parrain " de la ville.
Orlando favorise la rencontre de Don Angelo avec Ruby, la maîtresse de Frank. Ce dernier, sans connaître l'identité de son rival, administre une violente correction à Ruby. Don Angelo, furieux, décide de la venger... La guerre est déclarée. Elle devient vite sanglante et sans pitié. Frank est tué après son fidèle lieutenant Vince.
C'est son ami fidèle, Tony, qui prend la relève. Mais Tony est plus malin que ses anciens complices. Il fait son enquête et établit la culpabilité d'Orlando... Don Angelo a subi une attaque cardiaque. Ses jours sont désormais comptés. Don Bruno qui vient d'être libéré comprend à son tour la duplicité de son lieutenant. Orlando est exécuté tandis que l'ensemble des mafiosi rétablissant la paix reconnaît la légitimité de Tony qui a su faire taire les haines et les armes...