Marseille. Alain Charnier, la cinquantaine énergique, discute de l'élargissement du port pour y faire entrer de gros cargos. Il a une très jeune épouse et va bientôt partir en voyage avec elle pour l'Amérique. Un homme surveille ses agissements. Arrivé chez lui, cet homme est abattu par Pierre Nicoli. Celui-ci est l'homme de main et l'ami de Charnier qui envisage, pour l'affaire des USA, de s'associer avec Henri Devereaux, un célèbre présentateur de télévision.
Brooklyn. Jimmy Doyle et Buddy Rosso, deux policiers américains, surnommés Popeye et Cloudy traquent de petits dealers. En poursuivant l'un d'eux, Russo est légèrement blessé d'un coup de couteau. Pour se remettre, Doyle propose de finir la soirée au night-club du coin. Ils y repèrent Salvatore Boca, un petit truand qui dépense beaucoup d'argent sans compter. Jusqu'à sept heures du matin, Doyle et Russo le filent, le voyant livrer de la drogue et rentrer chez lui, un bar-tabac qu'il tient avec sa jeune épouse. Ils le repèrent ensuite se rendant dans l'immeuble d'un gros trafiquant de drogue. Doyle qui croit surtout en son flair, est persuadé que ces agissements louches sont en rapport avec la "filière française" par où passent des quantités appréciables de drogue, qui débarquent ensuite aux U.S.A. Les grands patrons de ce trafic n'ont encore pu être arrêtés.
Doyle réussit, non sans mal, à convaincre son chef à mettre les lignes téléphoniques de Salvatore Boca et du gros bonnet de la drogue sur table d'écoute. Pour les besoins de l'enquête, on impose à Doyle deux autres policiers qui vont créer une pénible atmosphère d'hostilité. Les quatre hommes traquent Boca qui les mène au port de New York où Nicoli, Charnier et Devereaux viennent d'arriver avec la grosse voiture de ce dernier.
Doyle ne ménage pas sa peine pour traquer Charnier mais celui-ci réussit à le semer dans le métro. Comme Boca ne parvient pas à convaincre son patron d'acheter immédiatement les 60 kilos d'héroïne, d'excellente qualité, pure à 89 %, de Charnier, celui-ci menace d'arrêter là les négociations.
Le capitaine de Doyle et Russo, estimant que ses hommes n'ont pas obtenu de résultats en deux mois, leur retire l'affaire. En rentrant chez lui, Doyle est pris pour cible par Nicoli qui a convaincu Charnier de tuer ce policier trop acharné. Doyle réussit à éviter les multiples tirs que Nicoli ajuste depuis un toit d'immeuble et se met à sa poursuite. Nicoli prend le métro, y abat un policier, oblige le conducteur à passer l'arrêt de la 25e avenue, abat un second policier alors que le conducteur meurt d'une crise cardiaque et que le métro percute alors un train à l'arrêt à la gare suivante. Doyle qui l'a poursuivi en voiture sous la rame du métro aérien dans une course folle intercepte Nicoli qui, titubant, descend les escaliers du métro. Comme Nicoli tente de fuir, Doyle l'abat.
Doyle et Russo sont de nouveau sur l'affaire Boca-Charnier. Ils filent Boca qui planque la voiture de Devereaux sous el pont de Brooklyn. Des petits dealers passent et repassent devant la voiture et Doyle croit tenir les coupables. De rage, il embarque la voiture au commissariat et la fait désosser. Tout y passe même le moteur mais il ne semble pas y avoir de drogue cachée dans la voiture. . De son côté, Devereaux vient réclamer sa voiture au commissariat et menace de faire un scandale. Au garage, Russo constate que la voiture fait 60 kilos de plus qu'indiqué sur la notice. Seul le marchepied n'a pas été désossé et c'est dans celui-ci que finalement Doyle et Russo découvrent la drogue. La voiture est remontée en un éclair et Devereaux la récupère sans se douter de rien.
Le jour de l'échange arrive. Charnier rencontre les patrons de la drogue américains dans un entrepôt de banlieue. Il récupère deux mallettes de billets qu'il réparti dans le marchepied à la place de la drogue. Au moment de rejoindre l'autoroute il trouve face à lui une vingtaine de voitures de police et fait demi-tour. L'entrepôt est encerclé. Boca est abattu mais Charnier réussit à s'échapper au fond de l'entrepôt. Doyle croit le tuer mais décharge son révolver contre un collègue.
Des cartons nous apprennent que Charnier court toujours ainsi que certains patrons de la drogue. Devereaux écope de quatre ans pour association de malfaiteurs. Doyle et Russo sont mutés.
En trois ans, cinq films transforment les Sam Spade et Philippe Marlow des années 50 en des policiers aux prises avec une banalisation du mal dans l'exercice de leur métier dont ils ne peuvent sortir indemnes. Avec French connection, ce seront L'inspecteur Harry (Don Siegel, 1971), Les flics ne dorment pas la nuit (Richard Fleischer, 1972), The offence (Sidney Lumet, 1973) et Serpico (Sidney Lumet, 1973).
En 1975, John Frankenheimer donnera une suite, French connection 2, au duel entre Jimmy Doyle, et Alain Charnier.