À New York, à la fin de la prohibition, Noodles se réfugie dans une fumerie d'opium après un coup qui a mal tourné. Plus de trente ans plus tard, il est de retour en ville et se remémore son passé de gangster : de sa jeunesse de voyou dans les années 20, marquée par sa rencontre avec son...
Après avoir purgé une peine légère, Frank Leone est sur le point de quitter la prison. Mais Drumgoole, le gardien de l'établissement humilié dans le passé par Frank Leone, entend ne pas laisser sortir son prisonnier si facilement.
Élevés ensemble dans les rues de New York, Madano et Gino ont suivi des voies différentes. L'un est devenu policier, l'autre un dangereux gangster à la gâchette facile.