Né Joseph Damiani le 22 juin 1923 à Paris dans une famille d'origine corse, José Giovanni connaît une jeunesse marquée par la Seconde Guerre mondiale, où son passé reste trouble entre accusations de collaboration et de résistance. Condamné à mort pour sa participation au meurtre de trois personnes, il voit sa peine commuée en vingt ans de réclusion, dont il purgera une partie avant d'être réhabilité des années plus tard lors d'un nouveau procès. C'est de cette expérience du banditisme et de la prison qu'il tire la matière de ses romans à succès, Le Trou, Classe tous risques et Le Deuxième souffle, adaptés au cinéma respectivement par Jacques Becker, Claude Sautet et Jean-Pierre Melville. Remarqué comme scénariste, notamment sur Les Aventuriers ou Les Grandes gueules, il passe lui-même à la réalisation en 1967 avec La Loi du survivant, puis connaît son premier grand succès public avec Le Rapace en 1968, réunissant plus de 1,7 million de spectateurs. Il confirme l'année suivante avec Dernier domicile connu, réunissant Lino Ventura et Marlène Jaubert devant plus de 2,2 millions de spectateurs, avant de poursuivre une longue carrière de cinéaste jusqu'à sa mort à Lausanne, en Suisse, le 24 avril 2004.
Toute l'œuvre de José Giovanni puise directement dans son propre passé de bagnard et d'évadé, qui lui donne une connaissance intime du monde carcéral et de la pègre que peu de cinéastes de sa génération peuvent revendiquer. Sa collaboration précoce avec Jacques Becker sur l'adaptation du Trou l'initie aux mécanismes du cinéma, avant que son admiration réciproque avec Jean-Pierre Melville, qui adapte Le Deuxième souffle, ne nourrisse durablement son goût pour le polar français. L'écrivain Jean Cocteau compte également parmi les premiers admirateurs de son œuvre littéraire, contribuant à asseoir sa légitimité dans le milieu culturel parisien.
Reconnu pour un classicisme de mise en scène qui lui vaut souvent le dédain d'une partie de la critique, José Giovanni privilégie une approche sobre et directe du récit criminel, centrée sur la loyauté entre hommes et la fatalité qui pèse sur ses personnages. Son cinéma s'attache à une représentation réaliste et sans complaisance du milieu carcéral et du banditisme, loin de toute glorification, qu'il connaît de l'intérieur. Il travaille volontiers avec de grandes stars populaires du cinéma français, en particulier Lino Ventura, dont l'aura de baroudeur solitaire correspond parfaitement à l'univers de ses films.
Bien que son travail de cinéaste n'ait pas été distingué par de grandes récompenses internationales, José Giovanni demeure une figure majeure du polar français par le succès populaire durable de ses films et par l'aura critique acquise grâce aux adaptations de ses romans par Jacques Becker et Jean-Pierre Melville. Son roman Le Deuxième souffle a d'ailleurs fait l'objet d'un second film à succès, réalisé par Alain Corneau en 2007, preuve de la postérité de son œuvre littéraire.
Lino Ventura demeure l'acteur le plus associé à l'univers de José Giovanni, celui-ci l'ayant dirigé à plusieurs reprises, notamment dans Le Rapace et Dernier domicile connu, où il l'associe à Marlène Jaubert. Il a également travaillé à plusieurs reprises avec les réalisateurs Jacques Becker, Claude Sautet et Jean-Pierre Melville en tant que scénariste ou romancier adapté, une collaboration triangulaire qui a nourri l'âge d'or du polar français des années 1960.
L'univers carcéral, l'évasion et la loyauté entre malfrats traversent l'ensemble de l'œuvre de José Giovanni, directement nourrie par son propre passé. La fatalité qui pèse sur des hommes solitaires, souvent rattrapés par leur passé malgré leurs efforts de rédemption, constitue également un motif central de ses récits. Le monde de la pègre, envisagé comme un espace de codes d'honneur rigoureux plutôt que de simple violence gratuite, structure enfin la plus grande partie de sa filmographie.