Poco a poco fue creciendo en el ámbito teatral, pero no fue sino hasta mediados de los años 30 que logró su primer gran papel en cine en la versión fílmica de La Selva Petrificada, cuya inclusión en el elenco se la debió al actor Leslie Howard, quien abogó por él ante ejecutivos de Warner Bros. para que le dieran el papel del gángster Duke Mantee, al que ya había dado vida en una versión de Broadway de la historia.
Desde ese momento, su fama sólo fue en ascenso, y con la llegada del filme Su Último Refugio, de Raoul Walsh, en 1941, logró consolidarse como una gran estrella hollywoodense; le siguieron producciones clásicas como El Halcón Maltés, de John Hutson, y su filme emblema, Casablanca, de Michael Curtiz, el cual le valió una nominación al Óscar.
En su vida personal sostuvo matrimonio en cuatro ocasiones, con Helen Menken (1926), Mary Phillips (1928-1938), Mayo Methot (1938-1945) y Lauren Bacall (1945), con quien tuvo a sus únicos dos hijos, Stephen y Leslie, y que lo acompañó hasta el día de su muerte, el 14 de enero de 1957, a causa de la metástasis de un cáncer de hígado que padecía; tenía 57 años.