Hijo de Edward John Pratt Jr y su tercera mujer Eliza Sarah Millard, el futuro actor nació en Camberwell, Londres, y creció en Enfield.

Huérfano en su juventud, asistió a clases en la Enfield Grammar School antes de trasladarse a la Uppingham School, la Merchant Taylors' School, y de forma eventual a la Universidad de Londres. La primera meta de Karloff era unirse al servicio diplomático; su hermano Sir John Henry Pratt, llegó a convertirse en un famoso y distinguido diplomático. En 1909, Pratt viajó a Canadá, cambiando su nombre. Por razones de salud, no combatió en la Primera Guerra Mundial.

Una vez llegado a Hollywood, California, Karloff participó en numerosas películas mudas, antes de aparecer como el monstruo de Frankenstein en Frankenstein (1931), la película que le convirtió en estrella y que rodó gracias a que Bela Lugosi rechazó el papel. Un año después interpretó a otro personaje icónico, Imhotep, en La momia.

Su altura y el éxito de Frankenstein (donde apareció en los títulos de créditos solamente como Karloff) le encasillaron en el género de terror (donde realizó numerosas películas para la Universal Pictures), aunque participó en otros géneros como en The Lost Patrol de John Ford en 1934. Karloff interpretó al monstruo de Frankenstein dos veces más; La novia de Frankenstein (1935) y El hijo de Frankenstein (1939), con Lugosi como el loco Ygor. Precisamente con Lugosi coincidió en otros dos importantes títulos The Black Cat (1934) y El cuervo (1935).

A pesar de los papeles que le hicieron famoso, Karloff fue conocido en su vida real como un caballero generoso, sobre todo con la infancia. En sus últimos años actuó varias veces en la televisión.

Boris Karloff murió de neumonía en el King Edward VII Hospital, Midhurst, Sussex, a la edad de 81 años, siendo posteriormente incinerado.

Por su contribución, Boris Karloff fue galardonado con dos estrellas en el legendario Paseo de la Fama, en el 1737 Vine Street (por sus películas) y 6664 Hollywood Boulevard (por televisión).

Se le considera como uno de los grandes actores clásicos del cine de terror, junto a Lon Chaney Jr. (como el hombre lobo) y Bela Lugosi (como Drácula).