Max von Sydow nació en Lund, Escania (Suecia) en una familia aristocrática sueca. Su padre, Carl Wilhelm von Sydow fue profesor de la Universidad de Lund y su madre la Friherrinna(Baronesa) Greta Rappe fue una maestra de escuela. El pequeño Max se mostró como un chico tranquilo y tímido.
Asistió al colegio católico de Lund y se habituó a hablar el alemán e inglés desde los nueve años. En el colegio, junto a algunos de sus compañeros, fundó una compañía de teatro amateur donde empezó a subirse al escenario. Después de cumplir el servicio militar, asistió al Teatro de Arte Dramático ("Dramaten") de Estocolmo, donde estudiaría interpretación desde 1948 hasta1951 con otros ilustres futuros actores suecos como Lars Ekborg, Margaretha Krook o Ingrid Thulin. Durante su época en Dramaten hizo su debut en la gran pantalla de la mano del director Alf Sjöberg en la película Sólo una madre (Bara en mor, 1949), y Señorita Julia (Fröken Julie, 1951).
En la década de 1970, interpretaría a uno de sus personajes más conocidos, el del Padre Merrin en El exorcista, papel que le valdría una nominación a los Globo de Oro. Se trasladó a Roma para aparecer en numerosas producciones italianas y allí entabló una gran amistad conMarcello Mastroianni.