Van Heemskerck werd in een eenvoudig boerengezin geboren. Hij had twee zusters en een broer en was voorbestemd om later de boerderij van zijn vader over te nemen, maar dat wilde hij niet. Van Heemskerck had een groot talent voor tekenen en kwam tot de ontdekking dat hij ook kon schilderen.

Hij ging in de leer bij de Haarlemse schilder Cornelis Willemsz., maar zijn vader haalde hem terug. Met grote tegenzin moest Van Heemskerck de kost weer thuis verdienen. Op een dag moest hij de koeien melken en op de terugweg had hij een emmer vol melk op zijn hoofd. Hij liep tegen een boomtak aan en de melk ging verloren. Zijn vader was razend; Van Heemskerck vluchtte het huis uit en sliep in een hooiberg. De volgende dag stuurde zijn moeder hem met een knapzak en geld op weg om een studie te gaan volgen.

Op ruim dertigjarige leeftijd vestigde Van Heemskerck zich als een zelfstandig meester. Door zijn eenvoudige komaf had hij niet eerder de middelen en het aanzien om voor zichzelf te beginnen. Dat aanzien heeft hij bij zijn leermeesters wel gekregen. Hij ging wonen bij Pieter Jan Foppesz., een rijke Haarlemmer die kerkmeester van de Sint-Bavo was. Hij kende hem omdat Foppesz. grootgrondbezitter was in Heemskerk