In 1892 besloten de Christelijk Gereformeerde Kerk en de Nederduits Gereformeerde Kerk - omdat men zich in geloof en belijdenis één wist - te verenigen. Hieruit kwamen de Gereformeerde Kerken in Nederland voort. Hierna stonden de Christelijk Gereformeerde Kerk, afdeling Gedempte Oude Gracht en de afdeling Klein Heiligland in Haarlem voortaan beter bekend als resp. Gereformeerde Kerk A en Gereformeerde Kerk B, de Nederduits Gereformeerde Kerk als Gereformeerde Kerk C van Haarlem. Hoewel al aangesloten bij hetzelfde kerkgenootschap, besloten de kerken pas op 29 december 1916 - na verschillende pogingen in de periode 1897-1912 - tot een bestuurlijke 'samensmelting' tot één kerk: de Gereformeerde Kerk van Haarlem. Omdat Haarlem in de hierop volgende jaren gestaag groeide, besloot de kerkenraad in september 1926 tot het instellen van secties. Sectie Noord vergaderde vanaf 1927 in de Kloppersingelkerk (vanaf 1960 Koningkerk geheten) en sectie Zuid vergaderde in de Wilhelminakerk. Als gevolg van het beroepen van ds. L. Hoorweg als derde predikant werd de sectie Zuid verdeeld in de secties Zuid en Oost, waarbij sectie Oost in de Zuidoosterkerk vergaderde. Door de gemeentelijke grenswijziging van 1927, waarbij Schoten door de gemeente Haarlem werd geannexeerd, was de sectie Noord aanzienlijk uitgebreid. Begin 1936 besloot de kerkenraad tot een indeling in vier secties, waarbij sectie Noord plaats maakte voor de secties Noord-Schoten en Centrum. Op 1 oktober 1953 besloot de kerkenraad uiteindelijk tot een splitsing van de Gereformeerde Kerk van Haarlem in de Gereformeerde Kerk van Haarlem-Noord en de Gereformeerde Kerk van Haarlem-Zuid.