De eerste vermelding van dit vrouwenklooster - ook wel klooster Sancta Maria Mater Domini ter Zijl - dateert van 17 september 1372: 'den susteren van der derden oirde den begine', worden de zusters van het Zijlklooster dan genoemd. Begijnen is een algemene aanduiding voor semi-religieuze vrouwen, waartoe de zusters van het Zijlklooster, die aanvankelijk behoorden tot de derde orde van Sint Franciscus, gerekend kunnen worden. Op 3 april 1408 is voor het eerst sprake van clausuur, de zusters worden 'sorores inclusae' genoemd, nadat al in 1404 vergunning tot het insluiten was verkregen. Op 14 april 1428 kregen de zusters toestemming om over te gaan naar de regel van Sint Augustinus en tussen 1432 en 1437 traden ze toe tot het Kapittel van Sion, dat speciaal bestemd was voor Hollandse tertiarissenconventen van het Kapittel van Utrecht die tot de regel van Sint Augustinus overgingen. Dankzij zijn vele bezittingen behoorde het Zijlklooster tot de rijkste van Haarlem. Het is dan ook geen wonder, dat in 1421 de kapel door een kerk werd vervangen. Op 13 mei 1493 gaf de stadsregering verlof het klooster te vergroten en in 1553 wordt er nog gesproken over een vernieuwing van de refter, bij welke gelegenheid de stad een fraai glas-in-lood raam aanbood. Tenslotte besloeg het het gehele complex tussen de Raaks en de Oude Gracht, ongeveer waar nu het postkantoor staat, terwijl de hoofdingang zich aan de Zijlstraat bevond. Na de Hervorming in 1581 werd het Zijlklooster opgeheven en de bezittingen aan de stad Haarlem toegewezen.