Op 19 april 1904 bood de directie van de Koninklijke Papierfabriek Van Gelder Zonen het personeel het ontspanningsgebouw Concordia aan. Hiermee was het onderkomen gewaarborgd voor de Gymnastiekvereniging Sparta, welke op 8 oktober 1904 werd opgericht. Alle gymnastiektoestellen werden door de directie van Van Gelder geschonken. In 1914 werd de vereniging lid van de Kennemer Turnbond en eind 1915 van het Koninklijk Nederlands Gymnastiek Verbond. Er werd jaarlijks in gebouw Concordia een openbare uitvoering gegeven, daarnaast nam men deel aan wedstrijden met zusterverenigingen, waarbij vele prijzen werden behaald. Ook was men zeer actief met het organiseren van fietstochten in de wijde omgeving van Velsen-Noord. Na de Tweede Wereldoorlog oefende men in het gymnastieklokaal van de christelijke lagere school aan de Van Langeveldstraat en vanaf 1952 in de openbare Watervlietschool, later Ir. Krijgerschool genaamd, aan de Van Diepenstraat. Velsen-Noord kende nog twee gymnastiekverenigingen; Sport Staten Hoogovens (SSH), opgericht in 1929 door en voor het personeel van Hoogovens en de R.-K.Turnvereniging In Eenheid Vooruit (IEV), opgericht in 1935 door Kapelaan Berkhouwer. Door de vergrijzing, het kleiner worden van de gezinnen en het vertrek van velen naar plaatsen met een beter woonklimaat werden de ledenaantallen gestaag kleiner. De leegkomende woningen werden weliswaar weer in gebruik genomen, maar vaak waren het de zgn. 'gastarbeiders', die andere interesses hadden. De drie verenigingen hadden een ongeveer gelijk programma met wekelijkse oefenavonden, jaarlijkse uitvoeringen en ze organiseerden al veel dingen samen. Halverwege het jaar 1969 kwam de fusie tot stand. Er werd gekozen voor de naam Gymnastiekvereniging Wijkeroog, ontleend aan het feit dat vóór 1926 Velsen-Noord deze naam droeg. Als datum van oprichting werd die van de oudste vereniging Sparta gehandhaafd.