In 1927 werden de historische en kunstvoorwerpen van het Nederlandsch Museum van Geschiedenis en Kunst gesplitst. De historische voorwerpen kwamen in het Nederlandsch Museum voor Geschiedenis. De kunstvoorwerpen vonden onderdak in het Rijksmuseum voor Beeldhouwkunst en Kunstnijverheid. Beide musea bleven gevestigd in het Rijksmuseumgebouw. Aanvankelijk was de algemene leiding van het Rijksmuseum in handen van een hoofddirecteur. Hij droeg ook zorg voor het algemeen beheer van het gebouw en was belast met personeelszaken. De in het Rijksmuseum gevestigde musea hadden daarnaast hun eigen directeuren, die volledige vrijheid op kunstzinnig terrein hadden. Het beheer van het Rijksmuseum voor Geschiedenis was desalniettemin vanaf het begin in handen van de hoofddirecteur. De hoofddirecteur hield wel contact met de kunsten, omdat hij tevens directeur van het Rijksmuseum van Schilderijen was. De controle op het beleid van de hoofddirecteur en de directeuren werd uitgeoefend door een Commissie van Toezicht, die ook een adviserende taak had. Vanaf de jaren 20 had de hoofddirecteur de mogelijkheid om ook zelf het beleid ten aanzien van de kunst te kunnen bepalen. Op 25 augustus 1939 werd als gevolg van de gespannen situatie in Europa het Rijksmuseum voor publiek gesloten. Vervolgens werden de belangrijkste voorwerpen geëvacueerd. Na de bevrijding in mei 1945 keerden de geëvacueerde kunstschatten ongeschonden terug uit de schuilkelders en kon met de herinrichting van het Rijksmuseum een begin gemaakt worden.