Tijdens de oorlogsjaren ontstond er in Amsterdam een nijpend gebrek aan celruimte voor de insluiting van preventief gedetineerden en kortgestraften. Belangrijkste oorzaak daarvan was, dat Duitse instanties als Sicherheitspolizei en SD cellen in de Huizen van Bewaring aan de Weteringschans en de Havenstraat gebruikten als Polizeigefängnis. Om in het aldus ontstane ruimtegebrek te voorzien huurde het Departement van Justitie van de gemeente Amsterdam het voormalige Lloyd Hotel aan de Oostelijke Handelskade: na aanpassing en verbouwing zou het gebouw als (Hulp)Huis van Bewaring dienst kunnen gaan doen. In een beschikking werd bepaald, dat er derhalve met ingang van 15 juli 1941 drie Huizen van Bewaring in Amsterdam gevestigd zouden zijn: het Lloyd Hotel werd Huis van Bewaring III. In het gebouw konden zo'n 200 gedetineerden worden geplaatst, een aantal dat gedurende de oorlogsjaren en de eerste jaren daarna werd opgevoerd tot meer dan 350. De gevangenen sliepen en werkten op grote zalen: zij brachten hun straf in gemeenschap door. In 1944 werd het gebouw in verband met de gevaarlijke situatie ten gevolge van de vernietiging van de haveninstallaties gedurende de periode 12 september tot 14 november ontruimd. Na de Duitse capitulatie werden er in het gebouw uitsluitend "gewone gevangenen" opgesloten: oorlogsmisdadigers en landverraders werden elders ondergebracht. In de jaren 50 kwam men geleidelijk aan tot de conclusie dat het Lloyd Hotel, o.a. door het ontbreken van voldoende mogelijkheden tot het afzonderen van gedetineerden, minder geschikt was als gevangenis. Desondanks duurde het nog tot 4 februari 1963 voordat het gebouw werd ontruimd; op 1 april daaraanvolgend werd het officieel opgeheven.