In 1841 gaf koning Frederik Wilhelm IV van Pruisen de opdracht tot het bouwen van een nieuw museum op het eiland in de rivier de Spree, vlakbij het Pruisisch paleis.
Friedrich August Stüler, de aangewezen architect, ontwierp een monumentaal neoklassiek gebouw dat werd opgericht net achter het Koninklijk Museum, nu bekend als het Altes Museum. Het nieuwe museum werd opgevat als een uitbreiding van het Koninklijk Museum, met een wandelgang die de beide musea zou verbinden. Negen jaar later werd een eerste deel van het museum voor het publiek geopend, maar het zou nog tot 1859 duren vooraleer de bouw van het Neues Museum volledig voltooid was.
Het museum bezat vooral een verzameling prehistorische kunst, Egyptische kunst en een verzameling van gipsen afgietsel, die in die tijd erg populair waren aangezien de bezoekers hierdoor monumenten uit andere landen konden aanschouwen in een tijd waarin weinig mensen de middelen hadden om te reizen.
In 1939 werd er een tweede gang gebouwd die het Neues Museum verbond met nog een ander museum op het Museumeiland: het Pergamon Museum.
Kort nadien zorgden de verwoestingen van de Tweede Wereldoorlog er voor dat de gebouwen op het eiland tot puin werden herleid. Na de oorlog werden de musea een voor een langzaamaan gerestaureerd, enkel het Neues Museum bleef een ruïne. Gedurende een periode werd er zelfs gedebatteerd over de wenselijkheid van het heropbouwen van het museum. Ondertussen werd de verzameling kunstwerken van het museum ten toon gesteld eerst in het Bode Museum, daarna in Charlottenburg en in 2005 verhuisde de collectie naar het Altes Museum.
In 1997 werd de Britse architect David Chipperfield aangesteld om een plan uit te werken voor de reconstructie van het Neues Museum. De werken gingen van start in 2003 en uiteindelijk ging het museum op 16 oktober 2009, 70 jaar na de sluiting in 1939, weer open voor het publiek. Helaas ging een groot deel van het interieur inclusief het Egyptische Hof – een zaal met zuilen versierd met hiërogliefen, Egyptische standbeelden en muurschilderingen – niet volledig gerestaureerd.
Het interieur is nu erg gemoderniseerd, alhoewel er nog delen van het oorspronkelijke, beschadigde gebouw zichtbaar zijn.Tegenwoordig is een groot deel van de oorspronkelijke collectie weer te zien in het Neues Museum, inclusief de Egyptische en Papyrus verzamelingen en de Prehistorische en vroeg-historische verzamelingen. In tegenstelling tot in de oorspronkelijke opzet vloeien de verschillende verzamelingen nu in elkaar over, waardoor de bezoeker een overzicht krijgt van de oude wereld vanaf de oorsprong van de mensheid tot aan de middeleeuwen. De topattractie van het museum is de buste van Koningin Nefertiti, die dateert uit 1360 v.C. en ontdekt werd in 1912.