Оригиналният Еврейски музей Виена е основана през 1896 г. и е първият по рода си музей в света. Музеят съществува с подкрепата на "Обществото за събирането и съхраняването на художествени и исторически паметници на еврейството." Той се фокусира върху историята и културата на евреите в Австро-Унгарската империя. Неговата колекция от предмети и продукти от Палестина също отразява политическия дебат за ционизма. Музеят е затворен веднага след окупацията на Австрия от нацистите. В последната година от своето съществуване, той имаше 6474 различни предмети. През 1939 г. те са били прехвърлени в Музея на етнологията и другите институции.

Повечето от позициите са били върнати на еврейската общност в началото на 1950-те години, но някои успя да върне само през 1990 година. Много от експонатите са загубени. Когато Новия музей на еврейската има опис, беше установено, че половината от оригиналните елементи бяха изчезнали. Но останалата част от нещата, които са много редки експонати, които представят като обекти на всекидневния живот, както и уникални материали.

31 дек, 1964 малка еврейска музей беше открита в новопостроена сграда на Tempelgasse, но получи почти никакво обществено внимание. След 3 години музеят е затворен.

Първата изложба на новия Еврейски музей Виена откри 7 март, 1990 в временни помещения в офисите на еврейската общност. Значителна част от изложбата е съставена от колекция от Max Berger. През 1992 г. музеят се премества в сегашния си дом в двореца Eskeles Doroteegasse. Музеят е открит година по-късно, през 1993. Библиотеката е открита за обществеността от 1994 г. насам.

От есента на 2011 г., музеят отваря врати след основен ремонт, като самата сграда, както и актуализиране на постоянната експозиция. Реновирана Еврейски музей посреща посетителите на новата система за осветление, която е направена в съответствие с оригинала. Постоянната експозиция в музея са разположени в три зони.