Заснований в 1956 році на основі колекції  глобусів, що зберігалися в Австрійській національній бібліотеці. Багато хто з цих глобусів попав в бібліотеку із колекції австрійських імператорів, або як дарунки (так, наприклад, Вінченцо Марія Коронеллі спеціально для імператора Леопольда I виконав два глобуси з портретом імператора і гравійованим дарчим написом), або були куплені. У 1921 році географ Ойген Оберхуммер провів інвентаризацію зборів і виявив 8 глобусів різних розмірів. У 1922 році ці глобуси були перенесені в Географічні збори, де до 1948 року виявилося вже 28 глобусів. У щорічному звіті директора зборів за 1948 рік було відмічено, що глобуси відносяться до самих рідко використовуваних предметів. Відкриття музею стало можливе завдяки роботі ентузіаста і колекціонера глобусів Роберта Хардта. Музей глобусів був відкритий 14 квітня 1956 року, до зборів увійшли 63 експонати. У наступних 30 років збори музею виросли до 145 об'єктів, за рахунок покупки, дарунків і обміну. У 1996 році в музеї налічувалося 260 експонатів. Музей кілька разів змінювяв приміщення, з 1 грудня 2005 року знаходиться в палаці Молларда-Кларі. Окрім власне колекції  музею, виставлено також декілька десятків глобусів з приватних зборів, переданих на довготривале зберігання в музей. Окрім глобусів Коронеллі, до цінних експонатів музею відносяться глобуси Меркатора 1541 (земний) і 1551 (небесний) років, а також глобус Гемми Фрізіуса 1536 років, найстаріший з глобусів, що знаходяться в Австрії.

Сайт музею http://www.onb.ac.at/globenmuseum.htm