На Невском проспекте, где сейчас находится дом № 36, в 1739 году располагался участок, принадлежащий И.Г. Бергману. Позже, в 40-е годы XVIII века Бергман выстроил двухэтажный дом. С течением времени владельцы участка часто менялись. Под руководством талантливых архитекторов А.И. Мельникова и П.И. Габерцеттель в 1825 году на углу будущей Михайловской улицы и Невского проспекта было выстроено здание для купца А.С. Рогова. Высотой здание было в четыре этажа. За ним также построили дом для Г.К. Клее. Градостроительный план К.И. Росси предусматривал реконструкцию этих домов в 20-х годах XIX века. Вследствие произошедших изменений, Клей начал использовать дом купца Рогова как доходный, а свой дом использовал как гостиницу. Также, в доме Рогова устроили Михайловский трактир. После того как в 1871 году в доме произошёл сильный пожар, здания были куплены «Европейской гостиницей» (акционерное общество). Под руководством Л.Ф. Фонтана в 1873-1875 годах оба дома соединили в одно здание.
В 1910 году под руководством Ф.И. Лидваля (известного архитектора) здание «Европейской» гостиницы было вновь перестроено. До наших дней оно сохранилось в том обличие, в котором его спроектировал Лидваль. В этой гостинице в разное время останавливались знаменитые художники, писатели, музыканты, политики. Гостями в «Европейской» гостинице были такие известные личности как: Б.Шоу, Г. Уэллс, И. Штраус, К. Дебюсси, , В. Маяковский, К. Паустовский, И. Стравинский, И. Дунаевский, Д. Шостакович, С. Прокофьев, В. Мейерхольд, А. Горький, И Айвазовский, король Густав V, И.Тургенев, П. Чайковский, А. Луначарский.
Одна из петербургских легенд была связана с этой гостиницей. Это была легенда про неизвестного наследника и богача, умершего в эмиграции, но который перед отъездом из Петербурга сумел спрятать золото в одном из номеров гостиницы. Он спрятал его под полом. В составе некой делегации наследник приезжает в Петербург и заселяется в тот же номер гостиницы. Дождавшись ночи, он вскрыл паркет и обнаружил под ним металлическую коробку, но она была укреплена на межэтажном перекрытии мощным болтом. Пол ночи он пытался преодолеть сопротивление металла, и как только ему это удалось, раздался страшный грохот. Как оказалось, на нижнем этаже в ресторанном зале рухнула люстра. Эта коробка исполняла роль держателя. Также, известно, что во времена блокады Ленинграда в здании гостиницы располагался госпиталь № 911.