Послепожарный ампирный особняк с мезонином, построенный в 1820-х годах, стал третьим владением Ивана Алексеевича Яковлева в районе Арбата и Пречистенки. Дом был куплен им в 1839 году у генерала Сергея Алексеевича Тучкова специально для сына Александра Герцена. В старом доме, названном «Тучковским», писатель жил с семьей с сентября 1843 года до отъезда за границу в январе 1847 года. В разное время владельцами этого дома были актриса Императорских московских театров Аграфена Тимофеевна Сабурова (в 1826 – начале 1830-х годов); генерал и стихотворец Сергей Алексеевич Тучков (в 1835–1839 годах); Егор Иванович Герцен, сводный брат писателя (в 1849–1863 годах); последняя владелица Т. А. Лопухина (в 1870–1912 годах).
Дом сохраняется в неприкосновенном виде со времен его перестройки в 1892 году, когда были утрачены видимые черты ампира. В октябре 1968 года Исполкомом Моссовета принято решение об организации Музея А. И. Герцена на правах филиала Государственного Литературного музея в доме на Сивцевом Вражке, 27.
Музей состоит из 2 комплексов: старого мемориального «Тучковского» дома, где развернута экспозиция «Герцен в России», и современной пристройки, состоящей из экспозиционного зала «Герцен на Западе» и конференц-зала для массовых мероприятий и временных выставок. С февраля 2008 года по март 2012 года произошла полная историческая реставрация Дома Герцена. Особняк остался в его прежнем, подлинном виде, полностью нетронутым, в отличие от множества московских «новоделов»: заново обшиты досками стены, заменены некоторые бревна, несущие конструкции, восстановлены интерьеры и др.
6–8 апреля 2012 года, в рамках празднования 200-летия А. И. Герцена, Дом Герцена после капитальной реставрации был торжественно открыт. В нем разместилась выставка раритетов из герценовской коллекции ГЛМ – «Вещи, которые были для нас святыней». Значительную часть этого собрания составили материалы, переданные музею потомками писателя.
14 декабря 2012 года, в памятную дату декабристского восстания, произошло торжественное открытие постоянной экспозиции Дома-музея А. И. Герцена «Я служил на пользу России словом и делом…» Жизнь и судьба Александра Герцена». Была создана принципиально новая концепция экспозиции и появились новые залы: «Студенческая комната 1830-х годов», «Зарубежный город» и «Лавка Трюбнера». Экспозиция оснащена множеством современных технических средств, дающих возможность погрузиться в атмосферу позапрошлого столетия: улицы европейских городов в «зарубежном» зале; сенсорные киоски; звуковое оформление «Рим», «Париж», «Женева» и «Лондон»; интерактивная арка с видами России и Европы и многое другое.
