Музей открылся в 1916 году, а в следующем году получил статус историко-археологического музея. В основу фондов положены этнографо-археологические и художественные коллекции московского ученого-археолога М. С. Воробьева: книги, прялки, зеркала, инструменты для изготовления печатных пряников, а также собранные в окрестностях города ржевским краеведом и первым директором Ржевского музея П. Ф. Симсоном археологические материалы.
В 1977 году Ржевский музей стал филиалом Калининского государственного объединенного музея. Первая новая его экспозиция была посвящена военной истории Ржевского края.
В этом здании в 2005 году, к 60-летию Победы, открылась диорама «Ржевская битва 1942–1943 годов», отражающая современный взгляд историков на военные действия в районе Ржевско-Вяземского плацдарма. Предельно правдиво здесь показаны реликвии с полей сражений и подлинные документы тех лет. Ядром же музея стала впечатляющая диорама «Бой за Ржев 24 сентября 1942 года».
К 90-летию музея в принадлежащем музею купеческом доме XVIII века, построенном в стиле русского барокко или раннего классицизма, создана и развернута краеведческая экспозиция, посвященная древней истории Ржева.
