Музей является преемником и хранителем первых коллекций медицинских музеев Российской империи и Советского Союза.Его собрание берет начало от коллекций инструментов Мастеровой избы, основанной Петром I, коллекций Хирургического, Пироговского и Военно-санитарного музеев.
Музей был создан в 1942 году в Москве. Впоследствии был перемещён в Ленинград, где в 1951 году открыл свои двери для посетителей.
По богатству фондов, отображающих развитие медицины и деятельность её выдающихся представителей, музей является одним из крупнейших в мире. Архив музея содержит более 200 тыс. единиц хранения. Среди них коллекции произведений живописи, лекарственных средств, медицинских инструментов, формы одежды военных медиков, медицинские книги, документы, фотографии, персональные фонды видных деятелей медицины.