Das markante Museumsgebäude (Architekt: Hubert Lütcke) wurde 1927 anlässlich der 400-Jahr-Feier der Philipps-Universität Marburg eröffnet. Namhafte Künstlerinnen und Künstler wie Oskar Moll, Georg Kolbe und Käthe Kollwitz schenkten dem Museum zur Einweihung aktuelle Werke. Mit Unterstützung der Universität und des Universitätsbundes wurden ab 1932 etwa 70 Gemälde Otto Ubbelohdes in die Sammlung aufgenommen. Darüber hinaus baute der erste Direktor Prof. Dr. Albrecht Kippenberger (1890–1980) die Abteilung „Willingshäuser Maler“ auf.

Das 1927 eingerichtete Museum beherbergte nicht nur kunst-, sondern auch kulturhistorische Sammlungen. Erst nach der Eröffnung des neuen Museums für Kulturgeschichte im Landgrafenschloss 1981 entwickelte sich das Haus im Stadtzentrum zum reinen Kunstmuseum. Nach einer grundlegenden Sanierung des Gebäudes ist es seit Oktober 2018 wieder der Öffentlichkeit zugänglich und präsentiert seitdem seine Sammlungsbestände in wechselnden Konstellationen.

Das Kunstmuseum besitzt Gemälde, Grafiken und Skulpturen aus der Zeit von 1500 bis zur Gegenwart. Viele Werke der Klassischen Moderne stammen aus der Sammlung des Kunsthistorikers Richard Hamann (1879–1961; von 1913 bis 1949 Professor in Marburg), die seit 1960 zum Museumsbestand gehört. Zeitlich daran an schließt sich die Privatsammlung der Unternehmerin (Marburger Tapetenfabrik) und Designerin Hilde Eitel (1915–2010), deren Kollektion seit 2010 als Dauerleihgabe dem Museum zur Verfügung steht. Mit der Ausstellung der 57 Werke der internationalen Avantgarde von 1945 bis in die 1970er Jahre – unter anderem von Josef Albers, Jean Dubuffet, Lucio Fontana, Yves Klein und Niki de Saint Phalle – wird der Wunsch der Sammlerin erfüllt, einer breiten Öffentlichkeit den Zugang zur modernen Kunst zu ermöglichen. Eine private Stiftung erweiterte 2008 den Museumsbestand zudem mit Werken des Expressiven Realismus.