Opactwo powstało w średniowieczu, na miejscu wcześniejszej fortyfikacji. Niewielką część tych budowli obronnych wkomponowano w zespół klasztorny. W XV w. tutejsi zakonnicy zainicjowali reformy w obrębie zakonu benedyktyńskiego, głosząc powrót do pierwotnej doktryny św. Benedykta. Wrócili na ścieżki ascetyzmu, cnoty i nauki, czego wyrazem było m.in. uznanie organizacji wspólnoty w Melku za wzorcową przez papieża Urbana VIII.
W XVIII z inicjatywy opata Berhotda Dietmayera klasztor i kościół pw. św. Piotra i św. Pawła poddano gruntownej przebudowie na styl barokowy. W konsekwencji powstał jeden z największych barokowych zespołów sakralnych w Europie, uznawany za najpiękniejszy przykład baroku w Austrii.