Der Name des Dorfes geht auf die Nennung „zur Molen“ in einem Weistum von 1466 des kurtrierischen Amtes Daun zurück. Diese Bezeichnung bezieht sich auf zwei Mühlen in unmittelbarer Nähe des Dorfes, von denen die Kelberger Mühle als Wohnhaus noch teilweise erhalten ist. Urkundlich belegt sind auch die Schreibweisen „Zormuhlen“ (1506) und „Zur Müllen“ (1771) (Mayer u. Mertes 1986, S. 123).
Das Dorf Zermüllen bestand aus zwei Siedlungskernen: Das Obere und das Untere Dorf. Nach der Urkatasterkarte von 1821 ist Zermüllen als Straßendorf mit teilweise flächig ausgreifender Bebauung zu charakterisieren.
Das Dorf bestand im 16. Jahrhundert laut dem sogenannten Feuerbuch von 1563 aus 18 Feuerstellen (Hausstätten) und kurz nach dem Dreißigjährigen Krieg sind im Jahre 1651 nur noch 4 und 1684 10 Feuerstellen aufgelistet worden. 1809 hatte der Ort 129 Einwohner, 1817 151, 1854 186, 1905 182, 1939 200, 1950 183 und 1968 178 Einwohner. Heute zählt Zermüllen etwa 170 Einwohner.
Bis 1795 gehörte Zermüllen zum Kurfürstentum Trier (Amt Daun) und kirchlich zur Pfarrei Kelberg im Eifeldekanat des Erzbistums Köln und nach der päpstlichen Bulle „De salute animarum“ vom 16. Juli 1821 zum Bistum Trier. Die frühere Kapelle zu Ehren des heiligen Donatus (Namenstag 30. Juni) wurde 1718 erbaut. Wegen Baufälligkeit wurde die Kapelle 1939 abgerissen und am Standort des heutigen Bürgerhauses (ehemaliges Kühlhaus) 1945 eine Notkirche eingerichtet, die bis 1955 genutzt worden ist. Die heutige St. Donatuskapelle mit Westchor wurde 1953/55 an anderer Stelle neu gebaut und letztmalig 2013 restauriert. Das ehemalige Sägewerk und grüne Warenhaus ist nach langem Leerstand 2015 renoviert worden und dient der Autovermietung von Sportwagen.
Während der französischen Herrschaft wurde Zermüllen mit der Einverleibung des linken Rheinlandes zu Frankreich vom 1798 bis 1813 zu einer eigenständigen Gemeinde („Commune“) in der „Mairie de Kelberg“ erhoben. Nach der Übernahme der Verwaltung des Rheinlandes durch die Preußen 1815 war Zermüllen bis 1970 eine eigenständige Gemeinde der Bürgermeisterei bzw. des Amtes Kelberg.
1890 fand die Planzuteilung der zusammengelegten und mit Wegen erschlossenen, landwirtschaftlichen Nutzflächen im Rahmen der Flurbereinigung in der Gemarkung Zermüllen statt (363 Hektar). 1970 schloss sich Zermüllen zusammen mit Hünerbach, Köttelbach und Rothenbach/Meisenthal auf freiwilliger Basis mit der Gemeinde Kelberg zusammen. Sie ist die Sitzgemeinde der 1970 gegründeten Verbandsgemeinde Kelberg.
Nach 1821 und vor allem nach 1900 hat das Dorf sich stark gewandelt und es hat die Wohnbebauung und gewerbliche Bebauung wie ein Supermarkt 2001, die sich vor allem an der Hauptstraße (heutige B 257) konzentrierte, stark zugenommen. Außerdem hat die Bebauung sich im Dorf verdichtet und sind ebenfalls seit den 1970er Jahren kleinere Wohngebiete entstanden. Durch diese Veränderungen hat das Dorf seinen ursprünglichen landwirtschaftlich geprägten Charakter verloren.
Der mäandrierende Trierbach, der das obere von dem Unteren Dorf trennt, ist nach dem Hochwasser von 1959 als Folge eines schweren Niederschlagereignisses begradigt und vertieft worden. Trotz dieser Maßhahme wurde der Ort am 2. Juni 2016 bei einem Unwetter mit großen Regenmengen erneut durch eine Überschwemmung getroffen.
(Peter Burggraaff, Universität Koblenz-Landau, 2014, 2016)