Die 1520 erschienene "Collectanea antiquitatum in urbe atque agro Moguntino repertarum" von Johannes Huttichius ist das erste Werk zur Archäologie in Mainz und Umgebung. Über eine bei Festungsarbeiten unter Kurfürst Johann Philipp von Schönborn gefundene römische Fußbodenheizung bei Windesheim wird 1645 mit noch heute bestechender Genauigkeit der abgebildeten Architektur bei Merian berichtet. 1771 veröffentlicht Pater Joseph Fuchs die "Alten Geschichte von Mainz". Er führt planmäßige Grabungen durch und nicht nur die Schilderung der Objekte zeichnet sein Werk aus, sondern auch die Kritik an der ungenügenden städtischen Pflege:

"Die unzählige Menge römischer Denkmäler und Alterthümer in und um Mainz, machte diese Stadt schon von 400 Jahren her zu einem offenen Mark[t]e römischer Alterthümer und Seltenheiten, woher viele Fürsten und Große ihre Kabinete ausschmückten ..." (...) "Tausend schöne Stücke sind in Frankreich, England, in Holland, Niederlande, Lothringen, Ober- und Niedersachsen, Hessen, Schweiz, Savoyen, Schweden und Rußland von Mainz hinweg geführet worden."

In Bingen und Umgebung erforscht Pfarrer Gärtler von 1764 – 1782 die Stadtmauer sowie das römische Landgut im Binger Wald. Ab 1798 führt Johann Friedrich Franz Lehne die Arbeit von Fuchs fort. 1802 werden erste Bodenfunde ausgestellt, sie stellen den Grundstock des heutigen Landesmuseums Mainz dar. Lehne erstellt auch den ersten archäologischen Gesamtplan von Mainz. 1844 gründet sich der "Verein zur Erforschung der rheinischen Geschichte und Alterthümer in Mainz", der heutige Mainzer Altertumsverein, 1852 eröffnet das Römisch-Germanische Zentralmuseum. 1856 gründet sich in Bad Kreuznach der "Antiquarisch-Historischen Verein für Nahe und Hunsrücken", in Worms 1879 der Altertumsverein. In Alzey wird 1904 ein Museum eröffnet, um die Funde des spätantiken Kastells auszustellen.

1884 werden dann schließlich in Mainz die Überreste des römischen Bühnentheaters entdeckt. Es ist das erste von vielen römischen Groß-Bauwerken, welche in den folgenden Jahren gefunden werden.

Bereits 1902 wird das „Gesetz, den Denkmalschutz betreffend“ und 1920 die Bekanntmachung über die Anzeigepflicht und die behördliche Genehmigung bei Ausgrabungen und Funden erlassen. Gemeinsam mit den später in allen anderen Landesteilen folgenden Gesetzen zum Schutz der Archäologie fordert dieses Gesetz, dass vor Beginn einer Ausgrabung immer eine Genehmigung vorliegen muss. Schon zum damaligen Zeitpunkt wird die Wichtigkeit des Denkmalschutzes erkannt und umgesetzt. Es werden regional zuständige Bodendenkmalpfleger zum Schutz und zur Erforschung der archäologischen Befunde und Funde berufen. Viele Funde können wissenschaftlich besser bearbeitet werden, sie finden ein großes Interesse bei der Bevölkerung und neben den „großen“ Museen entstehen nun Museen mit einem eher regionalen Charakter.

1922 übernimmt „auf dringenden Wunsch der zuständigen Regierungsstelle die Direktion des Römisch-Germanischen Zentralmuseums (RGZM) widerstrebend“ die Aufgaben der Denkmalpflege im Nebenamt. Unterstützt werden sie von den Geschichtsvereinen und auch den Mitarbeitern der Museen vor Ort.

Das Ende des Zweiten Weltkrieges führt durch die Einrichtung einer Französischen Zone links und einer Amerikanischen Zone rechts des Rheines zur verwaltungsmäßigen Abtrennung dieser Gebiete. Die organisatorische Geburtsstunde des Mainzer Landesarchäologie-Amtes fällt auf die Beauftragung des Museumsdirektors „mit der Betreuung der Bodendenkmalpflege" für den Regierungsbezirk Mainz. Damit hält man zunächst am Organisationsmodell der Vorkriegszeit, also der Beauftragung der Direktion des RGZM im Nebenamt, fest.

Neben den Bemühungen in der Wiederaufbauphase nach dem Zweiten Weltkrieg die archäologischen Spuren der Stadt und des Umfeldes aufzunehmen, konzentriert man sich auf nur wenige größere Grabungsprojekte, wie beispielsweise die Erforschung des keltisch-römischen Gräberfeldes in Badenheim.

Anlässlich der Emeritierung von Prof. Dr. G. Behrens, und der Neuabgrenzung des Aufgabenbereiches des Römisch-Germanischen Zentralmuseums, beauftragt das Kultusministerium des Landes Rheinland-Pfalz im April 1953, das Altertumsmuseum der Stadt Mainz mit der Wahrung der Bodendenkmalpflege in Rheinhessen.

Seit dem 1. April 1956 arbeitet "die Bodendenkmalpflege in Rheinhessen und dem Kreis Kreuznach“ endlich im Rahmen einer eigenen Dienststelle (Landesdienst für Vor- und Frühgeschichte). Räumlich dem Altertumsmuseum der Stadt Mainz angeschlossen, setzt der Landesdienst die bewährte Zusammenarbeit zwischen Bodendenkmalpflege und diesem Institut fort.

Archäologische Forschung und Darstellung der Ergebnisse für die Öffentlichkeit sind bis dahin untrennbar miteinander verbunden: Museum und Bodendenkmalpflege wirken in einer Institution zusammen. 1963 erfolgt jedoch, bis auf Trier, im gesamten Land die Trennung von Museum und Bodendenkmalpflege. Die archäologische Bodendenkmalpflege wird nun überall der „Landesdienst für Vor- und Frühgeschichte“.

1967 übernimmt das Land das Altertumsmuseum der Stadt Mainz, fortan unter dem Namen Mittelrheinisches Landesmuseum. Das Land hat damit die Gesamtverantwortung für Museum und Bodendenkmalpflege, also auch die Erforschung und Darstellung der archäologischen Stadtgeschichte von Mainz.

1981 werden die römischen Schiffswracks in Mainz gefunden, die Bearbeitung erfolgt in Kooperation mit dem RGZM und ist die Grundlage des heutigen Museums für antike Schifffahrt in Mainz.

1982 wird bei Erdarbeiten für ein neues Bürozentrum in Mainz-Weisenau die dortige römische Gräberstraße entdeckt. Die Ausgrabungen laufen bis 1992, teilweise in Kooperation mit der Deutschen Forschungsgemeinschaft (DFG), die Ergebnisse können vor Ort besichtigt werden. In den Jahren 1984/1985 wird bei Bauarbeiten das spätantike Stadttor gefunden, auch dieses Denkmal wurde so vor Ort freigelegt, dass es von Besuchern besichtigt werden kann. Gleiches gilt für die wichtigsten Ergebnisse der Grabungen im Heiligtum für Isis und Magna Mater in der Mainzer Innenstadt (1999 – 2001).

Ebenfalls durch Baumaßnahmen können neben zahlreichen römischen Funden auch andere Epochen erforscht werden, so die mittelalterliche „Alte Stromburg“ in Stromberg (1984 – 1988), die mittelalterlichen Stadtviertel von Mainz am Tritonplatz (1993) und am Hopfengarten (2013) oder aber ein 2002 in Bad Kreuznach entdecktes und ausgegrabenes Doppelkörpergrab, welches besondere Einblicke in die Bestattungsweisen der Eliten der Urnenfelderzeit gewährt.

Nicht nur die Aufarbeitung schon abgeschlossener Ausgrabungen, auch die noch kommenden Bauvorhaben in der Landeshauptstadt stehen im Fokus der dortigen Arbeit.