Die Mühle hat ihren Namen von ihrer letzten Besitzerfamilie, der Müllerfamilie Weiher. Ursprünglich - über einige Jahrhunderte - gehörte die Mahlmühle wohl dem Prämonstratenserkloster Lorsch (1248-1557) und wurde daher „des Probsts von Lorsch Mole“ bzw. Propstmühle genannt. Erstmals 1480 erwähnt, könnte sie die älteste Mühle Heppenheims sein.
 
Die Mühle hatte im Laufe der langen Zeit viele Besitzer und Pächter. So kam sie – erste urkundliche Nennung in Klammer -  in den Besitz von Theobald Bauer (1768), Georg Adam Dörr (1802) und Lorenz Meinberg (1829). Ab 1875 kam es zu häufigen Wechseln von Besitzern und Pächtern:
Johann Neff, Mathias und Karl Mattern, Amandus Boch, Franz Creuzburg und dann 1910 Johann Nikolaus Weiher.
Seit etwa 1920 bis zu ihrer Zerstörung 1945 war die Mühle an den Müller Oskar Dittrich und dessen Sohn Oskar verpachtet.
 
Zusammen mit der benachbarten Schäfersmühle und der fast 400 Meter weiter östlich liegenden Tugersmühle wurde die Weihersmühle aus dem Stadtbach über den am Fuße des Schlossberges entlangführenden Mühlgraben mit Wasser versorgt.
 
Die Mahlmühle war für frühere Verhältnisse recht groß, denn sie hatte 1826 als „Propst Mühle“ mit zwei Wasserrädern im Vergleich mit anderen Mühlen sehr hohe Abgaben an den Fiskus zu zahlen. Um 1900 gehörten noch eine Bäckerei, Werkzeugschleiferei und Sägerei zu der Mahlmühle.
 
Das Gebäude wurde beim Einmarsch der Amerikaner am 27. März 1945, morgens um 7.45 Uhr, durch einen Bombenangriff völlig zerstört. Dabei stürzte das Gewölbe des Kellers ein, in den sich der Pächter der Mühle, der alte Müller Oskar Dittrich und seine Frau Barbara sowie weitere Personen geflüchtet hatten. Oskar Dittrich wurde durch die einstürzende Decke tödlich verletzt und starb noch am gleichen Tag. Seine Frau wurde schon bei dem Angriff durch die Verschüttung getötet.
 
Die zerstörte Mühle wurde abgerissen. Auf dem Anwesen wurde später ein Wohnhaus gebaut.