In diesem Falle können wir den Fehler für den i-ten Messpunkt wie folgt angeben:
Das Prinzip der kleinsten Fehlerquadrate verlangt nun , dass
ist. Also
Diese Gleichung kann umgeschrieben werden:
oder
Auslenkung z ist fehlerbehaftet
Wir können die Gleichung für den Zusammenhang zwischen der Auslenkung und der Kraft auch so umschreiben, dass z unsicher ist. Dann gilt
Eine kurze Rechnung zeigt, dass
Auslenkung z und Kraft fehlerbehaftet
Wenn beide Messgrössen fehlerbehaftet sind, gilt:
Anhand der Zeichnung findet man heraus, dass
oder
Die Summe der Abstandsquadrate muss null sein, also muss
minimal sein. Also ist
Also wird
Nun ist aber
Als Beispiel ist in der folgenden Figur eine mit Zufallszahlen simulierte Rechnung zu sehen
Hier bedeuten fkz die Messkurve, wenn nur z fehlerbehaftet ist, fkf, diejenige, bei der F einen Fehler hat sowie fkfz diejenige, bei der beide Grössen einen Fehler haben. Bei der letzten Kurve wurde die quadratische Anpassung durchgeführt. Wichtig ist, dass dafür die Federkonstante k auf 1 umskaliert werden muss.
Ausgleichsrechnung für allgemeine Beziehungen
Wir betrachten nun die allgemeine Beziehung
bei der die unbekannten Koeffizienten Aj linear in den Gleichungen vorkommen. Wir fordern wieder, dass
ist. Die Gleichung kann auch in Matrixschreibweise geschrieben werden:
Mit der Abkürzung
wird die Gleichung
oder
Die Lösung dieses überbestimmten Gleichungssystems im Sinne der Minimierung der Fehlerquadrate ist die Lösung des m x m- Gleichungssystems
also
Bei allgemeinen funktionalen Abhängigkeiten sucht man, mit welcher Methode auch immer, Näherungswerte für die unbekannten Parameter. Ist zum Beispiel
und A0,B0,C0 Näherungswerte, so kann eine Taylorentwicklung durchgeführt werden.
Mit 
, 
, u.s.w., 
und 
, 
u.s.w. ist die Gleichung
wieder in linearisierter Form vorhanden
Die oben skizzierte Methode kann zur Lösung verwendet werden. Weiter Informationen können im Buch von Zurmühl gefunden werden.