Warum zeigt mein Windows-Rechner einen permanenten Konvertierungsfehler an?

348
Rbma12

Wenn ich den Windows XP-Standardrechner (v1.0.0.908) zum Konvertieren von Meilen in Fuß verwende, wird 1 Meilen pro Stunde = 5280 Fuß angezeigt. Wenn ich jedoch mph in fph umwandle, heißt es 1mph = 5279.98944 Fuß pro Stunde. Und wenn ich dasselbe mit dem Windows-Power-Toys-Rechner mache, heißt es 1 Meilen pro Stunde = 1760 Fuß / Stunde. Es ist wahrscheinlich ein Schachfeld, aber ich zögere wirklich, einem von ihnen für alles andere als unbedeutende Angelegenheiten zu vertrauen. ps. Wenn Sie 5280 durch den Fehler dividieren, erhalten Sie exakt 500 000. Alle anderen Konvertierungen scheinen genau zu sein (m / s-mph, kmh-m / s).

Irgendwelche Ideen?

0
Was ist deine Frage? gronostaj vor 7 Jahren 3
Warum liegt ein Fehler vor? Rbma12 vor 7 Jahren 0
Ist es ein Programmierfehler, Rundungsfehler, ein Symptom für den bevorstehenden Tod meines Computers? Ist der Fehler global? Ich hätte eigentlich erwähnen sollen, dass ich gerade das Service Pack 4 auf einem XP Pro SP3 installiert habe. Rbma12 vor 7 Jahren 0
Gleitkomma-Präzisionsprobleme. Alle Computer machen das, aber im täglichen Gebrauch spielt es keine Rolle. Fängt erst an, eine bedeutende Rolle in wissenschaftlichen Berechnungen zu spielen. gronostaj vor 7 Jahren 0
In der Schule bin ich mit einem einfachen Temperaturkonvertierungsprogramm auf dieses Problem gestoßen, allerdings nur mit negativen Werten. Das Hilfemenü dieses Rechners verwendet etwa zehn Mal den Ausdruck "extreme Präzision". Es ist eine einfache Berechnung. Rbma12 vor 7 Jahren 0
Informieren Sie sich über Gleitkommazahlen und [damit verbundene Genauigkeitsfehler] (https://en.wikipedia.org/wiki/Floating_point#Accuracy_problems). Um es kurz zu machen: Computer können nicht alle Zahlen genau speichern, sie verwenden gute Annäherungen. Im Laufe der Zeit summieren sich diese kleinen Abweichungen und Sie erhalten Ergebnisse wie "0,1 + 0,2 = 0,30000000000000004" oder das, was Sie entdeckt haben. gronostaj vor 7 Jahren 0

0 Antworten auf die Frage

Verwandte Probleme