Re: alter Hut, den kann ich erklaeren

verfasst von Hyperion, 27.09.2007, 13:43

-->Das ist wirklich ein alter Hut, und hat mit dem Problem der Ausloeschung zu tun.

http://de.wikipedia.org/wiki/Ausl%C3%B6schung_%28numerische_Mathematik%29

Dabei tritt ein Genauigkeitsverlust bei der Subtraktion fast gleichgrosser Zahlen auf. Die fast gleichgrossen Zahlen resultieren in Deinem Beispiel aus Rundungsfehlern.

Zahlen werden naemlich in den Registern eines Computers in binaerer Form dargestellt, genauergesagt als Fliesskommazahlen (uebrigens von deutschen Ingenieuren erfunden). Das Format fuehrt dazu, dass genaugenommen viele mathematische Grundsaetze nicht mehr gelten (es wird ja immer gerundet). Insbesondere ist die 0.1 (dezimal) nur als periodische Zahl darzustellen (wie ein Drittel im dezimalen System: 0.3333...). Wenn man damit immer weiter rechnet, kommt's irgendwann zu Fehlern.

Das weiss jeder Ingenieur und kann auch damit umgehen. Fragt sich eigentlich nur, warum Microsoft noch mit den Hardware-Registern arbeitet, und sich nicht eine vernuenftige Software-Library geschrieben hat, wie es andere professionelle Programme tun...

Thread gesperrt

 

gesamter Thread:

• Der Käufer als Beta - Tester: Excel-2007, Tabellenkalkulation verrechnet sich - prinz_eisenherz, 27.09.2007, 11:22
  • Vielleicht liegts daran - Taktiker, 27.09.2007, 11:42
  • Re: alter Hut, doch immer noch aktuell: Die Microschrott-Null In MS-Office - RetterderMatrix, 27.09.2007, 13:25
    • Re: alter Hut, den kann ich erklaeren - Hyperion, 27.09.2007, 13:43