-->Tabellenkalkulation verrechnet sich bei Ergebnissen um 65535von

Microsoft arbeitet derzeit an einem Update für Excel 2007, das einen Rechenfehler in der Tabellenkalkulation beheben soll, der erst kürzlich entdeckt worden ist.

Wie lautet das Ergebnis der Rechnung 77,1*850? Laut Excel 2007 lautet die Lösung 100.000, was natürlich falsch ist, wie ein schneller Griff zum Taschenrechner oder das Nachrechnen im Kopf beweist. Die richtige Lösung wäre nämlich 65.535
<ul> ~ Der Rechenfehler tritt nicht nur bei besagtem Beispiel auf</ul>

-->Eine Sache für Experten

-->Liest Du da:

http://www.bwl-bote.de/20040111.htm

-->Das ist wirklich ein alter Hut, und hat mit dem Problem der Ausloeschung zu tun.

http://de.wikipedia.org/wiki/Ausl%C3%B6schung_%28numerische_Mathematik%29

Dabei tritt ein Genauigkeitsverlust bei der Subtraktion fast gleichgrosser Zahlen auf. Die fast gleichgrossen Zahlen resultieren in Deinem Beispiel aus Rundungsfehlern.

Zahlen werden naemlich in den Registern eines Computers in binaerer Form dargestellt, genauergesagt als Fliesskommazahlen (uebrigens von deutschen Ingenieuren erfunden). Das Format fuehrt dazu, dass genaugenommen viele mathematische Grundsaetze nicht mehr gelten (es wird ja immer gerundet). Insbesondere ist die 0.1 (dezimal) nur als periodische Zahl darzustellen (wie ein Drittel im dezimalen System: 0.3333...). Wenn man damit immer weiter rechnet, kommt's irgendwann zu Fehlern.

Das weiss jeder Ingenieur und kann auch damit umgehen. Fragt sich eigentlich nur, warum Microsoft noch mit den Hardware-Registern arbeitet, und sich nicht eine vernuenftige Software-Library geschrieben hat, wie es andere professionelle Programme tun...