bug is limited to six numbers from 65,534.99999999995 to 65,535

[juan_gandhi]

In a blog post, Microsoft employee David Gainer said that when computer users tried to get Excel 2007 to multiply some pairs of numbers and the result was 65,535, Excel would incorrectly display 100,000 as the answer.

Gainer said Excel makes mistakes multiplying 77.1 by 850, 10.2 by 6,425 and 20.4 by 3,212.5, but the program appears to be able to handle 16,383.75 times 4.

Comments

[109.livejournal.com]

TDD! 16,383.75 times 4, очевидно, было в тест кейзе, а 77.1 х 850 - не было.

[109.livejournal.com]

ну ты ж не будешь спорить, что тест кейзы обычно покрывают малую часть всего пространства состояний.

[ivan-gandhi.livejournal.com]

Блин, Костя, ты совершенно прав. Софтверная наука нынче достигла уровня древнеегипетской математики. А так как люди с компьютерным образованием верят, что между этими двумя вышеприведенными числами действительно всего шесть чисел, то, по-видимому, в их голове имеется такая идея, что умножение вещественных чисел можно определить с помощью таблицы. Ну и это, вкралась ошибка в базу данных.

(В связи с пятницей еду в автобусе с бутылкой пива наперевес... поэтому очепатки встрчаются)