屈辱の数学史

屈辱の数学史

マット・パーカー

感想 

屈辱というタイトルだが、

失敗談という印象が強い。

面白く読めた。

特に印象的だったのは、以下。

excel　で「=0.5-0.4-0.1」と入力すればそのセルには「0」と表示される。

しかし、「=（0.5-0.4-0.1）*1」と入力すると「0」ではなく「-2.77556E-17」と表示される。

コンピュータは二進数で計算するため、このような表示になるらしい。