JI1Vのブログ一覧

先日から販促資料作りに追われているワタシですが、最初の作業として、各ページごとに記事を割り付けていく「台割り表」というものを作成しておりました。これをMSエクセルでやるのですが、
記事1(占有スペース0.5ページ)0.5
記事2(占有スペース0.3ページ)0.8
記事3(占有スペース0.2ページ)1.0
記事4(占有スペース0.25ページ)1.25

といった感じで、どのページにどの記事を載せるか、というのを考えていきます。で、ページ番号を見ればどの記事が載ってるかが分かるようにしてみようと考えまして、上記記載の場合であれば、記事1～3はページ1に、記事4はページ2に載りますので
0.5→1
0.8→1
1.0→1
1.25→2
と表示できるようにMSエクセルで"roundup"関数を使って小数点以下を切り上げ表記させたところ、一部に不具合発生。なぜか1.0が2と繰り上がってしまうのです。しかしそれ以外はちゃんと表記されます。そこで社内の情報システム部門に相談したところ、なんと
1.00が
1.000000000001
だったのです！小数点以下12桁を勝手にMSエクセルが付記していました。これがどうやっても付いてきてしまいます。これじゃ1.00も2に繰り上げられてしまいます。対策として、roundup(切り上げ)する前に小数点3桁以下をrounddown(切り捨て)してから切り上げる、という面倒なことをやるハメに。

....わかりにくい話で恐縮ですがEXCELも完全ではないということです。しかもこれが必ずそうなる訳ではなく、そうなる場合がある、ということなのが厄介。エクセルの結果が必ず正しい訳じゃないということですね。

今日はVLOOKUPでもエラい目に遭って散々でした。