俺氏、本を読む

30歳になるまでに本を読んで勉強しようかと。主に啓発、お金についての本を読むつもり。一応プログラマーなのでその辺のことも。あと、せどり(転売)の仕入れ見込み商品をリサーチして仕入先と一緒に投稿します

基数変換や数値演算による誤差

コンピュータで数値を表現する際には、誤差に注意する必要があります。
10進数から2進数へ基数変換するだけでも誤差が出ることがあり、
また、コンピュータ内部では限られたけた数でデータを表現するので、
いろいろな誤差や、表現しきれないことが出てきます。

続きを読む