基数変換や数値演算による誤差
コンピュータで数値を表現する際には、誤差に注意する必要があります。
10進数から2進数へ基数変換するだけでも誤差が出ることがあり、
また、コンピュータ内部では限られたけた数でデータを表現するので、
いろいろな誤差や、表現しきれないことが出てきます。
コンピュータで数値を表現する際には、誤差に注意する必要があります。
10進数から2進数へ基数変換するだけでも誤差が出ることがあり、
また、コンピュータ内部では限られたけた数でデータを表現するので、
いろいろな誤差や、表現しきれないことが出てきます。