n けたの〜進数の最大値

nけたの16進数の最大値 

 → 16^n - 1

10進数でnけたで表せる 

 → 10^n-1 と 10^n との間

nけたの8進数の最大値 

 → 8^n - 1

nけたの2進数の最大値 

 → 2^n - 1


基数変換 n進数から10進数

rは重みを表す。

2進数から10進数への基数変換

 → 2進数の各桁に2^rを掛けて足すと10進数になる。

(例)

2進数の「1111011」→ 10進数の「123」

1×2^6 + 1×2^5 + 1×2^4 + 1×2^3 + 0×2^2
+ 1×2^1 + 1×2^0 = 123

2進数から8進数への基数変換

 → 8進数の各桁に8^rを掛けて足すと10進数になる。

16進数から10進数への基数変換

 → 16進数の各桁に16^rを掛けて足すと10進数になる。


2進数小数から10進数小数への基数変換

 → 2進数の各桁に2^-rを掛けて足すと10進数になる。

2進数小数から8進数小数への基数変換

 → 8進数の各桁に8^-rを掛けて足すと10進数になる。

16進数小数から10進数小数への基数変換

 → 16進数の各桁に16^-rを掛けて足すと10進数になる。

基数変換 10進数からn進数

10進数から2進数への基数変換

 →10進数の商を2で割った余りを
  下から上に並べると2進数になる。

10進数から8進数への基数変換

 →10進数の商を8で割った余りを
  下から上に並べると8進数になる。

10進数から16進数への基数変換

 →10進数の商を16で割った余りを
  下から上に並べると16進数になる。

10進数小数から2進数小数への基数変換

 →10進数の小数部に2を掛けて、
  整数部を上から並べると2進数になる。

10進数小数から8進数小数への基数変換

 →10進数の小数部に8を掛けて、
  整数部を上から並べると8進数になる。

10進数小数から16進数小数への基数変換

 →10進数の小数部に16を掛けて、
  整数部を上から並べると16進数になる。

数値表現による誤差

丸め誤差:

切捨て、切り上げ、四捨五入することで発生する誤差。

コンピュータは、無限の演算が不可能なので、
循環小数などを途中で打ち切る場合があり、
その時に誤差が生じる。

けた落ち:

ほぼ同じ大きさの数同士の減算で、
有効けたが減ること。

情報落ち:

絶対値の小さな数が、演算結果に反映されないこと。
極端に小さい数を足した時、その数が無視される。

オーバーフロー(けたあふれ):

コンピュータが演算をおこなった結果、
表現できる数値の最大絶対値を超えることで
生じる誤差のこと。

アンダーフロー:

コンピュータが演算をおこなった結果、
表現できる数値の最小絶対値より
小さくなることで生じる誤差のこと。

×

この広告は180日以上新しい記事の投稿がないブログに表示されております。