2020年11月23日 / 最終更新日時 : 2020年12月27日 Other浮動小数点数形式で数値を表す② IEEE754形式 IEEE754形式の浮動小数点数 限られた桁数でより大きな数値、小さな数値の実数を表すことが出来る浮動小数点数で 「IEEE754」（アイトリプルイーナナゴヨン）という形式に基づいた場合の表記方法についてメモします。 前 […]
2020年11月23日 / 最終更新日時 : 2020年12月27日 Other浮動小数点数形式で数値を表す① 浮動小数点数形式を使った数値の表現方法 限られたビット数の中で、ものすごく大きな数値や小さな数値を表現するための方法である浮動小数点数形式についてメモします。 固定少数点数について 浮動小数点数について理解するうえで対照 […]
2020年11月21日 / 最終更新日時 : 2020年11月22日 Other2進数と16進数を相互に基数変換する方法 2進数、16進数の相互変換方法 2進数の数値を16進数へ（またはその逆）基数変換する方法をメモします。 そもそも16進数とは？ 0と1だけで数値を表す2進数に対して、16進数とは0から9までの数字とアルファベットのAから […]
2020年11月8日 / 最終更新日時 : 2020年11月8日 Othern進数から10進数に基数変換する方法 n進数を10進数表記へ変換する 2進数や16進数など10進数表記ではない数を10進数に変換して表す方法をメモします。 （10進数からn進数への変換の逆を行う） 2進数や16進数を10進数表記へ変換するには桁の重みという概 […]
2020年11月7日 / 最終更新日時 : 2020年11月7日 Other10進数から2進数への変換方法 10進数の数字を2進数表記へ基数変換する 10進数の数字を2進数で表すための方法をメモします。 （基数変換という） 10進数には整数と少数（小数点以下）が存在しますが、2進数に変換するためには 整数では割り算、少数では掛 […]
