0と1で、数・文字・音・画像を表す

標本化では時間方向を、量子化では値の方向を区切ります。区切りを細かくすると元の信号へ近づきますが、データ量と処理量は増えます。必要以上に細かくしても、元のセンサ精度や再生装置の性能を超えた情報は得られません。

デジタル化の利点は「必ず正確」になることではなく、誤りを検出・訂正しやすいこと、同じ規則で大量に処理できること、複数の種類の情報をビット列として統合できることです。

マイクや温度センサが出す連続的な電気信号を、標本化・量子化して数値へ変える装置がA/Dコンバータです。逆に、数値を電圧などへ変え、スピーカやモータへ出力する装置がD/Aコンバータです。

入力側ではセンサの測定範囲とA/D変換の段階数、出力側では再生装置の範囲を合わせます。範囲を超える信号は切り詰められ、段階数が少ないと細かな差を表せません。

国際単位系ではk、M、Gはそれぞれ1000、1000²、1000³倍です。2進数と相性のよい1024倍を明確に表すときはKiB、MiB、GiBを使います。製品表示とOS表示で容量が違って見える原因になるため、計算ではどちらの規則かを先に確認します。

4ビットで5−3を確かめます。引く数3は0011₂です。全ビットを反転して1100₂、1を加えた1101₂が−3を表す2の補数です。

4ビットを超えた左端の1を捨てると0010₂、つまり2になります。したがって、5−3を「5＋（−3）」として同じ加算回路で計算できます。4ビットの2の補数で表せる範囲は−8〜+7なので、範囲外の結果は正しく表せません。

1. 10進数を浮動小数点の形にする

まず、10進数を符号・仮数・指数に分けます。例えば、−132.5は−1.325×10²と表せます。符号は−、仮数は1.325、指数は2です。小数点の位置を動かしても、表している数値は変わりません。

2. 10進数を2進数に直す

binary32の例として−46.625を考えます。整数部46は101110₂、小数部0.625は0.101₂なので、−46.625＝−101110.101₂です。

3. 1.xxxxx×2ⁿの形に正規化する

小数点を左へ5桁動かすと、−101110.101₂＝−1.01110101₂×2⁵となります。この形にすると、符号、指数、仮数へ分けて記録できます。

4. IEEE 754 binary32の各部に入れる

binary32は、符号部1ビット・指数部8ビット・仮数部23ビットです。負の数なので符号部は1、指数部は5に127を加えた132＝10000100₂、仮数部は先頭の1を除いた01110101000000000000000です。

したがって、各部を順に並べると、1 10000100 01110101000000000000000₂（16進数ではC2 3A 80 00）になります。

5. 浮動小数点表現から数値へ戻す

逆に、16ビット表現「0 10001 1100100000」を読む場合を考えます。符号部0は正、指数部10001₂は17です。指数部が5ビットなので偏り15（2⁴−1）を引き、指数は17−15＝2になります。

仮数部は先頭に1を補って1.1100100000₂とし、1.1100100000₂×2²＝111.00100000₂＝7.125と計算します。数値から読むときは、各部を確認してから指数に応じて小数点を動かすと、手順を追いやすくなります。

Unicodeは文字ごとにU+3042のようなコードポイントを割り当てます。UTF-8はそのコードポイントを1〜4 byteの並びへ変換する方式です。「1文字は必ず1 byte」でも「日本語は必ず2 byte」でもありません。

見た目が一文字でも、基底文字と結合文字の組合せや絵文字の連結によって複数のコードポイントからなる場合があります。文字数、表示幅、byte数は別々に考えます。

文字コードには表示される文字だけでなく、改行、タブなど動作を指示する制御文字があります。改行は環境によってLF、CRLFなどの表し方が異なり、テキストを別の環境へ移すと行がつながったり余分な改行に見えたりすることがあります。

CSVを読み書きするときに文字コードと改行規則を指定するのは、この違いを正しく扱うためです。画面に見えない文字も検索・比較・データ交換へ影響します。

半加算器が扱うのはAとBという二つの入力だけです。しかし2桁目以降では、右隣の桁から繰り上がってきた1も加える必要があります。A・B・下位桁からの繰り上がりという三つを加え、上位桁への繰り上がりとその桁の和を出す回路が全加算器です。

多桁の加算では、右端の最下位桁から計算します。最下位桁には右隣からの繰り上がりがないため半加算器を使い、その左の各桁では全加算器を使います。

このように考えると、半加算器・全加算器・多桁加算は別々の暗記事項ではありません。「各桁を加え、繰り上がりを左へ渡す」という2進数の筆算を、回路で並行して行う仕組みです。

用意したビット数より左へ繰り上がっても、その桁を保存する場所がなければ結果を正しく表せません。これが桁あふれです。例えば4ビットの符号なし整数で1111₂（15）に0001₂（1）を加えると、正しい答えは10000₂（16）ですが、下4桁だけを残すと0000₂になります。

「回路が計算を間違えた」のではなく、答えを保存する桁数が不足しています。扱える範囲を先に確認し、必要ならビット数を増やします。

測定間隔が粗いと、標本点の間で起きた細かな変化を記録できません。特に、標本化周波数の半分より高い周波数成分は、実際とは違う低い周波数に見える折り返し雑音（エイリアシング）を生むことがあります。

そこで、記録したい最高周波数の2倍より高い標本化周波数を使い、標本化前にそれより高い成分をフィルタで弱めます。標本化周波数を上げるほど時間方向を細かく記録できますが、データ量も増えます。

量子化では、実際の振幅を最も近い段階値へ丸めます。実際の値と割り当てた段階値の差が量子化誤差です。例えば実際の振幅が5.3で、段階値が整数だけなら5へ割り当てるため、誤差は−0.3です。

量子化ビット数がnビットなら段階数は2ⁿです。ビット数を増やすと段階の間隔が細かくなり誤差を小さくできますが、1標本当たりのデータ量は増えます。

WAVなどはPCMを比較的そのまま保持できます。MP3やAACは、人が聞き取りにくい成分を減らす非可逆圧縮で容量を小さくします。FLACは復元後が元と一致する可逆圧縮です。

MIDIは波形そのものではなく、音の高さ、長さ、強さ、楽器などの演奏情報を記録します。容量は小さく編集しやすい一方、再生音は音源に依存します。

明るさ・コントラスト・色調の補正、トリミング、回転、拡大縮小、フィルタ処理などがあります。画素を間引いた後に拡大しても失った細部は戻りません。編集用の元データを残し、公開用のサイズや圧縮率は別に調整します。

印刷物ではCMYK、ディスプレイではRGBが基本ですが、機器ごとに表せる色の範囲が異なるため、同じ数値でも完全に同じ色になるとは限りません。

同じ値が続く長さを記録するランレングス法、出現頻度の高い記号へ短い符号を割り当てるハフマン法、既出の並びを辞書として参照する方式などがあります。これらは元データへ戻せる可逆圧縮です。

JPEGなどの非可逆圧縮は、人が気付きにくい細部を減らして大きく圧縮できます。ただし、保存を繰り返すと劣化が重なります。編集用は元データや可逆形式、配布用は用途に合う圧縮率というように使い分けます。

圧縮前のラスタ画像のおよそのデータ量は、横画素数×縦画素数×1画素当たりのbit数で求めます。RGB各8 bitなら1画素24 bitです。透明度を8 bit追加する形式では32 bitになります。

印刷のdpiは1 inch当たりの画素数です。横3000画素の画像を300 dpiで印刷すると横10 inchになります。画素数、物理的な大きさ、dpiのうち二つを決めると残りが決まります。

斜線や曲線を画素の格子へ置くと、境界が階段状に見えるジャギーが生じます。アンチエイリアシングは、境界付近の画素へ中間色や透明度を与え、滑らかな輪郭に見せる処理です。

元の解像度が増えたわけではなく、周囲との平均で見え方を調整しています。小さな文字ではぼやける場合もあるため、表示倍率、背景色、フォントのヒンティングと合わせて調整します。図を縮小する時も、単純な間引きではなく適切な再標本化を使います。

ディザリングは、使える色が少ない時に異なる色の画素を規則的または確率的に配置し、離れて見た時に中間色や階調があるように感じさせる方法です。新聞写真の網点も似た考え方です。

色数を増やす処理ではないため、拡大すると点の模様が見えます。滑らかな階調を優先するか、輪郭や細部を残すかで配置方法を選び、表示装置や印刷方法に合わせて評価します。

OSは、CPU時間、主記憶、ファイル、入出力装置、利用者権限を管理し、アプリケーションへ共通の機能を提供します。アプリケーションが機器ごとの違いをすべて直接扱わずに済むのは、OSやデバイスドライバが仲立ちするためです。

コンパイラやインタプリタは人が書いたプログラムを実行可能な命令へ橋渡しします。最終的にCPUが実行するのは機械語の命令です。

ベンチマークは、決められた処理を実行して性能を比較する方法です。目的と違う種類のベンチマークだけで機器を選ぶと、実際の利用感と一致しないことがあります。

CPUが速くても主記憶が不足してストレージへの退避が増える、ネットワークが遅くて待ち時間が長いなど、全体を制限する部分をボトルネックといいます。利用場面に近い条件で測定します。

CPU、主記憶、入出力装置の間では、データを運ぶデータバス、場所を示すアドレスバス、読み書きなどを指示する制御線が働きます。一本の線だけで命令もデータも順番も運ぶわけではありません。

デバイスドライバは、OSからの共通的な要求を機器固有の命令へ変換します。新しい機器を接続した時にドライバやOSの対応状況を確認するのは、同じ種類の装置でも制御方法が異なるためです。

CPUは主記憶より高速なので、よく使う命令やデータを小さく高速なキャッシュメモリへ置きます。直前に使ったデータを再び使いやすい性質を時間的局所性、近いアドレスのデータを続けて使いやすい性質を空間的局所性といいます。

配列を順番に処理すると近いデータをまとめて読み込みやすくなります。キャッシュ容量だけでなく、データの並べ方やアクセス順も実行時間へ影響します。