シ ャ ノ ン 情 報 理 論 ─ 情 報 を 数 字 で 測 る

1948 年 ─ 32 歳 の シ ャ ノ ン が 世 界 を 変 え る

1948 年、 米 国 ニ ュ ー ジ ャ ー ジ ー 州 ベ ル 電 話 研 究 所。 ク ロ ー ド・シ ャ ノ ン (Claude Elwood Shannon, 1916–2001) は、 32 歳 の 若 さ で 一 つ の 論 文 を 発 表 し た。 題 名 は『A Mathematical Theory of Communication』(通 信 の 数 学 的 理 論)。

こ の 80 ペ ー ジ の 論 文 が、 後 に「現 代 デ ジ タ ル 時 代 の マ グ ナ ・ カ ル タ」 と 呼 ば れ る こ と に な る。 イ ン タ ー ネ ッ ト、 ス マ ホ、 動 画 ス ト リ ー ミ ン グ、 圧 縮、 暗 号 ─ 全 て の 礎 が こ こ に あ る。

「情 報」 を 数 字 で 測 る 革 命

シ ャ ノ ン 以 前 の 「情 報」 と は、 文 章・絵・音 声 ─ そ う い っ た「意 味 を 持 つ も の」 だ っ た。 し か し シ ャ ノ ン は こ う 考 え た ─ 「情 報 の『意 味』 と は 別 に、 情 報 の『量』 を 測 れ る の で は な い か」。

彼 の 答 え は、 シ ン プ ル だ っ た ─ 情 報 量 は 「驚 き 」 で 測 れ る。

  • 太 陽 は 東 か ら 昇 る ─ 全 く 驚 か な い → 情 報 量 ゼ ロ
  • 明 日 雪 が 降 る (6 月 に) ─ と て も 驚 く → 情 報 量 大

こ の「驚 き」 を 数 字 で 表 し た の が、 シ ャ ノ ン の 革 命 だ っ た。

1 ビ ッ ト ─ 情 報 の 最 小 単 位

最 も 単 純 な 情 報 は、「Yes か No か」「0 か 1 か」「表 か 裏 か」 の 二 択 で あ る。 シ ャ ノ ン は こ の 二 択 1 つ の 情 報 量 を 「1 ビ ッ ト (bit)」 と 名 付 け た (命 名 は 同 僚 ジ ョ ン・テ ュ ー キ ー)。

ビ ッ ト = Binary digIT (二 進 数 字) の 略。 0 と 1 だ け で、 全 て の 情 報 を 表 現 で き る ─ こ れ が デ ジ タ ル 化 の 原 理 だ。

  • 1 ビ ッ ト = 2 通 り (0 or 1)
  • 2 ビ ッ ト = 4 通 り (00, 01, 10, 11)
  • 8 ビ ッ ト = 256 通 り = 1 バ イ ト (b y t e)
  • 1 K B = 約 1000 バ イ ト = 8000 ビ ッ ト
  • 1 M B = 約 100 万 バ イ ト

計 算 例 ─ 君 の メ ッ セ ー ジ の 情 報 量

英 字 1 文 字 は 何 ビ ッ ト? ─ 英 字 は ASCII で 7 ビ ッ ト で 表 現 で き る が、 通 常 は 1 バ イ ト (8 ビ ッ ト) を 使 う。 「Hello」 = 5 文 字 = 40 ビ ッ ト。

日 本 語 の 漢 字 1 文 字 は? ─ UTF-8 で は 3 バ イ ト (24 ビ ッ ト)。 「こ ん に ち は」 = 5 文 字 = 15 バ イ ト = 120 ビ ッ ト。

写 真 1 枚 は? ─ ス マ ホ で 撮 る 1200 万 画 素 の 写 真 は、 圧 縮 し な い と 約 36 M B (約 3 億 ビ ッ ト)。 JPEG 圧 縮 す る と 約 3 M B に 縮 む。

圧 縮 ─ 情 報 を 短 く 伝 え る

シ ャ ノ ン は、 「情 報 を ど こ ま で 短 く で き る か」 の 数 学 的 限 界 を 証 明 し た (Source Coding Theorem)。 こ の 限 界 を 「エ ン ト ロ ピ ー」 と 呼 ぶ。

現 代 の 圧 縮 技 術 ─

  • ZIP・GZIP ─ 可 逆 圧 縮 (元 に 戻 せ る)
  • JPEG ─ 写 真 の 非 可 逆 圧 縮
  • MP3・AAC ─ 音 声 圧 縮
  • MP4・H.264 ─ 動 画 圧 縮 (Netflix・YouTube が 使 う)

全 て、 シ ャ ノ ン の 情 報 理 論 が 数 学 的 基 礎 に な っ て い る。

通 信 ─ ノ イ ズ の あ る チ ャ ネ ル を 超 え て

シ ャ ノ ン は も う 一 つ、 重 要 な 定 理 を 証 明 し た ─ 「ノ イ ズ (雑 音) が あ っ て も、 誤 り を ほ ぼ ゼ ロ に し て 通 信 で き る 方 法 が 存 在 す る」 (Noisy Channel Coding Theorem)。

こ の 結 果 が、 携 帯 電 話 ・ Wi-Fi ・ 衛 星 通 信 を 可 能 に し た。 君 が ス マ ホ で 動 画 を 見 る 時、 電 波 の ノ イ ズ が あ っ て も 映 像 が 乱 れ な い の は、 シ ャ ノ ン の 定 理 を 応 用 し た 「誤 り 訂 正 符 号」 の お か げ で あ る。

シ ャ ノ ン の 遊 び 心 ─ 数 学 者 で ジ ャ グ ラ ー

シ ャ ノ ン は 真 面 目 な 学 者 だ け で は な か っ た。 趣 味 で 一 輪 車 に 乗 り、 ジ ャ グ リ ン グ を し、 チ ェ ス を 自 動 化 す る 機 械 を 作 り、 株 式 市 場 で 投 資 し て 大 儲 け も し た。

彼 の 遊 び 心 は、 研 究 と 切 り 離 せ な か っ た。 「楽 し ま な け れ ば、 良 い 数 学 は 生 ま れ な い」 ─ こ れ が シ ャ ノ ン の 哲 学 だ っ た。

結 び ─ 君 が 日 々 触 れ る「情 報」 の 正 体

LINE の メ ッ セ ー ジ、 YouTube の 動 画、 ス マ ホ の 写 真、 Wi-Fi の 信 号 ─ 全 て、 シ ャ ノ ン の 1948 年 論 文 か ら 始 ま っ た 技 術 で あ る。

情 報 を「ビ ッ ト」 で 測 る、 と い う 一 つ の 視 点 が、 75 年 後 の 世 界 を こ れ ほ ど 変 え た ─ こ の 事 実 を 心 に 留 め て、 君 の 日 常 の デ ジ タ ル 機 器 を 改 め て 見 直 し て み よ う。