エントロピー符号化とは?
エントロピー符号化は、出現確率の高いシンボルには平均して少ないビットを、出現確率の低いシンボルには多くのビットを使う可逆圧縮です。代表的な手法には、ハフマン符号化と算術符号化があります。
エントロピー符号化の仕組み
コーデックはまず、ソース情報を統計分布のモデル化が可能なシンボルに変換し、次にエントロピー符号化段階で、出現しやすい系列をコンパクトに表現します。デコーダーは、その表現から元に戻すために、同じ符号表、コンテキスト、状態を知っているか、再構築する必要があります。この段階は量子化とは異なり、バイト数を削減できますが、シンボルの値を意図的に捨てることはありません。通常、画像、音声、動画のエンコーダーでは終盤に、デコーダーでは序盤に位置します。
要点
- ハフマン符号は、符号化する各シンボルに固有の可変長符号語を割り当てるため、どれほど予測しやすいシンボルでも、一ビット未満では表現できません。算術符号化には、このような下限はありません。算術符号器の一種であるブール符号器を使う VP8 の仕様では、一方の結果の確率が 1/1024 で、実現可能な最低レートが一値あたり約百分の一ビットとなる例を計算しています。効果はデータに大きな偏りがある場合に最大となり、両方の結果が同じ確率で生じる場合にはなくなります。同じ仕様では、その場合の下限を一ビットとしています。
- エントロピー符号化は、品質を変えずにやり直せます。libjpeg-turbo の
jpegtranは、画像を完全にはデコードせずに JPEG の圧縮済み DCT 係数を並べ替えます。そのドキュメントでは、最適化されたエントロピーパラメーター、プログレッシブスキャン、算術符号化への切り替えを可逆と説明しています。cjpegについては、同じドキュメントによると、-optimizeを使うと通常はファイルが少し小さくなり、画質と展開速度は変わりませんが、エンコーダーは多少遅くなり、必要なメモリが大幅に増えます。jpegtranでも同じスイッチを使用できます。jpegtranでは品質設定を変更できませんが、メタデータは削除できます。デフォルトの-copy commentsはコメントマーカーを保持し、その他のメタデータを破棄するため、Exif データ、ICC プロファイル、その他の追加マーカーを保持するには-copy allを指定してください。 - より効率的なエントロピー符号器が役立つのは、対象となるすべてのデコーダーがそれを実装している場合だけです。JPEG 規格では、ベースライン順次処理にハフマン符号化を使用し、算術符号化は拡張処理と可逆処理でのみ利用できます。libjpeg-turbo のドキュメントでは、算術符号化された JPEG の実装は普及しておらず、多くのデコーダーではそのようなファイルをまったく読み取れないと注意を促しています。デフォルト以外のエントロピーモードを有効にする前に、対応が必要なデコーダーを確認してください。
- デコーダーはエンコーダーのテーブルと確率状態を正確に再現する必要があるため、破損の影響は破損したバイト以外にも広がります。libjpeg-turbo のドキュメントによると、リスタートマーカーがない JPEG が破損すると、通常はエラー箇所から末尾まで画像が崩れます。マーカーがある場合、影響は通常、次のマーカーまでの部分に限られますが、マーカーの分だけ容量が増えます。JPEG はリスタート間隔ごとに DC 予測と算術符号化の確率推定をリセットするため、その位置からデコードを再開できます。
jpegtranは、元のファイルにリスタートマーカーがあっても、デフォルトではマーカーを出力せず、元の間隔も引き継ぎません。-restart Nは N MCU 行ごとに新しいマーカーを挿入するため、この保護を維持するには N を明示的に指定してください。ドキュメントでは、符号化表現を設定するスイッチとして-restartを挙げ、変換は可逆であると説明しています。そのため、破損していないファイルは、マーカーの有無にかかわらず同じ画像にデコードされます。
エントロピー符号化が重要になる場面
コーデック開発者は、量子化係数、予測残差、その他の構造化された値にエントロピー符号化を適用します。その効率は、確率モデルがデータにどれだけ適合しているかによって変わります。それ以外の利用者にとっては、エンコーダー設定として接する技術です。JPEG ツールでは最適化されたハフマンテーブルや算術符号化を、H.264 エンコーダーでは CAVLC や CABAC を選べます。この処理段階自体では情報を一切捨てないため、量子化が同じであれば、これらの設定はファイルサイズとエンコードの処理コスト、デコーダーの対応状況のトレードオフになります。