13,009
回編集
「情報理論 - 定常情報源」の版間の差分
ナビゲーションに移動
検索に移動
→マルコフ情報源
| 65行目: | 65行目: | ||
\end{align} | \end{align} | ||
</math> | </math> | ||
<br><br> | |||
== エルゴード情報源 == | |||
エルゴード情報源は、時間平均と空間平均 (アンサンブル平均) が一致するという性質がある。<br> | |||
<br> | |||
エルゴード性とは、十分に長い時間観測を行うことにより、その情報源の統計的性質を完全に把握できるということである。<br> | |||
例えば、ある文字の出現確率を知りたい場合、十分に長い系列を観測することにより、その確率を正確に推定することができる。<br> | |||
<br> | |||
応用例として、音声信号の分析がある。<br> | |||
短時間で見ると、音声信号はエルゴード性を持つと仮定できる。<br> | |||
<br> | |||
* 統計的予測可能性 | |||
*: 将来の挙動を過去のデータから予測することが可能 | |||
* 解析の簡便性 | |||
*: 時間平均で分析することにより、システム全体の特性を理解できる。 | |||
<br> | |||
エルゴード情報源は、定常確率過程において、時間シフト作用素Tに関する不変測度が一意的である場合、その過程はエルゴード的であるとされる。<br> | |||
この性質は、エルゴード性があることで長い系列に対する最適な符号化方式を設計することが可能となるため、情報圧縮や通信路符号化において重要な役割を果たす。<br> | |||
<br> | |||
エルゴード情報源の性質を利用して、通信システムの設計や性能評価が行われている。<br> | |||
例えば、デジタル通信システムにおける誤り訂正符号の設計では、チャネルのエルゴード性を仮定することにより、効率的な符号化方式を実現している。<br> | |||
<br> | |||
また、パターン認識や機械学習の分野でも、データの定常性とエルゴード性は重要な仮定となっている。<br> | |||
これらの性質があることで、学習アルゴリズムの収束性が保証されて、実用的なシステムの構築が可能となる。<br> | |||
<br><br> | <br><br> | ||