13,000
回編集
「情報理論 - 通信路符号化」の版間の差分
ナビゲーションに移動
検索に移動
→概要
(→概要) タグ: モバイル編集 モバイルウェブ編集 |
(→概要) タグ: モバイル編集 モバイルウェブ編集 |
||
| 30行目: | 30行目: | ||
<br><br> | <br><br> | ||
== 通信路モデル == | |||
通信路モデルは、情報がどのように伝送され、その過程でどのような影響を受けるかを数学的に表現したものである。<br> | |||
<br> | |||
離散無記憶通信路 (DMC: Discrete Memoryless Channel) は、最も基本的な通信路モデルである。<br> | |||
この通信路では、入力シンボルが出力シンボルに変換される過程が、確率的に表現される。<br> | |||
<br> | |||
「離散」とは入出力が離散的な値を取ることを意味し、「無記憶」とは現在の出力が過去の入出力に依存しないことをす。<br> | |||
<br> | |||
例えば、二元対称通信路 (BSC: Binary Symmetric Channel) では、入力ビット (0または1) が確率pで反転し、確率 (1-p) で正しく伝送される。<br> | |||
この確率pは、通信路の誤り率を表す。<br> | |||
<br> | |||
通信路容量Cは、通信路を通じて伝送可能な最大の情報量を表す。<br> | |||
<br> | |||
シャノンの通信路容量定理によれば、<math> | |||
C = \mbox{max[I(X;Y)]}</math> と定義される。<br> | |||
ここで、I(X;Y)は入力Xと出力Yの相互情報量である。<br> | |||
<br> | |||
BSCの場合、通信路容量は次式で与えられる。<br> | |||
ここでH(p)は二元エントロピー関数である。<br> | |||
<math>C = 1 - H(p)</math><br> | |||
<br> | |||
ノイズは通信路上で発生する外乱であり、熱雑音、干渉、フェージング等が原因である。<br> | |||
これらのノイズにより、送信信号は歪められて、受信側で誤りが生じる。<br> | |||
<br> | |||
誤りパターンは通信路の特性によって異なり、ランダム誤り、バースト誤り (連続的な誤り) 等がある。<br> | |||
<br><br> | |||
== 符号化の基礎 == | |||
符号化率Rは、情報ビット数kと符号語長nの比として次式で定義される。<br> | |||
<math>R = \dfrac{k}{n}</math><br> | |||
<br> | |||
例えば、4ビットの情報に対して7ビットの符号語を使用する場合、符号化率は <math>\dfrac{4}{7}</math> となる。<br> | |||
<br> | |||
符号化率が高いほど伝送効率は良くなるが、誤り訂正能力は低下する。<br> | |||
<br> | |||
ハミング距離は、2つの符号語間で異なるビット位置の数を表す。<br> | |||
例: ハミング距離が2の場合 (2番目と3番目のビットが異なる) | |||
符号語1: 1010 | |||
符号語2: 1100 | |||
<br> | |||
最小距離dminは、符号に含まれる任意の2つの符号語間のハミング距離の最小値のことである。<br> | |||
これにより、符号の誤り検出・訂正能力が決まる。<br> | |||
<br> | |||
t個までの誤りを検出する場合: | |||
dmin ≥ t + 1 | |||
t個までの誤りを訂正する場合 | |||
dmin ≥ 2t + 1 | |||
<br> | |||
エンコーダの基本構造<br> | |||
# 情報ビット列を受信する。 | |||
# 符号化規則に従って冗長ビットを付加する。 | |||
# 符号語を生成する。 | |||
<br> | |||
デコーダの基本構造<br> | |||
# 受信した符号語を解析 | |||
# 誤り検出を行う | |||
# 可能な場合は誤り訂正を実施 | |||
# 元の情報ビットを復元 | |||
<br> | |||
デコーディング方式には、以下に示すものがある。<br> | |||
* 最尤復号 | |||
*: 受信語に最も近い符号語を選択する。 | |||
* シンドローム復号 | |||
*:誤りパターンを効率的に特定する。 | |||
* 反復復号 | |||
*: 段階的に信頼度を向上させる。 | |||
<br> | |||
実際の系では、上記の概念を組み合わせて、要求される性能と複雑さのバランスを取った設計が行われる。<br> | |||
<br><br> | |||
__FORCETOC__ | __FORCETOC__ | ||
[[カテゴリ:情報理論]] | [[カテゴリ:情報理論]] | ||