情報理論（応用確率論）
2003年度
情報理論についてお話をしてきた。
ヒンチンというロシアの数学者が情報理論という書物を書いているが、
ヒンチンが問題にしたのは確率論なのだが、詳しく行っているのはエントロピー関数の数学的な意味づけである。
それにたいして、シャノンは符号と確率を結び付け、符号が長い＝符号化の計算量＝エントロピーの大きさ
＝情報の量 というように、より具体的に通信工学と物理法則としてのエントロピーを述べた。
情報理論は広い分野を構成している（メディアも入る）が、数学分野でも代数（群、環、体など）、とくに
整数論あるいはその拡大体を論ずるための多項式理論が面白いと思う。おそらくコンピュータの理論と融合して
おおきな発展が約束されている。ぼんやりとこの分野がもつ魅力について考えているのだが、
なかなか面白さを伝えられないのは僕の力不足のせいである。
２００２年４月２日
月曜日４時限
２進数はディジタルコンピュータで用いられる言葉である。
インターネットでもIPアドレスは２進数で現される。
IP v4, IP v6の話。
ネットマスクの話。
１０進数から２進数
２進数から１０進数への変換。
2001年
金曜1時限（電情3年）73２教室
教科書 情報理論
橋本猛著
培風館
注意 今年の教科書が教授要目に挙げたものと違っていることに注意
（マルティメディアについて詳しい教科書を設定した）
86名
1.ハフマン符号、平均符号長、エントロピー、拡大ハミング符号
２．マルコフ連鎖の定常確率分布
３．クラフトの不等式
４．ＭＦＭ方式、ＲＬ制約の状態遷移グラフ
6月29日
シンドローム
５月１８日
条件付確率、条件付エントロピー
この結果純粋に自称に含まれる情報量が定義される。
マルコフ連鎖の場合にこれを考察する。
5月11日
今日はエントロピーの特性について考える。
あいまいさ、情報量、最適符号の長さこれらがひとつにつながる。
4月6日 圧縮