人が天気予報を見る理由は「エントロピー」で説明できる【情報理論2】#10

情報理論2本目。「発表された時はaだったのにtheに変わった論文」「全てのコミュニケーションを包括する数学的理論」「熱力学のアナロジーで情報を計算できる(しかもアナロジーじゃないらしい)」など、内容に薄く踏み込んでいます。次回は本気で計算するよ! 【目次】 0:00 コミュニケーションはすべて、1冊の本が教えてくれた 0:37 前回の復習と、手癖が見える絶望 1:53 『通信の数学的理論』の原題は「コミュニケーションの~」 4:48 論文タイトル、aにするか? theにするか? 6:18 グレンリベットにtheがつく理由【theうんちく】 8:43 70年前に完成してしまった理論 11:02 情報は熱力学のアナロジーで計算できる 15:11 アナロジーかと思ったらアナロジーじゃなかったらしい(あいまい) 17:34 人はなぜ天気予報を見るのか? 20:43 散らばってる確率はありがたい(だからエントロピーに似ている) 22:08 まとめ-熱力学と同じ感じで情報量も計算できる 【参考文献のリンク】 ○『通信の数学的理論』 https://amzn.to/3taByzE →今回のメイン種本。丸ごとシャノンの論文なので難易度は高いが、語り口は意外に堅苦しくない(1940年代の工学論文はそういうトレンドだったらしい) ○『情報理論』 https://amzn.to/3tiWcxI →研究者によるシャノンの論文の解説。今回の参考文献の中では語り口がいちばん面白いのでオススメ。 ○『シャノンの情報理論入門』 https://amzn.to/3tay4Np →雰囲気だけ分かりたい時におなじみのブルーバックス。とはいえ、ブルーバックスの割にはそこそこ数式も出てきてそれなりに理解できる。 ○『情報はなぜビットなのか』 https://amzn.to/3piB5tS →情報理論の本だと思って読んだらそうでもなかった。「コンピュータって何ができるの?」っていうよもやま本。情報理論の話もちょっとだけある。いちばん平易。 ○『教養悪口本』 https://amzn.to/3pkKS2B →堀元の著書。シャノンの情報理論も悪口として活用しています。買ってね(ダイレクトマーケティング) ○ヨビノリたくみさんのマクスウェルの悪魔解説    • 物理学の根幹を揺るがす思考実験(マクスウェルの悪魔)   →マクスウェルの悪魔についてなんとなく分かった気になれて「すげえ!」と興奮する。 【サポーターコミュニティ加入はこちらから】 https://yurugengo.com/support 【親チャンネル:ゆる言語学ラジオ】    / @yurugengo   【おたよりフォーム】 https://forms.gle/BLEZpLcdEPmoZTH4A ※皆様からの楽しいおたよりをお待ちしています! 【お仕事依頼はこちら!】 [email protected] 【堀元見プロフィール】 慶應義塾大学理工学部卒。専門は情報工学。WEBにコンテンツを作り散らかすことで生計を立てている。現在の主な収入源は「アカデミックに人の悪口を書くnote有料マガジン」。 Twitter→  / kenhori2   noteマガジン→https://note.com/kenhori2/m/m125fc452... 個人YouTube→   / @kenhorimoto   【水野太貴プロフィール】 名古屋大学文学部卒。専門は言語学。 某大手出版社で編集者として勤務。言語学の知識が本業に活きてるかと思いきや、そうでもない。

友だちと親しくなる=情報量の期待値が減る【情報理論3】#11
▶︎

友だちと親しくなる=情報量の期待値が減る【情報理論3】#11

[Morning Live] 7/23 (Thu): Carefully Selected News You Need to Know! Shinichi Isa Breaks Down the...
▶︎

[Morning Live] 7/23 (Thu): Carefully Selected News You Need to Know! Shinichi Isa Breaks Down the...

【ラジオ】カヌンのプロフェッショナルヨーグルト♯34
▶︎

【ラジオ】カヌンのプロフェッショナルヨーグルト♯34

【必見】量子コンピュータは速いの?正しい答えはこれだ!【量子コンピュータ2】#57
▶︎

【必見】量子コンピュータは速いの?正しい答えはこれだ!【量子コンピュータ2】#57

How do you study philosophy?
▶︎

How do you study philosophy?

「説明が上手い=頭が良い」は本当なのか?
▶︎

「説明が上手い=頭が良い」は本当なのか?

カレーはなぜやめられない?唐辛子の防御が人間に効かなかった理由#34【料理】
▶︎

カレーはなぜやめられない?唐辛子の防御が人間に効かなかった理由#34【料理】

「晩ごはんはカレー」を極限まで短くすると、"沈黙"になる【情報理論1】#9
▶︎

「晩ごはんはカレー」を極限まで短くすると、"沈黙"になる【情報理論1】#9

【「服装」から読み解くアメリカの今】「福音派」著者・加藤喜之/権力への「反逆」だったラフな服は新たな「特権」の象徴に/ファストファッション批判とトランプ支持/“日本発のアイビー”を逆輸入した米国
▶︎

【「服装」から読み解くアメリカの今】「福音派」著者・加藤喜之/権力への「反逆」だったラフな服は新たな「特権」の象徴に/ファストファッション批判とトランプ支持/“日本発のアイビー”を逆輸入した米国

情報セキュリティの敗北史。システムはなぜ安全にならないのか?【セキュリティ1】#97
▶︎

情報セキュリティの敗北史。システムはなぜ安全にならないのか?【セキュリティ1】#97

人はなぜ疲れるのか?
▶︎

人はなぜ疲れるのか?

言語化に興奮するタイプの人間は、文章で惚れちゃう【ビジュアルシンカー2】#323
▶︎

言語化に興奮するタイプの人間は、文章で惚れちゃう【ビジュアルシンカー2】#323

「サクラサク」はシャノン先生ブチギレ符号化。脳はスマホに繋ぐべき【情報理論4】#12
▶︎

「サクラサク」はシャノン先生ブチギレ符号化。脳はスマホに繋ぐべき【情報理論4】#12

What is the ultimate information organization method that a computer science genius has arrived a...
▶︎

What is the ultimate information organization method that a computer science genius has arrived a...

おもしろ半分で技術ブログを読もう!!【Qiita基調講演】#128
▶︎

おもしろ半分で技術ブログを読もう!!【Qiita基調講演】#128

What's strange about the Japan Meteorological Agency's website?
▶︎

What's strange about the Japan Meteorological Agency's website?

心は存在しない。【ビジュアルシンカー3】#324
▶︎

心は存在しない。【ビジュアルシンカー3】#324

【数ある「〇〇理論」を整理する】宇宙物理学者・野村泰紀が解説する物理学の全体図/チワワと犬で紐解く「相対論・量子力学・場の量子論・超弦理論・ゲージ理論・標準模型・大統一理論・量子重力」【1on1】
▶︎

【数ある「〇〇理論」を整理する】宇宙物理学者・野村泰紀が解説する物理学の全体図/チワワと犬で紐解く「相対論・量子力学・場の量子論・超弦理論・ゲージ理論・標準模型・大統一理論・量子重力」【1on1】

おはぎを畑に埋める呪いの、意外な真実。
▶︎

おはぎを畑に埋める呪いの、意外な真実。

Read the paper that became the foundation of Google. Anatomy of a search engine. [Google1] #42
▶︎

Read the paper that became the foundation of Google. Anatomy of a search engine. [Google1] #42