【信息论的本质】直观理解最大熵定理
视频先通俗阐释信息熵含义，离散与连续信源的 “平均惊讶度”，再借KL散度非负性，对不同约束条件，有限区间均匀、定均值时指数、定方差时正态，共同探讨为何能让熵达最大值。
暑假一边在跟本科导师肝论文，一边在肝《信号与系统新讲》的课程，所以暂时停更。之前《复变函数》这种是依赖现有课程划分，在单一课程内部重构的讲法，而“新讲”课程则是打破课程间壁垒的进一步尝试。夏令营本校，混合初选rank1，这段时间又在准备开学后的直博选拔，复习信息论时偶得此视频之感悟，故分享之，之后也考虑做信息论和电分等非新讲课程。
立即观看
0