笔记关键词检索?

在所有笔记中搜索你感兴趣的关键词!

《机器学习实战》 ──   Machine learning in action

作者:[美] Peter Harrington 著,李锐,李鹏,曲亚东 等 译


熵(信息论)

一个事件产生某个结果的自信息,我想知道这个事件平均带来多少自信息。对自信息s进行加权平均是很直观的。现在的问题是选择什么权重?因为我知道每个结果的概率,所以用概率作为权重是有意义的,因为这是每个结果应该发生的概率。自信息的加权平均值就是熵(e),如果有n个结果,则可以写成:

参考资料: https://blog.csdn.net/fendouaini/article/details/103946238

评论 (0)

发布评论

你的邮箱地址不会被公开。请输入所有带 * 的信息。