深度 | 贝叶斯、香农、奥卡姆合写博客「机器学习是什么」

选自TowardsDataScience作者：Tirthajyoti Sarkar机器之心编译参与：高璇、刘晓坤牛顿说：「解释自然界的一切，应该追求使用最少的原理。」介绍我们很少听到一个三词短语，能将统计学习、信息论和自然哲学的一些核心概念融合到一起。它对于任何有探索兴趣的人来说，都有精确且易于理解的含义，而且对 ML 和数据科学的研究人员，它应该是个有实用性的词。我说的就是「最小描述长度」（Minimum Description Length）。你可能在想这到底是什么……让我们拨开层层迷雾，看看它有多有用。贝叶斯和他的定理我们从托马斯·贝叶斯牧师开始说起（不按年代），他从未发表过关于统计推理的想法，但他的同名定理却经久不衰。在 18 世纪下半叶，还未曾出现名为「概率论」的数学科 ………………………………