数学家陶哲轩：大模型不是魔法，是基于概率的猜测机。
那么大模型是如何不断生成下一个词的概率的呢?
实际上，这一过程依赖于模型内部的参数，这些参数通过大量数据的训练来不断调整，蕴含了数据的分布规律，从而使模型能够在特定上下文下预测出最合适的下一个词。并且，当这些参数单元的数量级提升时，系统的认知能力通常会呈现出显著的进化趋势。
类似地，大语言模型的参数也是通过大量数据的学习，逐渐调整和优化的，将数据的规律压缩到参数中，以便对新的数据进行更准确地预测和生成合适的输出。
本文来自知之小站
PDF完整报告已分享至知识星球，微信扫码加入立享4万+最新精选报告
（星球内含更多专属精选报告.其它事宜可联系zzxz_88@163.com）
