Scaling Law缩放定律
OpenAI 在 2020 年提出的经验规律:模型参数量、训练数据量、算力三者按比例扩大,模型效果就会持续提升,而且这种提升是可预测的。
OpenAI 在 2020 年提出的经验规律:模型参数量、训练数据量、算力三者按比例扩大,模型效果就会持续提升,而且这种提升是可预测的。这条定律是过去几年大模型军备竞赛的理论基础——"只要砸够钱,模型就会变强"。
什么时候会用到
讨论AI行业趋势、投资逻辑、模型发展路径时会用。
例句
- Scaling Law 还没撞墙,所以大厂还在拼命堆算力。
- 如果 Scaling Law 失效了,那整个行业的投资逻辑要重写。