Scaling Law缩放定律

OpenAI 在 2020 年提出的经验规律:模型参数量、训练数据量、算力三者按比例扩大,模型效果就会持续提升,而且这种提升是可预测的。

OpenAI 在 2020 年提出的经验规律:模型参数量、训练数据量、算力三者按比例扩大,模型效果就会持续提升,而且这种提升是可预测的。这条定律是过去几年大模型军备竞赛的理论基础——"只要砸够钱,模型就会变强"。

什么时候会用到

讨论AI行业趋势、投资逻辑、模型发展路径时会用。

例句

  • Scaling Law 还没撞墙,所以大厂还在拼命堆算力。
  • 如果 Scaling Law 失效了,那整个行业的投资逻辑要重写。

相关词