GPU Poor 算力不够用。 算力不够用。训练和推理大模型都需要大量 GPU,但高端 GPU(如 NVIDIA H100)供不应求且价格昂贵。创业公司尤其"GPU Poor",倒逼他们做模型轻量化和推理优化。 什么时候会用到讨论算力瓶颈、创业资源限制时会用。 例句 作为 GPU Poor 的创业公司,我们没法训自己的基座模型,只能在开源模型上做微调。 相关词 量化GPU推理优化大模型推理训练算力H100