Edge Deployment端侧部署 把模型部署在用户的终端设备上(手机、PC、IoT设备),不需要联网调用云端服务。 把模型部署在用户的终端设备上(手机、PC、IoT设备),不需要联网调用云端服务。优点是延迟低、隐私好、无需网络;缺点是受设备算力限制,只能跑小模型。 什么时候会用到讨论隐私敏感场景、离线场景、成本优化时会用。 例句 这个录音转文字功能部署在端侧,用户的语音数据完全不出设备,隐私最安全。 相关词 延迟算力