端侧智能落地:ONNX Runtime 与模型量化的工程路径
热点引入:智能正在从云端走向设备 2026 年 6 月的 WWDC 上,Apple 用 Gemini 重建 Siri,端侧智能再次成为行业焦点。与此呼应,前端也通过 WebGPU 获得了在浏览器里跑本地推理的能力。两条线索指向同一个趋势:推理正在从云端下沉到设备端。 驱动力很现 …
共 1 篇
热点引入:智能正在从云端走向设备 2026 年 6 月的 WWDC 上,Apple 用 Gemini 重建 Siri,端侧智能再次成为行业焦点。与此呼应,前端也通过 WebGPU 获得了在浏览器里跑本地推理的能力。两条线索指向同一个趋势:推理正在从云端下沉到设备端。 驱动力很现 …