全部文章标签

边缘AI

边缘 AI 把模型推理搬到离用户最近的硬件:车机、手机、摄像头本地运算,低延迟、保隐私,断网也能工作。

专题介绍

边缘 AI 指在终端或本地服务器上直接运行 AI 模型,而不是把数据发到云端。好处是延迟低、隐私好、断网可用,代价是对芯片算力要求高。SoundHound 的 OASYS Edge、各类端侧大模型都在押注这条路线。这里汇总边缘推理的芯片、模型与落地产品。

Edge0-145B开源:1450亿参数大模型装进笔记本

Edge0-145B开源:1450亿参数大模型装进笔记本

AI资讯
AI导航 0 次阅读
PLaMo 3 Translate开放权重:最小0.8B,手机断网也能高质量翻译53种语言

PLaMo 3 Translate开放权重:最小0.8B,手机断网也能高质量翻译53种语言

AI资讯
AI导航 3 次阅读
印度发布EKA-1等三款本土基础模型:离线运行瞄准企业与科研

印度发布EKA-1等三款本土基础模型:离线运行瞄准企业与科研

AI资讯
AI导航 12 次阅读
Axon Body 5 执法记录仪发布:算力提升 25 倍,现场翻译与风险提醒直接上身

Axon Body 5 执法记录仪发布:算力提升 25 倍,现场翻译与风险提醒直接上身

AI资讯
AI导航 15 次阅读
英伟达携手Nokia改造电信网络:首通AI-RAN电话已在商用网打通

英伟达携手Nokia改造电信网络:首通AI-RAN电话已在商用网打通

AI资讯
AI导航 12 次阅读
世界银行力推小AI:能装进手机、弱网可用,专为发展中国家定制

世界银行力推小AI:能装进手机、弱网可用,专为发展中国家定制

AI资讯
AI导航 12 次阅读
Nemotron 3.5 Super VL发布:120B多模态模型配端侧Bolt

Nemotron 3.5 Super VL发布:120B多模态模型配端侧Bolt

AI资讯
AI导航 19 次阅读
Gemma端侧反诈骗模型落地新加坡:聊天不出手机也能识别骗局

Gemma端侧反诈骗模型落地新加坡:聊天不出手机也能识别骗局

AI资讯
AI导航 5 次阅读