天涯论坛_华人最大的社区论坛_新天涯社区

查看: 22|回复: 0

手机AI合作转向:苹果、vivo等厂商不再“堆参数”,押注轻量化端侧大模子

[复制链接]

2万

主题

0

回帖

6万

积分

论坛元老

Rank: 8Rank: 8

积分
65118
发表于 2025-10-13 16:39 | 显示全部楼层 |阅读模式
每经记者:王晶 每经编辑:张益铭
在天生式AI(野生智能)囊括全球的浪潮中,智妙手机正成为AI落地的关键阵地提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。从苹果推出Apple Intelligence、三星公布Gauss(高斯)、光荣带来MagicGUI大模子,再到vivo的蓝心大模子,端侧AI正成为行业新一轮技术比赛的焦点提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。相比云侧AI,端侧AI既能庇护用户隐私、下降计较与能耗本钱,还能供给类似小我助手的交互体验提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
但是,当AI从云端迁移到终端,技术与贸易的困难也随之而来提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。曩昔两年,厂商们热衷于将大模子间接嵌动手机操纵系统,并将参数范围当做竞逐的焦点提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。比如,vivo曾在2023年实现130亿参数的“蓝心大模子”在端侧跑通,并让70亿参数模子在端侧落地提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
但是在今年10月10日举行的vivo开辟者大会上,vivo副总裁、vivo AI全球研讨院院长四周给出了一个新的成长偏向——放弃对“通用野生智能”的追逐,转而推出体量更轻的3B端侧多模态推理大模子,该模子仅占用手机2GB内存、功耗约750毫安,却能在推理才能上跨越此前的7B甚至10B模子,性能接近云端模子提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。“做千亿级模子需要两万卡以上的集群,光装备投入就20多亿元,这还不包括每年数亿元的电费提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。‘卷’通用野生智能不太现实提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”

vivo副总裁四周 企业供图
究竟上,端侧模子的小型化正逐步成为行业共鸣提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。苹果的Apple Intelligence一样采用30亿参数的设想,可以在装备上完成文本摘要、信息提取与跨利用操纵等使命提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。这意味着,厂商们正在从“堆参数、拼算力”的合作,转向关注模子在端侧适用性能、功耗控制的理性阶段提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
离别模子参数比赛端侧大模子落地后,越来越多消耗者起头利用大模子,这也有望为手机消耗带来新的增加契机提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。华福证券在研报中称,端侧大模子将成为消耗电子品牌厂商提升本性化用户体验,打造产物差别化合作力的重要偏向,具有更强AI才能的终端新品推出或将带动消耗电子见底苏醒提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
在vivo AI产物总司理关岩冰看来,真正实现小我化智能的焦点在于端侧提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。“只要端侧模子才能实时分析用户的数据、洞察需求,感知屏幕内容、了解利意图图等提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”这也正是苹果在“Apple Intelligence”中夸大的偏向,即在端侧完成敏感数据处置,保障隐私,同时供给本性化办事提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。但是,与苹果封锁的系统分歧,安卓阵营的厂商在落地端侧大模子时要面临众多应战提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
“云端模子的CPU凡是基于X86架构,而手机上是ARM的内核,此外还要兼容分歧芯片厂的NPU指令集,若何把本来生态里指令集转成手机上的指令集,这里最大的障碍是算子提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”四周说道提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。据他先容,vivo早在2017年便在美国设立AI研讨院,组建专门的算子团队,今朝该团队已扩大至几十人,聚焦把模子转成端侧化的进程提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
算子之外,内存占用一样是制约端侧大模子落地的关键瓶颈提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。四周举例称:“以往7B模子需要占用3.5G内存,而8G手机是中高端机型的首要设置,一个大模子就占掉4个G内存,一下让高端机酿成了低端机提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”推理才能则是另一个应战提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。例如,履行一个查询使命:“帮我找今全国午4点北京到深圳的机票哪一个最廉价”,现实会触及几个App比价、分析利用习惯等复杂题目提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。“客岁的70亿参数模子只能做简单的使命拆解,不能做复杂的推理提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”四周说道提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
曩昔一年vivo针对这些题目停止了优化提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。vivo推出的3B端侧多模态推理大模子只占2G内存,不影响高端机的性能,其次增强了推理才能,可在手机中做意图中控和使命拆解的中台提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。“今年30亿参数的模子已比客岁100亿参数的模子更强,甚至在部分使命中与云端模子差异仅在2%~3%之间提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”四周说道提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。这意味着,在文本摘要、多轮对话、意图识别等场景中,端侧模子已具有适用代价提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
智能体跨利用调剂受限随着端侧算力提升和操纵系统AI化,手机华夏本的语音助手逐步向具有履行才能的“智能体”演进——它不再范围于回答提问,而是被赋予更强的意图了解与使命履行才能提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。厂商希望其能成为真正意义上的小我助理,完成诸如“帮我订一杯拿铁,少冰”这类需要挪用内部办事、了解高低文并履行多步操纵的现实使命提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
今朝AI手机智能助手挪用第三方App,首要有两条技术线路:一是经过意图框架实现提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。经过API(利用法式编程接口)挪用利用,实现跨利勤奋用提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。具体来说,就是手机厂商与App开辟企业协商、以正当API的形式接入;二是“纯视觉计划”,无需第三方App赞成,间接挪用安卓系统的无障碍等系统级权限提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。具体做法是,安卓手机厂商以多模态大模子技术配合无障碍权限,先读取屏幕内容,再以模拟用户点击的方式取代用户操纵,实现手机智能助手取代用户接罢手机,以到达挪用App功用的目标提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
“用户用手机,手机厂商只占了15%的时长,还有85%的时长是用于开辟者供给办事,出格是头部的互联网厂商,又在这85%中占了70%~80%,他们的介入度很是高提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”四周说道提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。这也致使智能体在跨利用调剂办事时处处受限,互联网巨头把握着绝大大都用户办事接口和数据,而手机厂商把握着操纵系统与硬件才能提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。双方在平安授权、用户隐私和收益分派上的界限尚未了了提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。
四周坦言:“当手机的智能体要做使命的时辰,我们只能做自己的功用和利用,比如能否流利、调亮度、连Wi-Fi等,假如想跨利用操纵,还需要和对方(互联网厂商)会商平安授权的标准提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”
在他看来,破局的关键在于鞭策行业标准的建立提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。“我们没法避免地要做用户习惯和办事的分发,接下来的战略是建好才能,其次,愿意跟我们握手、合作的,就座下来商量提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。AI时代到来,能否需要一个新的江湖职位和影响力,就留给时候往返答提出申请的零售商必须在新米大量上市的8月底前完成储备米销售。”
逐日经济消息

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|天涯论坛_华人最大的社区论坛_新天涯社区  

GMT+8, 2025-11-8 16:54 , Processed in 5.490984 second(s), 27 queries .

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

快速回复 返回顶部 返回列表