苹果(AAPL.US)AI困局有解了？洽谈AI创企PrismML，欲将大模子“瘦身”塞进iPhone

苹果(AAPL.US)AI困局有解了？洽谈AI创企PrismML，欲将大模子“瘦身”塞进iPhone．

V赢财经得悉，苹果公司(AAPL.US)正与硅谷一家小型初创企业PrismML开展洽谈。后者宣称可以或许将壮大的AI模子大幅压缩，使其足以直接在iPhone上运行。

技能冲破：54GB模子缩至不到4GB，270亿参数落地iPhone

PrismML是一家取得Khosla Ventures投资的加州理工学院(Caltech)衍生公司，于周二公然公布了阿里巴巴开源模子Qwen的压缩版本。公司表示，已经将原模子从约54GB压缩至不到4GB，使其全数270亿个参数可以或许在iPhone 15及更新机型上运行。

PrismML首席执行官巴巴克·哈西比(Babak Hassibi)泄漏，苹果及其他公司正在评估该初创企业的模子，测试其在装备真个运行速率、能效及机能体现。

“他们目前确凿在评估我们的技能，”哈西比谈及苹果时表示。他形容相关计议仍处于“极其初期”的阶段，终极走向尚不开阔爽朗，但“事变正在稳步推进”。

苹果AI困局：端侧智能的弃取与均衡术

PrismML模子公布的时间点，恰逢苹果于前一日正式开放iOS 27公测版，iPhone用户患上以初次大规模体验颠末漫长延迟的Siri周全进级。苹果正试图让Siri在与OpenAI以及Anthropic的竞争中更具竞争力，同时坚持将更多小我私家信息以及AI处理留在装备端。

但是，最壮大的AI模子通常值得极大的内存以及算力才能在智能手机上运行，这组成了苹果AI战略的焦点矛盾。苹果目前的做法是：将繁杂要求发送至云端模子处理，但将更多AI能力直接放在iPhone上运行，可以或许削减数据传输延迟、下降云计算成本、强化隐私维护承诺，同时使部门功效在无网络毗连时仍可正常工作。

Creative Strategies总裁兼首席分析师卡罗莱娜·米拉内西(Carolina Milanesi)指出，更小的模子将容许苹果将计算拍照、视频天生和依赖敏感小我私家数据的康健或者健身东西等更具挑战性的功效移至iPhone本地运行。“能在装备端完成越多，效果越好，”她以康健以及用药数据为例指出，用户但愿这种信息维持私密。

16位精简至“1或者3个值”，速率飙升6至8倍

PrismML表示，其压缩技能经由过程大幅简化模子内部信息的存储体例实现——将每一个数值从16位精简至仅1个或者3个可能取值，从而显著减少模子存储以及运行所需的内存。

哈西比将这一冲破类比于芯片行业从8位向4位计算的演进，但更进一步。据称，压缩后模子的内存利用量仅为传统版本的十分之一至十五分之一，相应速率晋升6至8倍，能耗下降3至6倍。

无非，哈西比坦承存在机能折损。PrismML的模子通常在总体机能上丧失几个百分点，此中究竟回想能力的减弱水平高于推理、数学以及编码等能力。

PrismML公布两个压缩版模子，剑指机械人与主动驾驶

PrismML这次免费公布两个压缩版模子，设计方针是在一样平常装备上运行，涵盖iPhone、MacBook和搭载NVIDIA芯片的PC。

该技能脱胎于哈西比在加州理工学院(Caltech)的研究团队。校方持有底层专利，并独家授权给PrismML利用。本年3月，该公司完成了由Khosla Ventures领投、多家机构跟投的1625万美元种子轮融资。

哈西比泄漏，google开源模子Ge妹妹a将是下一个压缩方针，今后将挑战更大规模的模子——包含目前通常值得数据中间硬件才能运行的头部尝试室前沿模子。

据PrismML称，该技能的运用场景终极将远不止手机以及条记本电脑，还可延伸至机械人、主动驾驶体系及其他值得在不依赖云端毗连的环境下快速决议计划的产品。

“智能必需本地化，而且必需运行迅速，这一点相当关键，”哈西比表示。

苹果具有端侧上风，规模测试与续航磨练待解

苹果已经在其装备本地运行部门AI功效，包含翻译、部门择要和与小我私家信息慎密相关的特征。更繁杂的要求则被路由至苹果的私有云根蒂根基举措措施或者外部第三方模子。

Asymco创始人霍勒斯·德迪乌(Horace Dediu)表示，苹果极可能试图将绝大大都常见的Siri交互保留在装备端，仅将最沉重的使命交由云端处理。

他指出，此中的上风不仅仅在于削减内存占用，而是在不异的物理限定内容纳一个能力更强的模子。

“他们正在试探，事实能在装备上塞进多大、多聪明的模子，”德迪乌表示。将常见要求留在本地处理，可为苹果带来更低延迟、更强隐私维护，和潜在的授权费以及云服务成本降低。

因其自立设计iPhone芯片与软件，软硬一体化使其对AI在装备真个运行拥有更邃密的节制力，苹果在将 这类模子落地运用方面可能具有怪异上风。

分析师广泛对PrismML的技能持审慎乐观立场，但夸大仍需在受控演示以外接受检修。

Counterpoint Research研究总监塔伦·帕塔克(Tarun Pathak)指出，模子在处理长提醒词时的体现、多使命场景下的电池损耗，和应答数百万次快速查询的靠得住性将是重要。“最终磨练将是数百万次快速查询、数千种装备组合和大规模稳健测试，”帕塔克表示。

IDC客户端处理器研究主管菲尔·索利斯(Phil Solis)则认为，功耗多是最大的未知数。即使模子所需内存削减，若其能力足以被频仍利用或者连续在后台运行(如署理式使命)，仍可能紧张损耗手机电量。

芯片需求之争：效率晋升≠需求降低

PrismML公布压缩模子之际，市场正环抱AI效率晋升是否终极会削减对存储芯片以及昂贵数据中间根蒂根基举措措施的需求开展剧烈争辩。

存储已经成为消费电子以及AI服务器领域最大的瓶颈以及成本项之一。摩根士丹利预计，苹果2027财年均匀每一bit DRAM成本可能同比上升约190%，NAND成本上升约180%。该机构预计苹果将把iPhone 18系列同设置装备摆设机型起售价提高约200美元以维护利润率。

PrismML表示，其技能可以使本来值得8块GPU的云端模子仅用1块便可运行，同时也使本来必需依赖服务器的模子可以或许迁徙至手机以及条记本电脑上。

但D.A. Davidson分析师吉尔·卢里亚(Gil Luria)指出，模子压缩不会解除对处理器或者存储的需求，只是将更多芯片从数据中间转移得手机以及其他装备。“不是说不值得芯片了，你依然值得GPU，依然值得内存，”卢里亚表示。他还增补称，在小我私家装备上运行AI现实上可能不如同享数据中间根蒂根基举措措施高效，由于手机中的芯片大部门时间可能处于闲置状况。

此外，效率冲破每每带来更多利用而非更低付出——更廉价、更快速的AI将催生新产品，并促利用户更频仍地运行模子。

PrismML的公然版本公布，为通俗用户以及投资人提供了在尝试室以外验证其机能晋升的机遇。而对付苹果而言，在iPhone上运行能力更强的AI模子，将有助于在不抛却隐私维护以及软硬一体化上风的条件下，实现Siri的本色性进级。

Counterpoint的帕塔克总结道：“云端与端侧AI的结合，可以或许提供更完备、更高效、更注意隐私的AI体验。繁杂使命将卸载至云端，而敏感、延迟敏感及触及隐私的使命则在装备端执行。”

大家在看了小编以上内容中对"苹果(AAPL.US)AI困局有解了？洽谈AI创企PrismML，欲将大模子“瘦身”塞进iPhone"的先容后应当都清晰了吧，但愿对大家有所帮助。若是大家还想要认识更多有关"苹果(AAPL.US)AI困局有解了？洽谈AI创企PrismML，欲将大模子“瘦身”塞进iPhone"的相关常识的，敬请特别关注V赢财经网站。我们会按照"苹果(AAPL.US)AI困局有解了？洽谈AI创企PrismML，欲将大模子“瘦身”塞进iPhone"给予您专业解答以及帮助。