rismML霸占端侧AI瓶颈：胜利将阿里通义千问“塞进”苹果(AAPL.US)iPhone 17 Pro ，全参数运行媲美云端

rismML霸占端侧AI瓶颈：胜利将阿里通义千问“塞进”苹果(AAPL.US)iPhone 17 Pro ，全参数运行媲美云端．

V赢财经得悉，据知恋人士泄漏，人工智能初创公司 PrismML 已经将阿里巴巴(BABA.US)的开源大语言模子 Qwen 3.6 进行压缩，使其可以或许在苹果(AAPL.US)的 iPhone 17 Pro 上运行。

知恋人士的话指出，苹果公司已经与 PrismML 举办了集会，计议怎么样利用其技能。

该模子拥有 270 亿(27B)参数，而参数目可以帮助确定模子可以或许处理的数据的繁杂水平。比拟之下，大大都在手机上运行的模子一次只有几十亿个参数处于激活状况。

最大的人工智能模子参数目可达数万亿，目前体量仍然太大，没法在挪动装备上运行。但是，据该初创公司称，PrismML 胜利在 iPhone 上运行的这款模子可以或许执行繁杂的对话、推理、完全自立的智能体(agents)和软件代码编写等使命。报导增补称，该开源模子将于下周二开放下载。

PrismML 使用一种数学实用技巧将 Qwen 3.6 模子的体积缩小到原始巨细的一小部门。通常环境下，缩小模子会致使机能降低，但该公司宣称其微型化人工智能模子的法子并不会损害其机能。据报导，PrismML 已经将 Qwen 3.6 的体积从约 54 兆字节(GB)压缩至不足 4 兆字节(GB)。

这一里程碑事务反映出一种更普遍的趋向，即鞭策人工智能在装备端运行，而不是在数据中间昂贵的高功率服务器上运行。微软(MSFT.US)、亚马逊(AMZN.US)、Meta Platforms(META.US)等公司正投资数千亿美元建设数据中间，以知足它们预期中对人工智能的需求。

但是，苹果在很大水平上对这场数据中间竞赛维持了观看立场，同时它也是坚定的提倡者，确保 iPhone 的许多人工智能功效尽量在装备端(而非云端)运行。

PrismML 的法子可能会吸引苹果。在本年 6 月的公司全世界开发者大会(WWDC)上，苹果宣告了基于google(GOOGL.US)Gemini 模子的 Siri 周全翻新。Siri 最早进的部门体量仍然过于巨大，以致于苹果值得利用在google云中运行的英伟达(NVDA.US)芯片。作为新 Siri 公布内容的一部门，苹果指出 iPhone 的一些新 AI 功效将在装备端运行。

苹果的一款全新端侧模子拥有 200 亿(20B)参数，但采用了所谓的希罕架构(sparse architecture)，此中一次只有 10 亿到 40 亿(1B 到 4B)个参数处于激活状况。知恋人士增补称，而在 PrismML 的端侧模子中，所有 270 亿个参数都是同时激活的。

作为 OpenAI 的第一家危害投资者，柯斯拉风投(Khosla Ventures)在本年早些时候投资了 PrismML 1625 万美元的种子轮融资。

PrismML 是加州理工学院的衍生公司，其首席执行官是巴巴克·哈西比。哈西比是该校的电气工程传授，他以及联合创始人进行了该初创公司技能所利用的数学研究。报导指出，加州理工学院拥有该技能背后的专利，但将其独家授权给了 PrismML。

大家在看了小编以上内容中对"rismML霸占端侧AI瓶颈：胜利将阿里通义千问“塞进”苹果(AAPL.US)iPhone 17 Pro ，全参数运行媲美云端"的先容后应当都清晰了吧，但愿对大家有所帮助。若是大家还想要认识更多有关"rismML霸占端侧AI瓶颈：胜利将阿里通义千问“塞进”苹果(AAPL.US)iPhone 17 Pro ，全参数运行媲美云端"的相关常识的，敬请特别关注V赢财经网站。我们会按照"rismML霸占端侧AI瓶颈：胜利将阿里通义千问“塞进”苹果(AAPL.US)iPhone 17 Pro ，全参数运行媲美云端"给予您专业解答以及帮助。