您所在的位置:首页 - 文化 - 正文文化
端侧模型,创新的新赛道
哲欧
2024-09-16
【文化】
667人已围观
摘要吕本富随着人工智能(AI)技术的快速发展,大模型的竞争正在从技术驱动过渡到市场驱动。在这一背景下,2024年以来,全球主流大模型间的比拼有两个要点。一是重要产品发布,OpenAI等企业的重大发布吸引全球目光;二是关注大规模产业应用和成本控制。成本是商业考量的第一要义,OpenAI目前已经4次降价,国内头部互联网企业的主力模型也不得不大幅降价或将全面免费。数字经济的发展经历表明,平台型通用技术一旦形成,市场会快速进入“马太效应”,形成一家独大或几家垄断的局面。当然AI对人类社会的塑造,端侧模型,
吕本富

随着人工智能(AI)技术的快速发展,大模型的竞争正在从技术驱动过渡到市场驱动。在这一背景下,2024年以来,全球主流大模型间的比拼有两个要点。一是重要产品发布,OpenAI等企业的重大发布吸引全球目光;二是关注大规模产业应用和成本控制。
成本是商业考量的第一要义,OpenAI目前已经4次降价,国内头部互联网企业的主力模型也不得不大幅降价或将全面免费。数字经济的发展经历表明,平台型通用技术一旦形成,市场会快速进入“马太效应”,形成一家独大或几家垄断的局面。当然AI 对人类社会的塑造,端侧模型,创新的新赛道绝不仅仅生成式大语言模型这一个赛道。
5月22日,在欧洲最大的科技盛会“欧洲科技创新展览会”(VivaTechnology)上,来自中国的百度和荣耀分别阐述了大模型的新赛道——“超级应用和端侧模型”,引起了大会的关注。其中,荣耀CEO赵明认为,基于手机端的AI模型能承载生活娱乐、工作、学习等多个场景,具备在知识问答、文字扩写、表格生成、编写代码、图像处理,实现图像填充、实时语音翻译、智能助手、面部识别解锁等多项功能。手机使用频率最高,使用时间最长,因此在AI的落地竞赛中,将处于最有利的位置。
大模型的参数规模正在快速增长,约每18个月时间会增长40倍。现在生成式大模型的计算和推理都在云端进行,大模型参数和使用量的成倍增长带来巨大计算推理压力,当数十亿用户都日常使用生成式AI时,云端模式显然难以支持生成式AI的规模化扩展。过大参数也造成了在开发及使用过程中的成本高企,在一定程度上限制了AI应用的拓展和变现。因此,需要针对应用场景的小参数模型。
相比之下,端侧模型通常不需要依赖云端服务器的计算资源,可以减少云端计算的成本,并且在没有网络连接的情况下也能工作。随着生成式AI模型使用量和复杂性的不断增长,仅在云端进行推理并不经济。将一些处理从云端转移到边缘终端,可减轻云基础设施的压力并减少推理服务成本。推动一部分算力下沉到端侧,尤其是与用户规模庞大的移动端设备结合,正是端侧模型的努力方向。据统计,我国存量手机算力是数据中心算力的12倍,但算力利用率不足15%;全国宽带用户规模达5.9亿,却有80%带宽资源处于闲置状态。发展端侧AI将极大地体现AI应用的中国特色。
除了成本以外,发展端侧模型还有两个因素。一是当前企业或个人用户的AI应用场景都在端侧,聊天记录、办公记录、视频和照片等数据也在端侧。只有使用端侧模型,才能打消用户使用AI的疑虑。二是很多工业场景和野外场景,与云端链接网络不稳定,甚至存在断线的情况,AI模型可靠性和稳定性就难以保障,必须有独立运行能力的端侧模型才能保障。
一旦大模型的竞争进入到端侧领域就面临几个需要:完成底层芯片到上层操作系统及应用开发的软硬一体深度适配;能够在较低的功耗下运行且适合电池供电的移动设备;有电子围栏技术感知周围的场景。端侧模型也需要链接智能音箱、安全监控、自动化家居控制系统等,提供更个性化和安全的服务。
对于很多中国企业来说,上述竞争就相当于进入主场。部分手机厂商,电池的超长待机、电子围栏的场景感知的专长技术,从魔法大模型巧妙融入手机硬件,到系统级AI手机操作系统的崛起,具备了对大模型进行量化、剪枝、蒸馏,轻量化、小型化的技术。中国厂商的端侧模型通常注重与国内市场的需求和特点相适应,正华丽变身为世界手机端侧AI创新的先锋。(作者是中国国家创新与发展战略研究会副会长)▲
Tags: 端侧模型创新的新赛道
版权声明: 感谢您对【奚诗百科网】网站平台的认可,无特别说明,本站所有文章均归【奚诗百科网】平台所有,转载请说明文章出处“来源【奚诗百科网】”。 https://www.sptgyg.com/post/16032.html
最近发表
- 艺术设计专业,描绘未来的色彩
- 华为MatePad Pro,重新定义生产力工具的智能平板
- 三星W系列手机,奢华与科技的完美融合
- 探索北京,十大免费景点排名及深度体验指南
- 探索知识宝库,小学四书的奥秘
- 时光的旋律,探索一百首经典老歌曲的魅力
- 艺术设计专业,创意与薪酬的完美融合
- 探索北京,30个免费景点全攻略
- 开启你的学术之旅,研究生择校咨询的艺术与科学
- 探索北京,免费景点的宝藏之旅
- 华为云账号登录官网,一站式指南
- 三星Galaxy S7 Edge,2016年的旗舰手机及其历史价值
- 985工程大学排名名单,中国顶尖学府的荣耀与挑战
- 华为荣耀10青春版,青春的风采,一图尽览
- 考研路上的钱包指南,预算大揭秘
- 华为MatePad Pro,您的智能生活新伙伴
- 时光回响,一千首经典老歌曲大全
- 考研路上的灯塔,揭秘考研辅导机构的神奇力量
- 穿越时空的旋律,一千首经典老歌曲的不朽魅力
- 旋律中的世界,全球著名音乐剧的魅力与影响
- 三星手机图片大全,视觉盛宴,科技与美学的结晶
- 旋律中的世界,探索全球著名音乐剧的魅力
- 三星W系列手机,高端奢华与卓越性能的完美结合
- 函授硕士研究生报考条件,开启你的远程学习之旅
- 英文经典音乐剧,穿越时空的旋律与故事
- 福建省美术学院排名大揭秘,艺术殿堂的十座灯塔
- 探索京城,北京免费景点全攻略
- 四书五经,古典智慧的宝库
- 索尼摄像机使用指南,轻松掌握拍摄技巧
- 考研路上的灯塔,为何选择多样的考研课程至关重要
- 旋律与梦想,探索著名英语音乐剧的魅力与影响
- 电影中的音乐之旅,西方音乐电影的魅力与启示
- 深入了解考研课程班的费用,一个全面的指南
- 探索北京,揭秘免门票的宝藏景区
- 考研课程费用解析,如何判断合适的投资
- 艺术之门,揭秘美术公办二本最低分数线的秘密
- 探索北京,十大必去景点深度游
- 舞动经典,探索歌舞剧电影的魅力
- 戴尔最新款笔记本型号,性能、特点与购买指南
- 深入解析,考研课程费用大揭秘
- 揭秘考研课程费用,如何辨别正规课程,避免经济与时间的双重损失
- 荣耀Magic系统,智能生活的新篇章
- 电影之旅,探索英美经典电影的魅力
- 考研路上的金钥匙,揭秘考研课程的价值与成本
- 探索北京,十大免费景点排名及深度体验指南
- 探索云端世界,华为云账号登录官网的便捷之旅
- 舞动梦想,歌唱生活,美国歌舞剧电影的魅力与影响
- 2023年十大名牌手机,科技与设计的巅峰对决
- 苹果与富士康的舞步,全球供应链中的合作与挑战
- 三星GTS3850,智能生活,触手可及