智研咨询 - 产业信息门户

电子元器件行业:AI大语言模型小型化 打破智能终端性能冗余窘境

本报告导读:


WWDC 大会临近,软硬件将迎重大更新或发布。MR新产品发布在即,供应链启动备货。人工智能潜力很大,已整合进多款产品和服务。


摘要:


谷歌PaLM2 全面进化,“大语言模型的小型化”迎重大突破。在谷歌I/O 2023 大会上,推出PaLM 2,改进了数学、代码、推理、多语言翻译和自然语言生成能力。PaLM 2 包含了4 个不同参数的模型,包括壁虎(Gecko)、水獭(Otter)、野牛(Bison)和独角兽(Unicorn),并在特定领域的数据上进行了微调,为企业客户执行某些任务。其中,PaLM 2 最轻量版本Gecko 小到可以在手机上运行,每秒可以处理20个token,大约每秒16 或17 个单词,“大语言模型的小型化”迎重大突破。


小型化模型将打破智能终端性能冗余窘境,终端接口的硬件性能将迎大升级。目前,以手机为代表的智能终端性能冗余,算力需求基本满足目前应用需求场景,导致终端消费者换机动力不足,全球手机总销量下滑明显。而AI 大语言模型的小型化发展,将带来智能终端的再升级。在手机、智能家居、机器人等终端应用上内嵌部署AI 模型,将迎来终端的核心架构的变化,终端推理计算能力要求将大升级,对应存储、传输、执行、感知等硬件需求也将同步升级。


“云端大模型+终端小模型”, AI 发展助推云管端硬件迭代。以OpenAI 为代表的大模型主要在云端进行训练与推理,终端主要负责输入与输出的接口,对终端的形态变化改变较小。以PaLM 2 Gecko为代表的大模型可在手机端进行推理运算,可在本地运行,将带来“个性化”与”私密性“上重大提升。离线的、永远在线的、个性化的、私密安全的LLM 将降低服务成本、加速AI 商业化渗透,相应终端硬件将大幅受益。推荐智能终端产业链,包括苹果MR、手机品牌、智能家居等方向。重点推荐品牌与终端算力芯片相关标的,包括立讯精密、兆威机电、瑞芯微,相关受益标的乐鑫科技、传音控股等。


催化剂。AI 终端发布会。爆款应用推出。


风险提示。AI 产业发展不及预期;AI 终端渗透不及预期。


知前沿,问智研。智研咨询是中国一流产业咨询机构,十数年持续深耕产业研究领域,提供深度产业研究报告、商业计划书、可行性研究报告及定制服务等一站式产业咨询服务。专业的角度、品质化的服务、敏锐的市场洞察力,专注于提供完善的产业解决方案,为您的投资决策赋能。


转自国泰君安证券股份有限公司 研究员:王聪/舒迪

10000 12800
精品报告智研咨询 - 精品报告
2024-2030年中国电力电子元器件行业竞争战略分析及市场需求预测报告
2024-2030年中国电力电子元器件行业竞争战略分析及市场需求预测报告

《2024-2030年中国电力电子元器件行业竞争战略分析及市场需求预测报告》共九章,包含电力电子元器件制造所属行业进出口市场分析,电力电子元器件制造行业主要企业生产经营分析,电力电子元器件制造行业发展趋势分析与预测等内容。

如您有其他要求,请联系:

版权提示:智研咨询倡导尊重与保护知识产权,对有明确来源的内容注明出处。如发现本站文章存在版权、稿酬或其它问题,烦请联系我们,我们将及时与您沟通处理。联系方式:gaojian@chyxx.com、010-60343812。

在线咨询
微信客服
微信扫码咨询客服
电话客服

咨询热线

400-700-9383
010-60343812
返回顶部
在线咨询
研究报告
商业计划书
项目可研
定制服务
返回顶部