JN江南体育官方网站-2024年人工智能行业专题报告：终端智能，人工智能AI的新革命

JN江南体育官方网站

在如今这个科技飞速发展的时代，咱们AI领域那可是变化得让人应接不暇。咱先来瞧瞧，从好多方面综合考虑，你像成本、能耗 、可靠性还有时延，再加上隐私安全和个性化服务这些。经过分析会觉得，端云融合的AI仿佛就指明了AI未来发展的方向

咱提个技术应用方面， 高通一直坚持着一种理念的，觉得终端侧AI能力那关键度简直没法说有多重要！它要是能强起来，可以轻松赋能混合AI这个体系，还能巧妙地协助生成式AI顺利实现在全球的大规模扩展目标 ......

就在前一阵子，2023年 12 月 8 日那天 ， Mistral AI，它，特别大胆地在 X 平台 上发了一条磁力链接。而且，二话不说就直接开源了自个最新研制的模型的，就是那基于 Mistral 7B精心打造的SMoE模型，全称叫 Sparse Mixture of Experts 。它可先进了！引入稀疏性概念后能在最大化提高模型稀疏性的前提下去提升计算效率，对不对 ！叫做Mixtral 8x7B就是个轻量大模型

咱们把话题拉回来，说说端侧这个比较受关注角度JN江南体育官方网站，眼下的端侧AI芯片非常厉害，都具备直接支持百亿参数模型在本地正常运行的强大能力。更值得高兴地是，咱们特别看好轻量SMoE这类型的模型，在终端部署前景特别优秀这种大趋势。

说到推理端这里我讲讲 。轻量 MoE 模型进行推理活动的时候 ，仅仅激活一小部分参数就好了，所以意味着那些大模型拥有不同的性能特点。在保障较高性能同时，可以根据多种计算环境进行适应性切换啊 ！ 哪怕那些终端设备就算计算能力比较有限，依旧能适用！并且呢 ，因为这个模型部署的位置集中放在终端本地的原因，导致模型推理过程中的计算更多依靠咱们终端设备内置那个芯片了，也就将计算成本不知不觉向着端侧进行了悄然转移 ！

在这其中呢大公司作用不容小觑例如高通针对神经网络架构开发任务开展许多优化性和调整性工作的。调整中要格外注重一个重要前提条件，就是最大化不牺牲准确度同时还能提高总体运行效率问题。咱们说说其中几个代表性产品就高通骁龙 X Elite超级领先啊 能够实实在在支持在终端的本地进行 亿参数大模型运行

联发科天玑 9300丝毫不虚，甚至在智能手机领域作出成就！能本地运行70亿参数这个规模等级大模，跟 vivo合作，进一步又将规模提升 到了 130 亿参数 ，直接在特殊定制智能手机里能稳定顺利地运行最高级别那种330亿参数的AI大模型

还有，阿里那个通义千问大模型同样走在前头，人家专门做了针对兼容性的适配内容，都已经大功告成适配英特尔酷睿 Ultra 平台了，今后肯定可在多种不同类型PC包括端侧 进行科学合理 的针对性运行部署。

PC相比于其他的种类众多、令人眼花缭乱各不相同种种终端有先天优势，不但交互的方式比较有多样化，它还完全能有底气充分承担起很多场景，可以满足很多苛刻要求 。同时自身性质决定数据存储容量不仅量大而且足够安全靠得住，可以看出来它跟大模型进行本地运行所需要的部署条件，各方面格外适配！ 大胆预测今后阶段里 首先被大力开发出实用产品并且投入商用 AI PC肯定占据重要位置 。后来随着科研和生产技术层面发展大进步，产业结构不断细化升级整个生态环境更加优化和完整,后续其他像是所有终端都陆续要迎来 前所未有的AI化革新风暴。对不对 ，大家一起想想，最后肯定这样

而且根据大模型发展趋势还能够清晰看到驱动AIoT产业往高端升级这个大前景下未来更多机遇留给那些始终深耕细分真实场景的那些而且手里握有大量终端资源公司，未来他们舞台肯定很大啊这些企业定会推动变革脚步继续向前走下去引领新行业趋势那肯定！

JN江南体育官方网站