立即打开
联发科与阿里联手,大模型加速“上手机”

联发科与阿里联手,大模型加速“上手机”

2024-03-28 18:00
《科创板日报》记者获悉,智能手机芯片厂商联发科,已成功在天玑9300等旗舰芯片上部署通义千问18亿、40亿参数大模型,实现大模型在手机芯片端深度适配,让通义千问在离线情况下依然可以运行多轮AI对话。 | 相关阅读(科创板日报)
56
董元元

董元元

旅居全球各地

这又是端侧大模型发展的典型双赢合作。自从2023年5月份,Google推出了可以在旗舰手机上离线运行的PaLM2轻量版 Gecko。从这一刻起,能够在端侧运行的大语言模型成了厂商们的重要任务。毕竟LLM要落地,移动终端是最好的载体之一,同时端侧也有着巨大的市场空间。

于是,厂商们纷纷开启狂飙模式,踏上LLM的优化之路,要把自家的云端大模型先行装进手机。也就是在这期间,高通提出了混合Al概念:AI处理必须分布在云端和终端进行,才能实现AI的规模化扩展并发挥其最大潜能。端侧的市场规模,加上混合AI趋势,就连微软也与Meta 结盟共同推出了可以部署在端侧的开源大语言模型 Llama 2。

在人工智能大模型大发展的当下,越来越多的跨界合作成为必然。这次全球最大的智能手机芯片供应商联发科,与国内最大的AI大模型之一阿里的通义千问强强联手,无论是增强联发科芯片本身的产品力,还是帮助通义千问更好的迭代和研发都起到1+1>2的效果。

撰写或查看更多观点, 请打开财富Plus APP
最新:
热读文章
热门视频
扫描二维码下载财富APP