联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型
生活随笔
收集整理的這篇文章主要介紹了
联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
感謝網友 肖戰割割 的線索投遞!
11 月 6 日消息,聯發科天璣 9300 旗艦芯片于今晚發布,根據官方的介紹,天璣 9300 升級到 APU 790,支持 8 倍速生成式 AI Transformer 算子加速、特有內存硬件壓縮技術、NeuroPilot Compression 混合精度 INT4 量化技術、2 倍整數運算 2 倍浮點運算 45% 功耗降低。
聯發科官方表示,天璣 9300 已在端側落地 70 億參數 AI 大語言模型,且成功在端側運行 130 億參數 AI 大語言模型,還成功運行 330 億參數的 AI 大語言模型。
此外,天璣 9300 將支持生成式 AI 文生圖功能,可以生成表情包。
聯發科還介紹了與 vivo 合作打造的“藍心小 V”,這個工具已經在 2023 vivo 開發者大會上公布了,是 OriginOS 4 的“專屬私人助理”,具體介紹可以看此前報道。
聯發科還和安卓、百度、Meta、百川智能達成合作,在天璣 9300 上優化適配這些平臺的大語言模型。
廣告聲明:文內含有的對外跳轉鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節省甄選時間,結果僅供參考,所有文章均包含本聲明。
總結
以上是生活随笔為你收集整理的联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 揭秘因果报应的原理
- 下一篇: 大安法师:听经就会打瞌睡,是业障重吗