2023年10月4日，Google在紐約舉辦了「Made by Google」硬件發布會，并正式發布了Pixel 8和Pixel 8 Pro。Pixel 8系列作為首批搭載Android 14系統的手機，據官方介紹其最大亮點就是AI功能。在發布會持續的一小時內，「AI」一詞被提及超過50次，可見Google對這一功能的重視，以及AI是Pixel 8核心賣點的事實。

然而讓人意外的是，日前Google以「硬件限制」為理由，拒絕在Pixel 8上運行最新的人工智能模型「Gemini Nano」。Google隨后宣布即將在6月的季度更新中為Pixel 8提供「Gemini Nano」功能，但用戶只能在隱藏的開發者選項中開啟。

 

圖源：Unsplash

對于此事，谷歌設備和服務軟件副總裁Seang Chau解釋稱，為了能隨時調用「Gemini Nano」模型，部分AI模型會常駐內存。而Pixel 8只有8GB內存，如果貿然啟用「Gemini Nano」功能，很可能會影響用戶的使用體驗。與之相反，Pixel 8 Pro擁有12GB內存，能比較好地釋放AI模型性能。

從Seang Chau的回復來看，Pixel 8并不是不能使用「Gemini Nano」，而是使用后會占用大量手機系統內存，導致其他應用的體驗感下降。作為參考，三星Galaxy S24系列8GB內存版本就可運行Gemini Nano模型，而沒有這方面的限制。

“一刀切”能否克服端側大模型劣勢？

目前，大模型已經成為手機廠商們的「必爭之地」，小米、華為、榮耀、OPPO、vivo等手機廠商均已發布搭載大模型的旗艦機型。像華為的盤古大模型、小米的MiLM、OPPO的安第斯大模型、vivo的藍心大模型以及榮耀的魔法大模型，也隨著新機發布首次走進消費者的視野。在以上大模型解決方案中，有以云端為主的，也有云端與端側相結合的，但幾乎沒有純端側的大模型。

所謂的「端側」，指的是將大模型服務布置在手機設備內部的芯片之中，僅利用芯片的算力生成結果。與云端大模型相比，這種方案的優勢是不需要聯網，因此數據不用上傳至云端，減少了泄露風險，并在一定程度上減輕了云成本。

但純端側方案也有其不可忽視的劣勢，就是算力有限。如果手機設備只是接入云端大模型，自然不需要終端設備擁有多強的算力和AI芯片，但如果在手機本地運營端側大模型，則對算力有著極高的要求。盡管從理論上來說，常規手機芯片中的GPU、CPU都能進行并行計算，但在效率和能耗控制方面仍比不上AI芯片中專門用于AI加速計算的NPU/TPU等神經處理單元，更別提動輒擁有幾百上千張頂級顯卡的云端后臺了。

 

圖源：谷歌

而Google的「Gemini Nano」在發布之初，就已經將其定位為在移動設備上本地運行的端側大模型，并且其內置在Android 14系統中。也就是說，未來如果其他開發者想通過AICore API直接調用其他Android手機的Gemini AI能力，將會遇到與Pixel 8相同的硬件要求問題。

在雷科技看來，Google之所以限制Pixel 8調用Gemini Nano模型，一方面是擔心Gemini Nano模型在占用大量手機系統內存后，影響用戶使用其他應用程序時的體驗感，為了保險起見，干脆直接一刀切；另一方面，Pixel 8標準版與Pixel 8 Pro標準版的售價相差大約2000元，在核心配置相差不大的情況下，AI功能或許能驅使目標用戶選擇更貴的Pixel 8 Pro。

內存壓縮技術，是端側大模型的必經之路？

我們暫且不討論運行內存對端側大模型的影響是否真的有那么大，站在行業角度，如何在算力有限的手機上實現較好的大模型效果，是所有手機廠商都需要考慮的問題。

此前微軟推出的Copilot Pro訂閱服務對AI PC的算力和內存提出了明確要求，但在AI手機領域，至今還沒有任何一家企業給出大模型手機的類似標準。

或許大部分人都不知道，其實最早被曝出規劃手機端側路線的企業，是至今仍未在iPhone用上大模型的蘋果。蘋果在招聘介紹中提及了本地推理引擎中實現壓縮和加速大模型的相關要求，雖然iOS 18還未正式推出，但蘋果對AI大模型的探索從其取得的專利就能窺見一二。