
商傳媒|葉安庭/綜合外電報導
一名科技愛好者近期進行了一項為期一週的實驗,將手機上所有仰賴雲端的AI(人工智慧)應用程式,替換成單一的本機(local)大型語言模型(LLM)。根據《XDA》報導,這項實測揭示了本機AI在隱私與離線使用上的優勢,但也突顯其在獲取即時資訊與應用生態系整合方面的明顯限制。
本機AI的便捷性與隱私優勢
該使用者在其 iPhone 15 Pro Max 上,透過 Google 的 AI Edge Gallery 應用程式安裝了 Gemma 4-E2B-it 模型。這個 2.54 GB 的模型完全在裝置上離線運行,無需連接網路。本機LLM的優點包含:可在沒有網路訊號的環境下使用,例如飛行途中;沒有頻率限制(rate limits),使用者能無限次查詢;且因資料處理全在裝置本地完成,大幅提升隱私保護。該使用者表示,對於清理電子郵件、解釋概念、解析程式碼或進行單位轉換等日常輕量級任務,本機AI都能輕鬆勝任。
即時資訊與算力限制
然而,本機AI模型的主要缺點之一是其「時間凍結」的特性。由於模型內容在下載時即已固定,無法像雲端AI模型(例如 Anthropic 的 Claude 和 Google 的 Gemini)那樣即時連網獲取最新資訊。這意味著,當問題涉及當前事件或需要即時網路查詢時,本機模型便無法提供準確的回應。
此外,運行於手機上的本機模型,其運算能力與龐大的雲端模型相去甚遠。該使用者指出,當面臨複雜且需要深度推理的任務時,例如處理冗長的文件或深入偵錯程式碼,本機模型的回應明顯較為淺顯,最終仍需回到雲端AI尋求更強大的支援。
生態系整合的巨大落差
本機AI模型的另一大挑戰在於其獨立運作的特性。目前,手機上的本機LLM預設僅能在單一應用程式內回應使用者輸入,缺乏與手機其他應用程式(如電子信箱、日曆、文件等)的深度整合能力,也無法記憶先前的對話內容。這與雲端AI能跨應用執行任務、蒐集資料或記憶使用者偏好的生態系統,形成了鮮明對比。
這項實測最終導向一個結論:並非本機AI或雲端AI擇一即可,而是要根據任務性質選擇最合適的工具。對於快速、個人化、離線且注重隱私的日常任務,本機AI已展現其價值;然而,對於需要強大推理、即時資訊或深度應用整合的複雜工作,雲端AI仍是不可或缺的選擇。