商傳媒｜吳承岳／台北報導
根據德國帕紹大學（University of Passau）於週三發表的一項最新研究指出，人工智慧（AI）生成的政治人物模擬言論，在公眾眼中被認為比真實的辯論回應更具真實感、相關性與連貫性。這項研究結果刊登在開放取閱期刊《PLOS ONE》上，凸顯了生成式人工智慧（GenAI）技術在政治傳播中潛在的誤導性風險。
研究團隊運用 GPT-4 Turbo 等大型語言模型，根據維基百科上的個人傳記，生成 112 位公眾人物對英國廣播公司（BBC）《問答時間》節目的觀眾提問所做的模擬回應。隨後，研究人員邀請 948 位英國成年人評估這些真實與 AI 生成的回應。結果顯示，受試者普遍認為 AI 生成的言論更為真實可信，即使在語言風格上，例如詞彙廣度與「我認為」等語氣詞的使用頻率存在差異，仍不影響其真實性判斷。
該研究的斯特芬·赫博爾德教授表示：「我們的研究明確指出，人類認為 AI 生成的辯論內容比實際知名人士所說的更具真實性。」他強調這揭示了人工智慧惡意散佈假訊息的巨大潛力，社會必須警覺並批判性地判斷所有書面資訊，以防範 AI 生成的誤導訊息肆無忌憚地傳播。研究也發現，公眾對於人工智慧應具備透明度有著壓倒性的要求，希望能夠知道何時使用了人工智慧以及其訓練方式。
這項發現呼應了人工智慧應用面臨的廣泛倫理挑戰。例如，Spring Health 的共同創辦人亞當·M·切克魯德曾指出，現今社會正處於一場大規模、 unregulated 的實驗之中，數百萬人轉向通用型 AI 尋求心理健康支持與治療建議。然而，這些模型並非為心理健康議題設計，缺乏臨床監督、法規保障及可靠的危機應對機制，使得個人在脆弱時刻面臨風險。
從民意調查來看，美國大眾對人工智慧發展抱持著複雜且謹慎的態度。YouGov 的調查顯示，約五分之一 30 歲以下的美國成年人曾與 AI 聊天機器人建立持續的個人友誼，但更多人預期 AI 會對經濟帶來負面影響。而根據國家高中學者協會（NSHSS）針對 11,443 名美國學生進行的調查，84% 的學生至少每年使用 AI 數次，近半數學生更頻繁至每天或每週使用。然而，高達 69% 的受訪學生認為人工智慧在未來十年對社會的負面影響將大於正面影響，其中 53% 的學生對個人隱私和安全感到極度或非常負面的影響。
面對這些挑戰，各界也正積極尋求解決方案。例如，Spring Health 便開發了 VERA-MH（Validation of Ethical and Responsible AI in Mental Health）框架，這是業界首個針對生成式人工智慧工具如何偵測與應對自殺風險，進行臨床驗證的開源評估框架。此外，隨著人工智慧工具在政府工作場所日益普及，美國各地地方政府也正在制定相關政策，為員工使用 AI 工具設定明確的規範，著重資料隱私、記錄保存、透明度及問責制，同時強調提升員工的人工智慧素養，使其能負責任地運用這項技術。
國際間在 AI 監管上也呈現多元發展。美國商務部曾對 Anthropic 的兩款 AI 模型 Fable 5 和 Mythos 5 實施出口管制，引發了全球 AI 用戶的信任危機，並促使中國及其他國家加速發展開源 AI 模型以強調技術主權。同時，歐盟正逐步推動具有約束力的《歐盟人工智能法案》，而中國則已實施多項法規，要求公開服務的 AI 模型須通過安全評估並向中央網絡安全和信息化委員會辦公室（CAC）備案。這些發展皆顯示全球對於人工智慧倫理與風險的重視，也提醒台灣社會應共同關注並學習如何辨識與防範 AI 誤導訊息。
