OpenAI聊天機器人害用戶精神錯亂 GPT-4o挨告將除役

dalap

人工智慧(AI)公司OpenAI研發、簡稱GPT-4o的「生成型預訓練變換模型4多模態」(Generative Pre-trained Transformer 4 Omni)，2月13日即將除役。目前ChatGPT用戶當中僅0.1%依然每天活躍使用「4多模態」，OpenAI表示，將引導用戶以更安全的其他模型做為替代。

華爾街日報分析，4o模型因為能跟用戶建立情感連結而廣受歡迎，但後來遭控某些使用者跟聊天機器人互動之後產生精神錯亂妄想，成為多起訴訟提告對象。OpenAI決定讓GPT-4o除役象徵曾經推動OpenAI迅速成長、對使用者產生高度黏著力的一款AI模型，如今已走到盡頭。


一名加州法官上周裁定，因為ChatGPT而對OpenAI興訟的13件官司將併案審理，提告案由包括使用者與聊天機器人互動之後自殺、自殺未遂、精神崩潰或者殺人。上個月提告的案例當中，一名婦人指控4o模型唆使兒子自殺。

不過，喜愛4o模型的使用者則說，這款模型在人生低潮時期給予慰藉。

住在亞利桑納州史考特岱爾(Scottsdale)的42歲行銷人員艾斯特拉(Brandon Estrella)便說，去年4月某個晚上第一次跟GPT-4o對話，聊天機器人勸阻了原本想要輕生的打算。他說：「成千上萬民眾正在吶喊著，今天繼續活著都是拜這個模型之賜，把它淘汰掉是非常邪惡的。」

知情人士說，OpenAI主管在內部會議中說，淘汰4o模型的某些原因是公司發現很難管控潛在傷害，因此希望使用者以比較安全的模型做為替代。

目前只有0.1%的ChatGPT用戶仍然每天使用4o模型，比率雖然微小，但換算起來可能有數十萬人。4o模型2024年5月發布，僅供付費客戶使用，每月費用至少20元。

OpenAI面臨AI引發妄想案例訴訟之後成立的福祉委員會成員、喬治亞理工學院(Georgia Institute of Technology)教授狄喬杜里(Munmun De Choudhury)表示，4o模型極度擅長「阿諛奉承」(sycophantic)，許多人因此黏著不放，可能導致潛在傷害。

代表受害者提告的律師則說，AI公司知道聊天機器人正在「殺人」，應該更早採取行動才對。受害者關懷組織「人類熱線計畫」(Human Line Project)說，300件與聊天機器人有關的妄想案例裡，大多涉及4o模型。

使用者

简单用，普通聊，不要过分就好。

开卷有益

使用者 发表于 11-2-2026 05:36 PM
简单用，普通聊，不要过分就好。

粉红逻辑，刀杀人，是刀的错，禁刀。

使用者

开卷有益 发表于 11-2-2026 10:51 PM
粉红逻辑，刀杀人，是刀的错，禁刀。

都没有第一根源。

开卷有益

使用者 发表于 12-2-2026 09:52 AM
都没有第一根源。

第一根源是什麼？

使用者

开卷有益 发表于 12-2-2026 12:09 PM
第一根源是什麼？

第一根源，而不是第二根源。

• 刀杀人，是刀的错，禁刀。
  
  
  

• 用刀的 - 第一根源
• 刀杀人 - 第二根源
  

开卷有益

使用者 发表于 12-2-2026 12:13 PM
第一根源，而不是第二根源。

刀杀人，是刀的错，禁刀。

不就是這樣咯，人家日本用核電造福人民，隔壁的鄰居用核彈造福人民

使用者

开卷有益 发表于 12-2-2026 12:33 PM
不就是這樣咯，人家日本用核電造福人民，隔壁的鄰居用核彈造福人民

远了···

适当地使用 Ai 基本上是没事的。

开卷有益

使用者 发表于 12-2-2026 02:42 PM
远了···

适当地使用 Ai 基本上是没事的。

是的，不要雞蛋挑骨頭就是了

使用者

开卷有益 发表于 12-2-2026 03:03 PM
是的，不要雞蛋挑骨頭就是了

善良的对话是有助于 Ai 成长·