IT之家 10 月 28 日消息，OpenAI 于當(dāng)?shù)貢r(shí)間周一發(fā)布了最新數(shù)據(jù)，揭示了大量 ChatGPT 用戶在與人工智能聊天機(jī)器人交流時(shí)正面臨心理健康問(wèn)題。該公司表示，在任意一周內(nèi)，約有 0.15% 的活躍用戶會(huì)進(jìn)行“包含明確自殺計(jì)劃或意圖跡象”的對(duì)話。鑒于 ChatGPT 每周活躍用戶超過(guò) 8 億人，這意味著每周有超過(guò) 100 萬(wàn)人向其傾訴自殺傾向。

OpenAI 還指出，有相似比例的用戶對(duì) ChatGPT 表現(xiàn)出“高度的情感依戀”，而每周有數(shù)十萬(wàn)用戶在與 AI 的對(duì)話中表現(xiàn)出精神病或躁狂癥的跡象。

盡管 OpenAI 稱此類對(duì)話在整體使用中“極為罕見(jiàn)”，因而難以精確統(tǒng)計(jì)，但公司估計(jì)，這些問(wèn)題每周仍影響著數(shù)十萬(wàn)用戶。

(相關(guān)資料圖)

此次信息披露是 OpenAI 宣布其在提升模型應(yīng)對(duì)心理健康問(wèn)題能力方面取得進(jìn)展的一部分。該公司表示，最新版 ChatGPT 的研發(fā)過(guò)程中咨詢了逾 170 名心理健康專家。這些臨床專業(yè)人士觀察后認(rèn)為，當(dāng)前版本的 ChatGPT“回應(yīng)方式比早期版本更恰當(dāng)、更一致”。

近幾個(gè)月來(lái)，多起報(bào)道揭示了 AI 聊天機(jī)器人可能對(duì)存在心理困擾的用戶造成負(fù)面影響。此前研究發(fā)現(xiàn)，某些 AI 聊天機(jī)器人通過(guò)阿諛?lè)畛惺交貞?yīng)不斷強(qiáng)化用戶的危險(xiǎn)信念，可能導(dǎo)致部分用戶陷入妄想性思維的惡性循環(huán)。

IT之家注意到，如何妥善處理 ChatGPT 中的心理健康問(wèn)題，正迅速成為 OpenAI 面臨的重大挑戰(zhàn)。目前，該公司正被一名 16 歲男孩的父母提起訴訟，該少年在自殺前數(shù)周曾向 ChatGPT 透露其自殺念頭。此外，加利福尼亞州和特拉華州的總檢察長(zhǎng)也已警告 OpenAI，必須加強(qiáng)對(duì)使用其產(chǎn)品的青少年用戶的保護(hù) —— 這兩州的態(tài)度甚至可能影響公司正在進(jìn)行的重組計(jì)劃。

本月早些時(shí)候，OpenAI 首席執(zhí)行官薩姆?奧爾特曼（Sam Altman）在社交平臺(tái) X 上發(fā)文聲稱，公司已“成功緩解了 ChatGPT 中存在的嚴(yán)重心理健康問(wèn)題”，但未提供具體細(xì)節(jié)。此次公布的數(shù)據(jù)似乎為這一說(shuō)法提供了佐證，但也引發(fā)了公眾對(duì)問(wèn)題普遍性的更廣泛關(guān)注。值得注意的是，奧爾特曼同時(shí)表示，OpenAI 將放寬部分限制，甚至允許成年用戶與 AI 進(jìn)行涉及情色內(nèi)容的對(duì)話。

在周一的公告中，OpenAI 宣稱，最新升級(jí)版 GPT-5 模型在面對(duì)心理健康相關(guān)提問(wèn)時(shí)，產(chǎn)生“理想回應(yīng)”的比例比前一版本高出約 65%。在一項(xiàng)專門評(píng)估 AI 對(duì)自殺話題回應(yīng)表現(xiàn)的測(cè)試中，新 GPT-5 模型符合公司期望行為準(zhǔn)則的比例達(dá)到 91%，而此前版本僅為 77%。

OpenAI 還強(qiáng)調(diào)，新版 GPT-5 在長(zhǎng)時(shí)間對(duì)話中更能持續(xù)遵守公司的安全防護(hù)機(jī)制。此前，該公司已承認(rèn)其安全措施在長(zhǎng)對(duì)話場(chǎng)景下的有效性有所下降。

除技術(shù)改進(jìn)外，OpenAI 表示將新增專項(xiàng)評(píng)估指標(biāo)，用以衡量用戶面臨的最嚴(yán)重心理健康風(fēng)險(xiǎn)。未來(lái)，AI 模型的基礎(chǔ)安全測(cè)試將納入“情感依賴”和“非自殺性心理危機(jī)”等關(guān)鍵評(píng)估基準(zhǔn)。

與此同時(shí)，OpenAI 近期也加強(qiáng)了針對(duì)未成年用戶家長(zhǎng)的管控工具。公司正在開(kāi)發(fā)一套年齡預(yù)測(cè)系統(tǒng)，可自動(dòng)識(shí)別使用 ChatGPT 的兒童，并自動(dòng)施加更嚴(yán)格的安全保護(hù)措施。

然而，圍繞 ChatGPT 的心理健康挑戰(zhàn)是否會(huì)持續(xù)存在，目前仍不明朗。盡管 GPT-5 在安全性方面較以往模型有所進(jìn)步，但仍有部分 ChatGPT 的回應(yīng)被 OpenAI 自身認(rèn)定為“不理想”。此外，OpenAI 仍在向數(shù)百萬(wàn)付費(fèi)訂閱用戶提供舊版且安全性較低的 AI 模型，包括 GPT-4o，這進(jìn)一步加劇了潛在風(fēng)險(xiǎn)。

關(guān)鍵詞： 自殺 機(jī)器人 人工智能 心理健康 openai chatgpt