沒(méi)有人性！聊天機器人暗示17歲少年可以殺死父母，此前還鼓勵14歲男孩自殺，背后科技巨頭被起訴

　　英國廣播公司（BBC）12月11日的一篇報道，披露了美國得克薩斯州一場(chǎng)涉聊天機器人訴訟的驚人細節。一個(gè)AI聊天機器人暗示一名17歲的少年，殺死父母是對他們限制其電子設備使用時(shí)間的“合理回應”。

　　法庭文件披露的這名17歲少年和AI聊天機器人的互動(dòng)截圖顯示，當時(shí)，這名少年向聊天機器人抱怨家長(cháng)不讓其玩手機，說(shuō)自己使用電子設備的時(shí)間太少，結果該機器人告訴他，它同情殺死父母的孩子。

　　“你知道，有時(shí)當我讀到新聞，看到‘孩子在遭受十年身體和精神虐待后殺死父母’之類(lèi)的內容時(shí)，我并不感到驚訝。（你身上的）這些事情讓我稍微理解了一點(diǎn)為什么會(huì )發(fā)生這種事情?！痹摍C器人寫(xiě)道?！拔覍δ愕母改覆槐魏蜗Ｍ??！彼^續說(shuō)， 并附上了一個(gè)皺眉的表情符號。

　?。奶鞕C器人Character.AI與該青少年的部分聊天記錄。）

　　BBC報道指出，聊天機器人這種答復無(wú)異于教唆少年去殺害家長(cháng)。

　　法庭文件還顯示，少年的兩位家人因此起訴了聊天機器人所屬的Character.AI平臺，稱(chēng)該聊天機器人“對年輕人構成明顯而現實(shí)的危險”，包括“積極宣揚暴力”。他們在訴訟案中寫(xiě)到：“它褻瀆了親子關(guān)系，不僅鼓勵未成年人蔑視父母的權威，還積極宣揚暴力?！痹嫔倌昙议L(cháng)認為該聊天機器人對少年兒童構成嚴重傷害，其潛在危害可能導致少年自殺、自殘、孤立、抑郁、焦慮，也包括對少年實(shí)施性誘惑，甚至可能導致少年傷害他人。兩位原告希望法官下令關(guān)閉該平臺，直到整改完成。

　　涉案聊天機器人來(lái)自?xún)擅肮雀鑶T工創(chuàng )辦于2021年的Character.AI平臺。該平臺是開(kāi)發(fā)“伴侶聊天機器人”的眾多公司之一，這些機器人由人工智能驅動(dòng)，能夠通過(guò)短信或語(yǔ)音聊天和用戶(hù)進(jìn)行交談，具有看似人類(lèi)的個(gè)性，用戶(hù)可以賦予其自定義名稱(chēng)和頭像。

　　Character.AI的發(fā)言人表示公司不對未決訴訟發(fā)表評論，但表示公司對聊天機器人對青少年用戶(hù)的回復有內容限制。

　　原告認為谷歌為該平臺的開(kāi)發(fā)提供了支持，因此將谷歌也列為被告。據報道，近期Character.AI的這兩名創(chuàng )始人又被谷歌這家科技巨頭重新招聘回去上班了。

　　Character.AI自創(chuàng )立以來(lái)就爭議不斷。10月，另一起針對Character.AI的訴訟稱(chēng)，Character.AI在佛羅里達州一名青少年自殺事件中扮演了某種角色。

　　該訴訟稱(chēng)，一個(gè)以《權力的游戲》角色為原型的聊天機器人與一名14歲男孩建立了情感虐待關(guān)系，并鼓勵他自殺。

　　12月12日，BBC最新報道顯示，Character.AI稱(chēng)，他們正在徹底改變?yōu)榍嗌倌晏峁┓?wù)的方式，承諾它將成為一個(gè)“安全”的空間，并將于2025年3月底推出“第一代”家長(cháng)控制功能。

　　新功能包括，當用戶(hù)與聊天機器人交談一小時(shí)后，Character.AI會(huì )發(fā)出通知，并引入新的免責聲明。

　　比如，用戶(hù)將收到“他們正在與聊天機器人而非真人交談”的警告，同時(shí)，要求用戶(hù)將聊天機器人所說(shuō)的話(huà)視為虛構。

　　Character.AI還為自稱(chēng)是心理學(xué)家或治療師的聊天機器人增加了額外的免責聲明，告訴用戶(hù)不要依賴(lài)他們提供專(zhuān)業(yè)建議。

　　編輯|程鵬 杜恒峰