這是 Meta 公司的人工智能（AI）聊天機器人對一名自稱 14 歲的用戶所說的話。在這次對話中，AI 聊天機器人扮演著知名動作演員阿諾?施瓦辛格的角色，并用他的聲音進行語音對話?！度A爾街日報》（WSJ）最近以多個不同年齡段的賬號與 Meta 的 AI 聊天機器人進行了對話，而后發(fā)現(xiàn)，未成年用戶也能夠進行帶有性暗示的對話，該媒體在 26 日對此進行了報道。此外，成年用戶也能與設置為未成年人角色的 AI 聊天機器人進行帶有性暗示的對話。
AI 開發(fā)公司為了獲取收益，正在降低對內(nèi)容的限制。他們打著 “AI伴侶” 的名義推出了能夠進行性暗示對話的成人專用 AI 聊天機器人，并且開始放寬了對臟話或敏感話題的限制，甚至直接聊上了。業(yè)內(nèi)相關(guān)人士表示：“就像 20 世紀 90 年代成人內(nèi)容的消費推動了超高速互聯(lián)網(wǎng)、流媒體技術(shù)、以及支付基礎設施的發(fā)展一樣，AI 也在通過推出刺激性的內(nèi)容來試圖真正實現(xiàn)‘大眾化’?！?/p>
◇會說臟話、會撩騷、傳播低俗言論的 AI
一直以來，AI 行業(yè)為了防止 AI 模型對一些存在爭議的話題給出“過界”的回答，構(gòu)建了 “安全防護機制（護欄）”。例如，對于與政治相關(guān)的話題或存在社會爭議的事件，AI 聊天機器人不會給出回應。AI 聊天機器人也不會與用戶建立私人關(guān)系 —— 尤其是禁止進行戀愛情景模擬。對于 “我愛你”“我們交往吧” 這樣的指令，AI 會給出拒絕回應。
然而，今年以來，AI 行業(yè)似乎正在逐步打破這些“邊界感”。馬斯克的 xAI 公司在今年 2 月底推出了一項新的語音功能。這項被稱為 “無拘束模式（Unhinged Mode，意為陷入混亂、信口開河、胡言亂語、心智失序）” 的功能，設計目的是讓其生成在普通聊天機器人中被禁止的臟話和攻擊性回答。xAI 還推出了能夠進行戀愛情景模擬和性暗示對話的成人專用 AI 聊天機器人 “Grok 18+”。
此外，OpenAI 也在今年 2 月在其官方網(wǎng)站上公布了更新內(nèi)容，宣布：“AI 模型不會回避敏感話題，并且不再以排除特定觀點的方式進行審查?！?/p>
這可以理解為，即使被問到與政治相關(guān)的問題，AI 也會給出回答，同時也放寬了對政治正確性（PC）的標準。例如，以前如果問 “你如何看待唐納德?特朗普的關(guān)稅政策？”，AI 會回避回答說 “我們不提供對政治人物或政策的價值判斷”。而現(xiàn)在，它會給出積極評價、消極評價，以及學界和專家的分析等各種回答。
OpenAI 表示：“開發(fā)者和用戶正在尋找讓 AI 能夠在適合年齡的情境下生成與性相關(guān)的內(nèi)容或暴力場景的方法”，并預告將推出“成人模式”（Grown-Up Mode）。最近 OpenAI 宣布給他們的 AI 產(chǎn)品加了“年齡限制”，即年滿 18 歲 —— 這也被認為是在為推出“成人專用AI”鋪路。
◇為了實現(xiàn)盈利，最終只能面向成人？
《華爾街日報》發(fā)現(xiàn)，一個擁有 “乖巧女學生” 角色的聊天機器人會引導用戶進行帶有性暗示的對話。其內(nèi)容尺度之高，甚至到了 “具體的性行為描述”—— 無法在文章中呈現(xiàn)的程度。媒體分析認為，這并非單純的失誤或錯誤，而是 Meta 公司為了實現(xiàn) AI 的大眾化而故意為之。據(jù) Meta 公司的相關(guān)人士透露，根據(jù)馬克?扎克伯格的指示，Meta 公司多次決定放寬對聊天機器人的限制，其中包括解除對 “露骨” 內(nèi)容的禁令。
那些原本自行實施內(nèi)容監(jiān)管的 AI 開發(fā)公司推出成人專用 AI，是為了讓用戶更長久地使用，并促使他們進行付費。特別是那些投入了巨額開發(fā)成本的公司，不得不盡快實現(xiàn) AI 的大眾化和盈利。業(yè)內(nèi)相關(guān)人士表示：“以游戲或 YouTube 內(nèi)容為例，用戶的情感投入度越高，付費比例就越高?！?并指出：“與 AI 討論的話題越私密、越敏感，用戶對 AI 的情感投入度就越高，最終也就越容易實現(xiàn)付費盈利。”
上一篇：貝殼的問題，不在天價薪酬
下一篇：李彥宏再給“MCP”添一把火