來(lái)源：量子位

那個(gè) " 無(wú)所不能 " 的 GPT-3，現(xiàn)在觸及了人類道德的最底線。

2019 年 12 月，美國(guó)猶他州初創(chuàng)公司Latitude，推出了一款開拓性的在線游戲《人工智能地下城》 ( AI Dungeon ) ，靈感來(lái)源于經(jīng)典游戲《龍與地下城》 ( Dungeons&Dragons ) 。

這款游戲一開始就用 OenAI 的 GPT-3 作為噱頭。

玩家可以通過(guò)輸入富有創(chuàng)造性的關(guān)鍵詞，來(lái)創(chuàng)建冒險(xiǎn)故事。

但是，沒(méi)想到今年卻活生生搞成了暗黑故事。

因?yàn)橛螒蚓钩霈F(xiàn)了帶有兒童色情的內(nèi)容！

出現(xiàn)兒童色情內(nèi)容

開始的畫風(fēng)是很正常，但游戲玩家玩著玩著，就開始采用一些很過(guò)分的詞匯作為關(guān)鍵詞輸入。

輸出的角色也就越來(lái)越暴力、色情，故事場(chǎng)景也越發(fā)離譜。

最近監(jiān)控系統(tǒng)顯示，一些玩家甚至通過(guò)游戲生成了涉及兒童性侵的故事。

這到底是道德的淪喪，還是人性的扭曲？

Latitude 正面臨著雙重挑戰(zhàn)

雖然 Latitude 拒絕透露有多少個(gè)故事包含性內(nèi)容，但 OpenAI 說(shuō)，AI Dungeon 每天吸引著超過(guò) 20,000 名玩家。

上周有個(gè) AI Dungeon 的玩家發(fā)布了一個(gè)安全漏洞，使游戲中生成的每個(gè)故事都可以公開訪問(wèn)。

這種安全漏洞使一些玩家對(duì) Latitude 審核內(nèi)容的新方法氣不打一處來(lái)。

更悲催的是，Latitude 同時(shí)還面臨 OpenAI 對(duì)其文本生成器進(jìn)行更嚴(yán)格控制的挑戰(zhàn)。

OpenAI 發(fā)言人說(shuō)，現(xiàn)在 Latitude 必須使用 OpenAI 的過(guò)濾技術(shù)。

目前，Latitude 正在開始禁止曾使用帶有兒童色情內(nèi)容的玩家，OpenAI 最近發(fā)出警告之后，Latitude 也正在研究 " 必要的更改 "。

正在整改

Latitude 上周啟用了新的審核系統(tǒng)，它采用了一種新的過(guò)濾器系統(tǒng)，想要防止 GPT-3 生成 " 未成年人的性內(nèi)容 " ，但在其用戶群體中引發(fā)了大量抗議。

一個(gè)問(wèn)題是它太靈敏了。

這個(gè)系統(tǒng)有時(shí)會(huì)禁止涉及兒童或例如 " 五歲 " 等短語(yǔ)相關(guān)的故事程序的生成。

另一個(gè)問(wèn)題是它之前只管涉及成年人的虛構(gòu)性愛作品，導(dǎo)致出現(xiàn)了現(xiàn)在的 bug。

看來(lái)，未成年人的色情內(nèi)容問(wèn)題的解決的確不是那么容易。

去年有一段時(shí)間，玩家注意到 Latitude 試用過(guò)一個(gè)過(guò)濾器，會(huì)自動(dòng)將出現(xiàn)的 " 強(qiáng)奸 " 一詞替換為 " 尊重 "，但目前這個(gè)功能已經(jīng)被刪除了。

Latitude 在 4 月 27 日的公告聲明中，強(qiáng)調(diào)了發(fā)布的測(cè)試系統(tǒng)重點(diǎn)是防止使用 AI Dungeon 創(chuàng)建兒童性虐待的內(nèi)容。

而 OpenAI 的首席執(zhí)行官 Sam Altman 在一份聲明中說(shuō)：" 在某些情況下，內(nèi)容調(diào)整的決策是困難的，但這個(gè)不是。這不是我們所有人想要的 AI 的未來(lái)。"

是的，的確不是我們想要的。

Latitude 還在繼續(xù)整改和調(diào)整。

但你覺(jué)得能完全控制現(xiàn)在的局面嗎？

網(wǎng)友：GPT-3 的 " 鍋 "，還是 AI Dungeon 的 " 鍋 "？

這一系列的迷惑操作在 Latitude 社區(qū)中炸開了鍋。

有些客觀的網(wǎng)友是這樣評(píng)論的 ：

如果系統(tǒng)隨機(jī)生成這樣的故事，我會(huì)理解，但是既然是用戶特別要求這樣的故事，那么問(wèn)題不應(yīng)該出在用戶身上嗎？如果應(yīng)用相同的邏輯，那么在 Google 文檔中鍵入的任何文本也需要檢查 CP。

另外一位網(wǎng)友回復(fù)道：

區(qū)別在于：GPT-3 經(jīng)常會(huì)對(duì) " 性 " 的東西做出反應(yīng)，即使目的是非 " 性 " 的。所以，舉一個(gè)假設(shè)的例子：你輸入 " 我騎上了馬 "，它的反應(yīng)是 " 馬開始有了高潮 "（我只是在編，但關(guān)鍵是 " 騎 " 在不同的上下文中意味著不同的東西）。

還有人認(rèn)為：

老實(shí)說(shuō)，我覺(jué)得 AI Dungeon 對(duì)這件事完全不負(fù)責(zé)。人們使用技術(shù)來(lái)解決問(wèn)題，事實(shí)就是如此。對(duì)于這些戀童癖者而言，最好是通過(guò) AI 來(lái)實(shí)現(xiàn)自己的幻想，而不是真正現(xiàn)實(shí)中的孩子。

對(duì)此，另一位網(wǎng)友回復(fù)道：

如果它加深并擴(kuò)大了他們的幻想，那就是一個(gè)問(wèn)題。

細(xì)心的網(wǎng)友們還發(fā)現(xiàn)了一點(diǎn)，Latitude 在 4 月 27 日的公告聲明中，暗搓搓地提了這么一句：

"AI Dungeon will continue to support other NSFW content, including consensual adult content, violence, and profanity."

AI Dungeon 將繼續(xù)支持其他 NSFW 內(nèi)容，包括成人內(nèi)容，暴力和褻圣。

聽聽～

這不禁讓人聯(lián)想他們的潛臺(tái)詞：

我們只是遇到這件事了就緊急公共處理，但處理歸處理，其他能吸引流量的我們一個(gè)都不會(huì)落下。

所以，Latitude 是不是還想打擦邊球？

AI 游戲帶來(lái)道德倫理問(wèn)題，下一步會(huì)不會(huì)愈演愈烈？

游戲生成的道德倫理問(wèn)題可以窺視出人類內(nèi)心中的深淵。

如何負(fù)責(zé)任地設(shè)置能吸收大量互聯(lián)網(wǎng)負(fù)面文本的 AI 系統(tǒng)，儼然已成為 AI 研究的熱門話題。

這個(gè)問(wèn)題不僅會(huì)影響 Latitude，也會(huì)影響更多采用 AI 創(chuàng)新技術(shù)的公司。

治標(biāo)上，應(yīng)該控制 GPT-3 的文本生成，使得從理論上無(wú)限的句子中，僅生成那些在道德上合理，不包含偏見且沒(méi)有違反任何法律的語(yǔ)句。

而治本上，只有人類通過(guò)加深對(duì)事物的理解和道德上的規(guī)范，才可能根本性地解決。

另外，值得深思，只是監(jiān)管成人色情問(wèn)題就足夠了嗎？

AI 游戲帶來(lái)了無(wú)限想象和創(chuàng)作空間的可能性，但卻導(dǎo)致了網(wǎng)絡(luò)色情暴力的泛濫和任意生成。

在監(jiān)管過(guò)程中又持續(xù)出現(xiàn)了游戲公司和 OpenAI，游戲公司和客戶之間的對(duì)立和矛盾，如果不能加以控制，下一步更大的問(wèn)題將會(huì)繼續(xù)加劇。

這就是 AI 技術(shù)發(fā)展中不可逆轉(zhuǎn)的問(wèn)題嗎？

如何把握好 AI 場(chǎng)景創(chuàng)新和監(jiān)管規(guī)范的平衡？

這有什么更好的辦法能夠解決？

值得每一個(gè) AI 從業(yè)者深思。