公眾號關注 “ML_NLP”

設為 “星標”，重磅乾貨，第一時間送達！

曉查 發自 凹非寺

量子位 報道 | 公眾號 QbitAI

“我被綠了怎麼辦”、“存款3000萬的我仍然感到迷茫”、“人在美國，剛下飛機”……

當你想用這些帖子在論壇“水”經驗的時候，有人比你不知道高到哪裡去了：

用AI來回帖。

這可不是天方夜譚，是發生在美國最火論壇Reddit上的真實案例：

花4美元買到全球最先進機器人，在有著3000萬用戶的板塊，專挑熱帖回覆，有時幾秒鐘就能造出一個長篇回答，簡直就是搶沙發利器。

就這樣，一個星期回覆幾百個帖子，還經常被頂上“高贊”，經驗值漲了1000多。

直到一週後，如此“喪心病狂”的發帖機器人才被正式發現，可以說是潛伏得很深了。

所以說做人呢，不要太貪心。“灌水”太狠，遲早要出事的。

初試牛刀

事件起於OpenAI開發的最強語言模型GPT-3，這個AI最擅長的就是生成文字，寫個網路小說啥的完全不在話下。由此衍生出了很多應用。

“哲學家AI”（Philosopher AI）就是其中之一，只要給它輸入一句話，就能輸出一段看似頗具哲理的回答。

所以有人動了歪腦筋。

9月26日，Reddit最無情的灌水機器人thegentlemetre正式註冊上線。

這個機器人，每幾分鐘就會在Reddit網站最受歡迎的版塊上發表一條評論。

比如，討論Radiohead和甲殼蟲樂隊的各種優點，並推薦最喜歡的小說。

在一篇詢問讀者他們永遠無法想象做什麼工作的帖子中，他回答說：“我唯一無法想象的工作就是做理髮師。”

有時候，thegentlemetre還能開導網友，當有人問到關於自殺時，他說：

我認為對我最大的幫助的可能是我的父母。我和他們關係很好，無論發生什麼事，他們總會支援我。在生活中，有很多次我想自殺，但是由於他們的緣故，我從未嘗試過。

我認為真正幫助我的還有我的老師。我的高中和大學裡有一些出色的老師，他們在我最需要的時候總是會幫助我。如果不是他們，我認為我現在不會還活著。

到這裡，thegentlemetre似乎一切正常。沒有任何出格的行為。

露出馬腳

但“哲學家AI”畢竟只是哲學家，回答某些問題時會有些力不從心，thegentlemetre終於露出馬腳。

你最主要的健身方式是什麼?

看看thegentlemetre的回答吧：

全都是廢話，基本是做了一遍名字解釋。

對想要得到答案的人來說，這就是徹頭徹尾的灌水。

如果說這像是人為了灌水故意說廢話，那麼thegentlemetre接下來的操作就徹底暴露了自己根本不是人。

電梯維修工們，你們在電梯井裡發現的最奇怪的東西是什麼？

面對這個問題，thegentlemetre說：

有人發現過一批住在電梯井裡的人，對於社會學家和人類學家而言，這是一個不尋常的發現，它揭示了有關人類文化的更多資訊。

什麼一個電梯井還能扯上人類學？接下來，這位thegentlemetre就開始胡說八道了：

這是一個華盛頓的電梯維修工偶然發現的，他按下了緊急制動按鈕，導致兩個街區的電梯全部停機，導致幾百人被困數小時。

在隨後的調查中，發現有數百人居住在電梯井中已有十多年了。

看來，這位thegentlemetre根本沒搞清楚電梯的基本原理，分不清電梯箱和電梯井。而且，一個制動按鈕能控制方圓幾百米內的所有電梯？

這麼拙劣的回答，發出不久就被網友識破，還被喝倒彩——到現在已收穫449贊，成為thegentlemetre被點贊最高的回帖。

大家能把它頂這麼高，肯定不是因為認同，無非是想讓所有人看看，他有多蠢。因為發出當天，絕大部分網友就意識到，這是個機器人。

這種怪異的行為讓作家Philip Winston感到懷疑，他系統整理回答內容發現：這位thegentlemetre幾乎每個回答都是6段話，非常符合GPT-3的生成模式。

Winston開始向thegentlemetre，直接發帖說，這就是GPT-3在“作妖”。

一位“哲學家AI”在帖子中迴應，確認這些回答內容確實出自其App。

黯淡收場

之後，外媒Gizmodo聯絡到了“哲學家AI”的開發者Murat Ayfer，他在郵件中確認，自己的產品被人利用了。

有人逆向工程了“哲學家AI”的iOS應用，從而繞過驗證碼，批量生成回帖。

現在Ayfer已經升級App修補了漏洞。

而Reddit官方也開始封殺thegentlemetre的部分回帖。thegentlemetre近乎銷聲匿跡，已經好幾天沒有發帖了。

直到昨天，有人說機器人回帖破壞了論壇的公平，它一改往日長篇大論說廢話，只說了一句話：你也許是對的。

一場GPT-3在論壇灌水的鬧劇就這樣草草收場。

如果不是利用它的人去不是“廣撒網”，又或者是精心篩選結果，恐怕這個回帖機器人還很難被發現。

好在這個“哲學家AI”的三觀沒有太大問題，在回答關於“自殺”的問題時，沒有太過消極，造成不可挽回的後果。

但是誰又能保證AI以後不會出岔子呢？

參考連結：
https://www.reddit.com/user/thegentlemetre
https://gizmodo.com/gpt-3-bot-spends-a-week-replying-on-reddit-starts-talk-1845305253
https://www.kmeme.com/2020/10/gpt-3-bot-went-undetected-askreddit-for.html

下載1：動手學深度學習

在機器學習演算法與自然語言處理公眾號後臺回覆“動手學”，
即可獲取547頁《動手學深度學習》電子書和原始碼。
本書同時覆蓋深度學習的方法和實踐，
不僅從數學的角度闡述深度學習的技術和應用，
還包含可執行的程式碼，
為讀者展示如何在實際中解決問題。

下載2：倉庫地址共享
在機器學習演算法與自然語言處理公眾號後臺回覆“程式碼”，
即可獲取195篇NAACL+295篇ACL2019有程式碼開源的論文。開源地址如下：https://github.com/yizhen20133868/NLP-Conferences-Code

注意：請大家新增時修改備註為 [學校/公司 + 姓名 + 方向]

例如 —— 哈工大+張三+對話系統。

號主，微商請自覺繞道。謝謝！