人工智能：嚇壞創造者的「深度造假寫手」

你能從下面這兩段文字裏品味出什麼區別？

「四月間，天氣寒冷晴朗，鐘敲了十三下。」

「我坐在小汽車裏，前往西雅圖開始一份新工作。給車加油，插入鑰匙，讓它自己開。我沉入冥思，想像這會是怎樣的一天。」

第一段文字，是英國著名作家喬治·奧維爾（George Orwell）的傳世經典，政治荒誕諷刺小說《1984》開篇第一句話。

第二段文字，是把第一段文字輸入一個叫GPT2的人工智能文字編寫程序後，這個AI系統的自動續寫。

僅輸入一句話，GPT2顯然就精確的抓住了喬治·奧維爾《1984》的荒誕、壓抑、恐懼和反烏托邦的筆調，洋洋灑灑的續寫起來：

「一百年後，2045年， 我在中國一個貧窮農村地區的一所中學教書。我先開始教的是中國歷史和中國科技史......」。

「深度造假」

GPT2人工智能文字編寫程序可以寫小說，可以編新聞，可以草擬發言稿，可以發短信推文。

程序開發者給它的綽號精確的概括了它的功能：「深度假文字製造」（deepfakes for text)。

它的「造假能力」如此令人信服，程序的開發者，非營利性人工智能研究公司，開放AI( Open AI)，做出了一個不許尋常的決定：暫不公開GPT2的技術信息，以免該技術被惡意使用。

GPT2簡單概括而言，就是一個文字發生器。把文字輸入這個AI系統，可以是只言片語，也可以是大段文字，然後讓程序根據它的判斷接下來應該怎麼寫來寫作。

它產生的文字，從質量到數量到適應範圍，都遠遠超出了設計者的預期。

以假亂真

與其它類似的AI文字編寫程序相比，它沒有使用此類系統經常露出的馬腳，比如寫著寫著忘了在寫什麼，或夾雜一些莫名其妙的詞匯等。

英國《衛報》記者把該報報道英國脫歐的一些標題詞匯輸入GPT2，它寫出了這樣的一段「新聞稿」：

「當被要求對有關報道做出澄清時，梅首相的發言人說：『首相已經明確表明，她要做的是盡快完成脫歐，這在上周的女王年度施政講話中有明確授權。』」

開放AI的研究負責人阿莫迪（Dario Amodei）對《衛報》說，GPT2從兩個方面具有革命性的突破。一是它的數據儲藏能力巨大，是現有最前沿的AI文字發生器數據儲量的12倍。這使得它能更好的理解掌握寫作文風，筆法和意圖。

這也導致了它的第二個突破，即它的寫作質量和應用的廣泛性。

但正是它生產出的文字達到了真假難辨的程度，也促使開放AI公司決定暫時不公開GPT2的技術。

開放AI公司下一步將測試使用GPT2可能出現的任何結果、如何防止惡意使用。公司表示，使用AI技術的道德原則是一個全新的領域，他們還在探索之中。