Facebook的AI失控？真相是這樣的

2019-12-26 01:38:05

對於人工智慧在未來是否是個威脅，一直以後都是長久不衰的話題。相信不少人已經看過之前外國電視台採訪某個人工智慧機器人，在節目最後，有人問該機器人是否會摧毀人類，而該機器人的回答卻是讓人驚恐的——會。

這不禁讓人思考到，人工智慧真的安全嗎？

就在上個月，特斯拉CEO埃隆·馬斯克在政府某次會議上警告人工智慧必須在有效監管下發展，以防人工智慧脫離控制威脅人類安全。而Facebook的CEO馬克·扎克伯格則回應擔憂完全是顧慮。

然而，馬克·扎克伯格很快就被打臉了……因為旗下研究人員在某次人工智慧實驗時發生意外：AI失控，竟然發展出人類無法理解的語言！

1

AI失控來的太突然Facebook人工智慧研究院的科學家利用神經網路結構開發了一個人工智慧系統，讓AI機器人學會談判，因此，他們就訓練出一些聊天機器人，帶著「目的」與人類對話。人類與AI聊天不是什麼稀奇古怪的事。在試驗過程中，研究人員突發奇想，如果讓兩個聊天機器人相互對話，會發生什麼事情呢？

2

於是乎，這兩位聊天機器人就有了以下對話：一開始，研究人員以為，那麼多個「tome」，可能只是系統出BUG了。但是，當研究人員反應過來時，他們立即拔掉插頭，強行人工干預，把兩個機器人關閉。為什麼呢？因為Alice每一句中的8個「tome」，其實已完成了至少8次內容轉移，雖然我們都知道tome是什麼意思，但我們並不知道的是，Alice說的tome，究竟代指的是什麼。這些看似沒有意義的對話，對於機器人而言意義極大，每一個tome可能是代指某一樣東西，或者是一個運算，甚至有可能是一個非常龐大的資料庫。

3

Facebook緊急闢謠，真相是研究人員忘記設定用英語交流讓人啼笑皆非的是，Facebook公開回應此次「AI失控」是因為，研究人員在演算法中忘了設定使用英語交流，從而導致了此次AI的交流變成了一堆無法解讀的亂碼。而後，研究人員為此重新設定了機器人，讓機器人正確地說英語，用英語交流。而這次的試驗結果還算正常，機器人並沒有發展出自己的語言，而只是創造了新的表達方式。Facebook稱此前許多媒體報道該事有失事實，造成了不良的影響，而後Facebook也沒有「關閉」該系統，讓該試驗繼續下去，讓它變得更加聰明、可控。人工智慧近幾年確實發展非常迅速，這也是巨量資料時代下的需求。龐大的資料人工是無法處理的，因此，人工智慧的出現是非

常有必要的。至於，人工智慧在未來是否真的會威脅到人類的安全，相信，若是在有效控制發展下，應該是沒有問題的。未來如何，就讓我們拭目以待吧。

Facebook的AI失控？真相是這樣的

1

2

3

熱門文章