160326-23633-1.jpg (78.31 KB, 下載次數: 2)
Microsoft 所推出的人工智慧聊天機器人「Tay」，推出才一天就出現偏激言論
2016-3-26 22:38 上傳
Microsoft 所推出的人工智慧聊天機器人「Tay」，推出才一天就出現偏激言論（圖／twitter）
Microsoft 所推出的人工智慧聊天機器人 Tay，在短短上線一天後，就因為被教育成種族主義者而被強制下線。讓外界不禁好奇，究竟 Microsoft 這個設定為少女的 AI 人工智慧系統，究竟是怎麼被網友影響、而充滿種族歧視言論。現在有報導指出，Tay 之所以會變成這副德性，源自於一個偏激份子論壇，透過一項特別的「漏洞」來讓 Tay 的學習整個走樣。
根據《BuzzFeed》報導，Microsoft 最初設定 Tay 人工智慧系統為一個年齡約 19 歲的少女，具有一些幽默機制、適合向 18 至 24 歲的用戶聊天，在 Twitter 上線沒多久，Tay 就瞬間累積大量粉絲追蹤。
Tay 一上線就獲得大量粉絲追蹤（圖／twitter）
由於 Tay 的設計可以針對用戶的推文或圖片，進行分析與回應，因此可以跟大量網友進行互動。此外 Tay 也會透過自我學習，來提升自己的語言能力。但顯然是這個自我學習的環節出了問題，導致 Tay 逐漸發展出偏激的種族主義言論。
Microsoft 指出，在最初設計 Tay 時，其實就有考慮到可能會被網友影響、導致用語被帶壞的問題。因此在用戶的語句中出現粗俗字眼時，Tay 會強制出現反制功能，確保 Tay 不會被這類對話影響，同時也能避免這類話題延續。
160326-23633-3.png (110.72 KB, 下載次數: 2)
Microsoft 其實有為這個機器人設計過濾功能
2016-3-26 22:38 上傳
Microsoft 其實有為這個機器人設計過濾功能（圖／twitter）
160326-23633-4.png (85.03 KB, 下載次數: 3)
偏激份子發現 Tay 的學習漏洞，開始有計畫的誘導她說出偏激言論
2016-3-26 22:38 上傳
偏激份子發現 Tay 的學習漏洞，開始有計畫的誘導她說出偏激言論（圖／twitter）
而這次造成 Tay 言論走樣的關鍵，在於一個名為「4chan」的美國論壇，該論壇上有許多偏激網友聚集，其中不乏種族主義者。由於該論壇有人發現了 Tay 的學習漏洞，因此開始有大量網友前往 Tay 的 Twitter 對話，來試圖調教這個 AI 聊天機器人。
這個學習漏洞的關鍵在於「repeat after me」機制，只要對 Tay 提到這句話，Tay 就會將對方的話重複，因此不管是希特勒萬歲、川普萬歲、以及各種偏激的種族主義用語，都會從 Tay 的口中說出。
160326-23633-5.png (181.82 KB, 下載次數: 2)
當中的關鍵就是要 Tay 重複用戶的對話內容
2016-3-26 22:38 上傳
當中的關鍵就是要 Tay 重複用戶的對話內容（圖／twitter）
儘管 Tay 可能會在第一時間試圖反抗，但接著她馬上就會跟隨對方的語句照念。而這也是造成 Tay 說出大量不堪言論的重要關鍵，愈來愈多的種族主義者透過這種方式，讓 Tay 不斷復述偏激言論。
另外一個漏洞，就是 Tay 會將網友的圖片中的臉孔圈起來，並且搭配上相同意思的語句。這讓美國總統候選人川普、希特勒都成為網友把玩的影像。這個狀況就像滾雪球一樣大量出現在 Tay 的 Twitter 上，由於偏激言論不斷延燒、事態發展到大家都注意到，最終導致 Tay 的 Twitter 服務宣布關閉。
160326-23633-6.png (213.46 KB, 下載次數: 2)
Tay 可以結合圖片和文字的功能，也被網友拿來惡搞
2016-3-26 22:38 上傳
Tay 可以結合圖片和文字的功能，也被網友拿來惡搞（圖／twitter）
報導指出，Microsoft 也曾推出類似的聊天機器人在其他國家，像是在中國的「小冰」，但都沒有發生像 Tay 在美國上線時這樣的狀況。目前 Microsoft 仍在調整 Tay 的機制，暫時還無法得是這個 AI 聊天機器人復出的時間。
作者: yixian1688 時間: 2016-3-26 23:20
只有我解讀成"網友計畫「性調教」"嗎...
| 歡迎光臨 Android 台灣中文網 (https://apk.tw/) | Powered by Discuz! X3.1 |