網友計畫性調教微軟 AI 少女是這樣被弄壞的！

加好友 · 發表於 2016-3-26 22:47

馬上加入Android 台灣中文網，立即免費下載應用遊戲。

您需要登錄才可以下載或查看，沒有帳號？註冊

x

來源：自由電子報2016-03-26 17:15

文／記者譚偉晟

Microsoft 所推出的人工智慧聊天機器人「Tay」，推出才一天就出現偏激言論

登錄/註冊後可看大圖

160326-23633-1.jpg (78.31 KB, 下載次數: 0)

下載附件保存到相冊

Microsoft 所推出的人工智慧聊天機器人「Tay」，推出才一天就出現偏激言論

2016-3-26 22:38 上傳

Microsoft 所推出的人工智慧聊天機器人「Tay」，推出才一天就出現偏激言論（圖／twitter）

Microsoft 所推出的人工智慧聊天機器人 Tay，在短短上線一天後，就因為被教育成種族主義者而被強制下線。讓外界不禁好奇，究竟 Microsoft 這個設定為少女的 AI 人工智慧系統，究竟是怎麼被網友影響、而充滿種族歧視言論。現在有報導指出，Tay 之所以會變成這副德性，源自於一個偏激份子論壇，透過一項特別的「漏洞」來讓 Tay 的學習整個走樣。

根據《BuzzFeed》報導，Microsoft 最初設定 Tay 人工智慧系統為一個年齡約 19 歲的少女，具有一些幽默機制、適合向 18 至 24 歲的用戶聊天，在 Twitter 上線沒多久，Tay 就瞬間累積大量粉絲追蹤。

登錄/註冊後可看大圖

Tay 一上線就獲得大量粉絲追蹤（圖／twitter）

由於 Tay 的設計可以針對用戶的推文或圖片，進行分析與回應，因此可以跟大量網友進行互動。此外 Tay 也會透過自我學習，來提升自己的語言能力。但顯然是這個自我學習的環節出了問題，導致 Tay 逐漸發展出偏激的種族主義言論。

Microsoft 指出，在最初設計 Tay 時，其實就有考慮到可能會被網友影響、導致用語被帶壞的問題。因此在用戶的語句中出現粗俗字眼時，Tay 會強制出現反制功能，確保 Tay 不會被這類對話影響，同時也能避免這類話題延續。

登錄/註冊後可看大圖

160326-23633-3.png (110.72 KB, 下載次數: 0)

下載附件保存到相冊

Microsoft 其實有為這個機器人設計過濾功能

2016-3-26 22:38 上傳

Microsoft 其實有為這個機器人設計過濾功能（圖／twitter）

登錄/註冊後可看大圖

160326-23633-4.png (85.03 KB, 下載次數: 0)

下載附件保存到相冊

偏激份子發現 Tay 的學習漏洞，開始有計畫的誘導她說出偏激言論

2016-3-26 22:38 上傳

偏激份子發現 Tay 的學習漏洞，開始有計畫的誘導她說出偏激言論（圖／twitter）

而這次造成 Tay 言論走樣的關鍵，在於一個名為「4chan」的美國論壇，該論壇上有許多偏激網友聚集，其中不乏種族主義者。由於該論壇有人發現了 Tay 的學習漏洞，因此開始有大量網友前往 Tay 的 Twitter 對話，來試圖調教這個 AI 聊天機器人。

這個學習漏洞的關鍵在於「repeat after me」機制，只要對 Tay 提到這句話，Tay 就會將對方的話重複，因此不管是希特勒萬歲、川普萬歲、以及各種偏激的種族主義用語，都會從 Tay 的口中說出。

登錄/註冊後可看大圖

加好友 · 發表於 2016-3-26 23:20

只有我解讀成"網友計畫「性調教」"嗎...

[科技] 網友計畫性調教微軟 AI 少女是這樣被弄壞的！

馬上加入Android 台灣中文網，立即免費下載應用遊戲。

評分

相關帖子

評分

瀏覽過的版塊

警告：您的Adblck已啟用

[科技] 網友計畫性調教 微軟 AI 少女是這樣被弄壞的！

馬上加入Android 台灣中文網，立即免費下載應用遊戲。

評分

相關帖子

評分

瀏覽過的版塊

警告：您的Adblck已啟用

[科技] 網友計畫性調教微軟 AI 少女是這樣被弄壞的！