微軟重金懸嘗找 AI 的 Bugs [iThome]

AI也要抓漏，微軟AI Bug Bounty Program上線

微軟周四（10/12）公布了新的抓漏計畫，這是鎖定AI臭蟲的Microsoft AI Bug Bounty Program，獎金從2,000美元到1.5萬美元不等，首個抓漏的產品為具備AI能力的Bing。

現有的抓漏範圍圍繞在所有整合AI的Bing體驗，包括利用各種瀏覽器造訪Bing.com時所體驗的Bing Chat、Bing Chat for Enterprise及Bing Image Creator；或是在Windows版Microsoft Edge使用整合AI的Bing功能，包括Bing Chat for Enterprise在內；以及iOS及Android上Microsoft Start Application所整合的Bing；或是iOS及Android上Skype Mobile Application整合的Bing。

與AI系統相關的安全漏洞涵蓋了推論操縱（Inference Manipulation）、模型操縱（Model Manipulation）及推論資訊揭露（Inferential Information Disclosure），像是可注入指令導致模型偏離其預期行為，或是可干擾有效輸入而令模型產生錯誤輸出，或是可竄改模型架構、訓練程式碼、訓練資料或超參數來毒害模型，或是可自訓練資料集中重建個人資料紀綠等。

不過，只有被微軟AI漏洞分類系統（Microsoft Vulnerability Severity Classification for AI Systems）視為重要（Important）或重大（Critical）等級的安全漏洞才符合申請資格。

根據微軟日前所公布的年度抓漏成果，自去年7月1日到今年6月底之間，微軟總計祭出了17個抓漏計畫，來自全球逾45個國家的345個安全研究人員，總計提交了1,180個符合資格的漏洞報告，獲得了1,380萬美元的獎金，最高的一筆抓漏獎金為20萬美元。



請到iThome看原文： https://www.ithome.com.tw/news/159254

(包括在 Windows 11 內的 AI 軟體)