人工智慧是危機還是轉機？ 機器人公司CEO給反對者的回應

Boris Sofman 是消費者機器人公司 Anki 的聯合創始人兼 CEO。

自動駕駛的汽車終有一天會撞到人。關於這一點沒有人有疑問。我們正在突破機器人和人工智慧（AI）的極限，使它們有可能為人類做出更大的貢獻。這項技術已經走出科學和研究的實驗室，開始幫助各項古老和新興的產業取得進展。但是如果機器人失誤使人致死，那該怎麼辦？即將到來的這個時代是人類的黃金時代，還是我們將會被人工智慧吞噬的時代？

比爾蓋茲（Bill Gates）、伊隆．馬斯克（ Elon Musk ）和史蒂芬．霍金（Stephen Hawking）曾公開表明，人工智慧將是人類所面臨的最大威脅。當今最傑出的幾位天才都擁有相同的觀點，這一點令人無法忽視。他們指出，儘管無法否認機器人和人工智慧的進步所帶來的極大好處，但是，他們擔心，這些獲得了認知能力的機器將會直接而有意地與人類的最大利益相左。這些人似乎都接受了一個事實，那就是，《終結者》（The Terminator）並非只存在於銀幕上。



我想對比爾、伊隆和史蒂芬，以及在那封警告人工智慧將給我們帶來可怕後果的公開信上簽名的用心良苦的人說：我們並非註定會被機器人所統治。沒錯，我們無法避免自動駕駛的汽車終有一天會撞到人——但這並非一個有意的狡猾行為，而是感測器發生了故障，或者錯誤地估算了當時的一些不可預見的因素。儘管結果非常殘酷，但是這在本質上，卻與由於評估邏輯沒有捕捉到一些細微差別而下了一子壞棋的國際象棋程式沒有什麼差別。當然，這並不會降低傷亡的人數，但是它和我們在採用任何一項新技術時所承擔的風險並無二致——它並非一個改變遊戲規則、並將終結人類歷史的奇點。



為了更好地評估這類複雜的威脅，我們必須深入地瞭解幾乎所有現代人工智慧的工作方法。儘管聽起來不是很光彩，但是幾乎每一種應用程式都可以簡單地看成是一個優化的問題，其任務便是在一個特定的問題展示中，找出成本最低或者回報最大的一種解決方法。這種級別的人工智慧沒有魔力，也沒有感情。其目的非常簡單，就是找到一種與我們對智力的看法相一致的最佳解決方案。舉個例子，自動駕駛的汽車會按照最低風險或者最短路徑選擇一條行車路線，而一種對影象進行分析的電腦視覺演算法之所以會在路上發現一隻貓，是因為在將數百萬畫素的影象資料進行分析後，發現這些資料與貓更加匹配，從而確定這是一隻貓，而不是別的什麼。

即使現今炙手可熱的「深度學習」系統，也只不過在結構上更接近人類大腦中的神經元，而不是他們「學習」的方式。結果，除了一些真正匪夷所思的應用程式之外，掩蓋在這種方法的外觀之下的，只是另外一個優化的問題，是針對一組訓練資料的模式匹配。

那種依靠影象內容進行分析的程式，並不比那種下出一招妙棋的國際象棋程式，或者是使自動駕駛的汽車避開車輛和行人的程式，更加清楚自己的目的。這些系統並不能像我們一樣地真正「思考」——它們的方式，是按照我們人類在那種情形下的意圖，對一個問題給出最優的解決方案。而由於有些問題不可避免地會非常複雜，人工智慧系統仍然只是在程式設計師設定的特殊技能組合的基礎上，完成一些線性任務而已。



那麼結果便是，儘管死於機器人之手和死於自動駕駛的汽車車輪之下可能聽起來非常恐怖，但是我們有必要提醒自己，每年有成千上萬的人死於車禍。儘管每一輛汽車的方向盤後面坐著個人，會使我們感到安心，但是假如馬路上的汽車都由機器人駕駛的話，我們其實更加安全。當自動駕駛的汽車的優點遠遠超過那些安全因素時，我們的每日通勤、城市規劃、甚至是重塑整個產業的瞬息萬變的價格動態的效率將會大大提高——我們也將不再害怕，因為它們就跟我們的一臺個人電腦一樣。

機器人和人工智慧的真正風險在於，如何使這些科技避免被人類不當使用。正如在核能和核武器之間有一條細細的分界線一樣，機器人和人工智慧的新發展為濫用提供了新的無限可能：致命的軍事用途、大大增強的監控能力，以及駭客為了邪惡目的而攻擊這些複雜的系統。但是，我們在認識到這些風險、並為這些隨之而來的挑戰做好準備的同時，也不應該忘記它們對人類的能力、效率以及生活品質所帶來的不可思議的好處。

蓋茲、馬斯克和霍金對未來的廣闊前景抱謹慎態度，這是對的。但是他們弄錯了威脅所在，因為人類的意圖往往比他們所發明的機器要危險得多。沒錯，我們只要輕輕一點手指，就可以擁有過去只存在於科幻小說中的那些不可思議的科技，但仍然有一些只存在於低階漫畫和電影之中的概念——有自我意識且討厭人類的機器人殺手便是其中的一種。

轉載卡提諾論壇