20180915-劉世忠：當人工智慧被用來殺人
劉世忠：當人工智慧被用來殺人
2018-09-15
Google日前宣布停止與美國國防部合作的無人機應用專案，但卻無法停止AI持續被運用在軍事方面。（取自Pixbay）
Google員工不滿公司與國防部合作的無人機應用專案，認為此專案可能助長戰爭，增加死傷。Google因此不再與國防部續簽Project Maven合約，但AI用於軍事的趨勢很難停止
「人工智慧」（AI）是未來先進科技發展主流，但當AI科技可能被用於製造更具殺傷力和致命性的軍事武器之戰爭用途時，它同時也開啟更多有關人類價值的辯證。
今年六月，Google宣布不再與美國國防部續約，提供AI技術的合作，舊的合約執行到明年三月即中止。此一決定起源於Google員工對於公司與國防部合作名為Project Maven的無人機應用專案表達不滿，多名資深員工憤而離職表示抗議，四千多名員工連署要求公司停止與國防部的合作，咸認此專案可能助長戰爭，增加死傷。
Project Maven是將AI技術應用在提升無人機的攻擊力，尤其是增強圖像分析的準確性。Google還將開發機器學習演算法，協助美國國防部進行監控工作。許多頂尖的人工智慧技術專家憂慮這次合作，將成為戰爭武器運用AI技術擴大傷亡的第一步，而且可能侵犯人民隱私權。
中、俄投注大量資金於軍事AI
Google執行長皮蔡（Sundar Pichai）一度親自站上火線滅火，提出「四不」原則：不違反國際技術公約、國際法與人權原則等，以及不會用在「直接導致人類被傷害的武器與技術」上。他也澄清，Google沒有開發專用於武器的AI技術，仍會繼續與美軍保持合作，但只會將技術運用在網路安全、人才培訓、醫療保險與搜救。Google最終的決定讓公司損失上千萬美元的營利，但對公司形象與內部反彈做出損害管控。
Google執行長皮猜（Sundar Pichai）（美聯社）
Google執行長皮蔡（Sundar Pichai）宣布不再與國防部續簽Project Maven合約。（美聯社）
但Google不再與國防部續簽Project Maven合約，是短期危機管理，抑或是真的不再涉入軍事安全領域的決策過程，仍有待後續觀察。但未來科技公司與軍事部門的合作恐怕很難停止，主要原因在於：你的對手或敵人也在運用AI技術強化其軍事安全能力。
例如，中國已經宣示將於二○二五年之前，每年投入六百億美元於AI的軍事安全技術。由於AI能夠分析大量數據，並提出建議的演算模式供決策，高盛集團（Goldman Sachs）估計，北京可以在二○年以前，掌握全球四分之一有關軍事安全的大數據資料。
中國近年軍事發展快速，美國曾在軍事報告中提出，中國已產生威脅。（取自中國軍事網）
俄羅斯更是早就運用AI進行「不對稱政治戰爭」的箇中好手。總統普丁（Vladimir Putin）表示，誰掌控AI，誰就能統治世界；加拿大、英國也投注大筆資金用於AI提升國家安全，以及防堵恐怖組織攻擊；以色列、南韓、新加坡更不遑多讓。
人民不信任政府運用AI
美國在現階段仍執AI技術的領先地位，從一六年歐巴馬（Barack Obama）時代建構全面性的AI與國防安全戰略，到川普（Donald Trump）政府更雄心勃勃欲用於太空科技的升級，美國國防部與中央情報局（CIA）手上有上百個AI專案計畫正在進行，包括與前述Google的合作案。
未來的戰爭是否成為機器人主導的作戰？又或者早在按下飛彈按鈕之前，AI早已經協助決策者過濾可能的人為誤判？甚而藉由機器人的輔助來處理高危險性質的作戰，反而可以減少軍人的傷亡？但為了達成戰事的精準度與勝利而引進AI科技，又必須犧牲多少個人隱私與自由，甚至可能殃及更多無辜生命？
這裡所引發的當然是國家安全與人類價值孰重孰輕的長年論辯。上個月，美國華府智庫布魯金斯研究院（Brookings Institution）先進科技發展中心完成一份全國性民意調查報告，主題就是有關「是否支持運用AI於戰爭」。三○％認為AI應該用於發展戰爭技術的提升，三九％反對。但若是追問：如果美國的敵人與對手也使用AI做為軍事武器用途時，四五％受訪者認為，美國應該強化AI用於軍事作戰，反對比例則降至二五％。
但被問到AI的使用是否應該建立在人類價值之上時，六二％民眾贊成，只有兩成反對。
最為分歧的問題是「誰能決定運用AI技術於軍事用途」，一半的美國民眾表示不知道，近兩成表示應由人民決定，一成認為應交給專業的私人企業判斷，信任國會議員或法院者比例更少。可見在社會裡由誰來決定運用AI於可能增加死傷的戰爭武器，仍處於很大的爭辯，但對於政府的信任感仍低是不爭的事實。因此，另一項有關應該「建立道德監督機制」的問題，就獲得近七成民眾的支持。
一場另類科技軍備競賽箭在弦上
就算Google與美國國防部的AI合作案胎死腹中，AI與軍事安全的連結只會向前走！在可以想見的未來，愈來愈多軍事運輸載具將被機器控制，過去軍事強國所享有的優勢，可能必須面臨小國或是恐怖組織藉由AI科技所開啟的新挑戰。更遑論AI科技若是運用在網路戰爭，可以透過駭客攻勢來干擾、癱瘓對手的國防系統，傳播錯誤訊息來有效打擊對手弱點。反過來說，AI、機器學習、臉部辨識、大數據分析，也能提供對手行為與決策模式的分析與破解。
一場以AI科技為主的另類科技軍備競賽，已經箭在弦上。
＊作者為外貿協會副董事長，本文原刊《新新聞》第1645期，授權轉載。
2018-09-15
Google日前宣布停止與美國國防部合作的無人機應用專案，但卻無法停止AI持續被運用在軍事方面。（取自Pixbay）
Google員工不滿公司與國防部合作的無人機應用專案，認為此專案可能助長戰爭，增加死傷。Google因此不再與國防部續簽Project Maven合約，但AI用於軍事的趨勢很難停止
「人工智慧」（AI）是未來先進科技發展主流，但當AI科技可能被用於製造更具殺傷力和致命性的軍事武器之戰爭用途時，它同時也開啟更多有關人類價值的辯證。
今年六月，Google宣布不再與美國國防部續約，提供AI技術的合作，舊的合約執行到明年三月即中止。此一決定起源於Google員工對於公司與國防部合作名為Project Maven的無人機應用專案表達不滿，多名資深員工憤而離職表示抗議，四千多名員工連署要求公司停止與國防部的合作，咸認此專案可能助長戰爭，增加死傷。
Project Maven是將AI技術應用在提升無人機的攻擊力，尤其是增強圖像分析的準確性。Google還將開發機器學習演算法，協助美國國防部進行監控工作。許多頂尖的人工智慧技術專家憂慮這次合作，將成為戰爭武器運用AI技術擴大傷亡的第一步，而且可能侵犯人民隱私權。
中、俄投注大量資金於軍事AI
Google執行長皮蔡（Sundar Pichai）一度親自站上火線滅火，提出「四不」原則：不違反國際技術公約、國際法與人權原則等，以及不會用在「直接導致人類被傷害的武器與技術」上。他也澄清，Google沒有開發專用於武器的AI技術，仍會繼續與美軍保持合作，但只會將技術運用在網路安全、人才培訓、醫療保險與搜救。Google最終的決定讓公司損失上千萬美元的營利，但對公司形象與內部反彈做出損害管控。
Google執行長皮猜（Sundar Pichai）（美聯社）
Google執行長皮蔡（Sundar Pichai）宣布不再與國防部續簽Project Maven合約。（美聯社）
但Google不再與國防部續簽Project Maven合約，是短期危機管理，抑或是真的不再涉入軍事安全領域的決策過程，仍有待後續觀察。但未來科技公司與軍事部門的合作恐怕很難停止，主要原因在於：你的對手或敵人也在運用AI技術強化其軍事安全能力。
例如，中國已經宣示將於二○二五年之前，每年投入六百億美元於AI的軍事安全技術。由於AI能夠分析大量數據，並提出建議的演算模式供決策，高盛集團（Goldman Sachs）估計，北京可以在二○年以前，掌握全球四分之一有關軍事安全的大數據資料。
中國近年軍事發展快速，美國曾在軍事報告中提出，中國已產生威脅。（取自中國軍事網）
俄羅斯更是早就運用AI進行「不對稱政治戰爭」的箇中好手。總統普丁（Vladimir Putin）表示，誰掌控AI，誰就能統治世界；加拿大、英國也投注大筆資金用於AI提升國家安全，以及防堵恐怖組織攻擊；以色列、南韓、新加坡更不遑多讓。
人民不信任政府運用AI
美國在現階段仍執AI技術的領先地位，從一六年歐巴馬（Barack Obama）時代建構全面性的AI與國防安全戰略，到川普（Donald Trump）政府更雄心勃勃欲用於太空科技的升級，美國國防部與中央情報局（CIA）手上有上百個AI專案計畫正在進行，包括與前述Google的合作案。
未來的戰爭是否成為機器人主導的作戰？又或者早在按下飛彈按鈕之前，AI早已經協助決策者過濾可能的人為誤判？甚而藉由機器人的輔助來處理高危險性質的作戰，反而可以減少軍人的傷亡？但為了達成戰事的精準度與勝利而引進AI科技，又必須犧牲多少個人隱私與自由，甚至可能殃及更多無辜生命？
這裡所引發的當然是國家安全與人類價值孰重孰輕的長年論辯。上個月，美國華府智庫布魯金斯研究院（Brookings Institution）先進科技發展中心完成一份全國性民意調查報告，主題就是有關「是否支持運用AI於戰爭」。三○％認為AI應該用於發展戰爭技術的提升，三九％反對。但若是追問：如果美國的敵人與對手也使用AI做為軍事武器用途時，四五％受訪者認為，美國應該強化AI用於軍事作戰，反對比例則降至二五％。
但被問到AI的使用是否應該建立在人類價值之上時，六二％民眾贊成，只有兩成反對。
最為分歧的問題是「誰能決定運用AI技術於軍事用途」，一半的美國民眾表示不知道，近兩成表示應由人民決定，一成認為應交給專業的私人企業判斷，信任國會議員或法院者比例更少。可見在社會裡由誰來決定運用AI於可能增加死傷的戰爭武器，仍處於很大的爭辯，但對於政府的信任感仍低是不爭的事實。因此，另一項有關應該「建立道德監督機制」的問題，就獲得近七成民眾的支持。
一場另類科技軍備競賽箭在弦上
就算Google與美國國防部的AI合作案胎死腹中，AI與軍事安全的連結只會向前走！在可以想見的未來，愈來愈多軍事運輸載具將被機器控制，過去軍事強國所享有的優勢，可能必須面臨小國或是恐怖組織藉由AI科技所開啟的新挑戰。更遑論AI科技若是運用在網路戰爭，可以透過駭客攻勢來干擾、癱瘓對手的國防系統，傳播錯誤訊息來有效打擊對手弱點。反過來說，AI、機器學習、臉部辨識、大數據分析，也能提供對手行為與決策模式的分析與破解。
一場以AI科技為主的另類科技軍備競賽，已經箭在弦上。
＊作者為外貿協會副董事長，本文原刊《新新聞》第1645期，授權轉載。
留言
張貼留言