暴走AI 有請醫師來把脈

14

編譯/潘楠慕
人工智慧(AI)已成當前顯學,相關技術不斷提升。在許多領域,AI都可提供幫助,例如工廠、醫療、居家生活。然而,AI愈來愈「聰明」,甚至具有自主性,也引發疑慮,如果強大的人工智慧失控,行為偏差,人類該如何應對?
針對這項憂慮,堪薩斯州立大學(KSU)的研究人員提出一項大膽但相當有趣的理論:既然人工智慧是模擬人類,那用在人類身上有效的精神病理學,是否可在調整後,用來治療或是矯正有問題的AI?
這個論點乍聽之下相當怪異,但絕非無的放矢。根據堪薩斯州立大學研究團隊的論文,人類認知具有的適應機制,提供快速適應動態環境的獨特技巧,但也導致人類容易罹患創傷後壓力症候群(PTSD)、憂鬱症等精神疾病。但目前的開發者,目標正是讓通用人工智慧(AGI,又稱強人工智慧)擁有與人類相同的認知機制,這也代表將來AGI不僅能夠自主適應環境,同時也可能出現和人類相同的認知障礙或精神疾病。
研究人員說明,設計AI時,是希望它能以報酬最大化「wireheading」為準則,也就是不惜動用任何可得的資源,以達成目的,然而,這種行為模式,其實和人類的妄想症或是成癮行為相似。
另外,以強化學習(RL)為目的AI開發過程,如果設定為無法達成目標將遭受懲罰和壓力,就和人類學習或工作時相同,AI也可能會出現有如人類身上的憂鬱症,或者PTSD行為障礙。
一些科學家曾經示警,如果AI過度聰明,且擁有學習能力和自我意識,可能成為人類的威脅。這些風險不僅是取代人類的工作,更可怕的是有如科幻電影中,具備自主意識,為了自我保護不惜傷害人類生命。
對於這項隱憂,研究人員早有防範,最基本的作法就是在開發AI時,加入絕對不可傷害人類的指令,並且須接受人類監控。
關於AI安全的研究,目前多數以安全意識設計和緩解技術(mitigation techniques)為主。但以AGI的複雜性和強大潛力而言,難保未來不會出現難以預期的狀況,也讓相關分析日益困難。
因此,KSU採取不同的角度,以診斷和治療的方式修復AI的行為偏差。參考人類的精神病理學(Psychopathology)研究,運用類似的架構或模式,為生病的AI提供幫助。
如果能把AI的「精神障礙」建立模型並進行驗證,未來人類便能診斷出AI的不當或失控行為,並找出系統性的治療方法來解決問題。
目前AI的進展僅到達輔助性的弱人工智慧,例如工廠自動化設備或是自駕車;科學家希望有朝一日創造真正的通用人工智慧,並且事先考慮如何管控,不讓人工智慧系統淪為不良行為的受害者,也不讓人類受到失敗或惡意的人工智慧傷害,確保通用人工智慧能夠造福全人類。
AI員工也會失業
瑞典網銀開除艾美莉亞
人工智慧(AI)擁有強大的運算力,不會疲累,不會抱怨,在許多領域都可能是取代人類。瑞典一家網路銀行原本也「聘用」了一名AI員工艾美莉亞(Amelia),但最近這家銀行卻決定將她開除,原因是她的表現不如預期。
這個結果也顯示,AI雖然優秀,但目前人類仍有許多特點是AI無法取代。
瑞典知名的網路銀行Nordnet去年夏天讓艾美莉亞開始工作,號稱可以辨識一百多種語言和簡短對話,轟動一時。但這家網銀現在決定開除唯一的AI員工,理由是她的業績不佳。
Nordnet執行長達爾葛林(Peter Dahlgren)表示:「艾美莉亞的職責和一般員工相同,我們原本想讓她處理開戶等需要花費大量時間的重複性工作,以加快業務辦理速度並提升銀行的服務滿意度,但她並未做到。艾美莉亞是我們提供給客戶的新體驗,但反應平平,並沒有壓倒性的佳評。因此,我們可能會把AI技術應用在其他業務。」
艾美莉亞是二○一七年美國科技公司IPsoft推出的人工智慧系統,這家公司由紐約大學教授杜伯(Chetan Dube)創立,過去二十年來持續創新,開發全球頂尖的AI系統。艾美莉亞被認為是世界最好的AI系統之一,目前被五十多家公司應用在醫療和金融領域。
IPSoft公司稱,艾美莉亞可以識別多種語言,協助人類進行廣泛的教學,即使遇上無法解決的問題,也會把任務升級為請求人類同事協助,然後觀察並從中學習。
另一家瑞典銀行SEB銀行導入艾美莉亞系統,業績獲得顯著提升。然而,Nordnet網銀引進艾美莉亞後,支出不減反增,去年該公司的營業利益為二點五億瑞典克朗,是該公司自二○一二年來最差表現。
雖然Nordnet網銀和艾美莉亞的賓主關係不理想,但整體而言許多企業仍看好AI技術的前景。麥肯錫研究公司的研調顯示,AI投入商業應用,可以協助員工提升四成的工作效率。另據調查,約有八成的決策人員認同AI能增加員工效率。
Nordnet銀行的狀況顯示,人工智慧也可能和人類一樣,面臨「失業」危機。只要業績、表現不如預期,便可能被更強大、更聰明的AI技術取代。
智慧家庭愈先進 安全疑慮也加深
愈來愈多人在住家採用人工智慧(AI)系統,打造所謂的「智慧家庭」。包括網路門鎖、智慧音箱、溫度調節裝置、燈光以及智慧門鈴、安全監控攝影機等。
這些設備確實為生活帶來許多便利,也日益受到歡迎。市場研究機構據Juniper Research報告指出,二○一七年智慧家庭硬體裝置與服務的營收達八百三十億美元,二○二一年時將成長為三倍。然而,有心人士透過這些裝置進行騷擾、監視、報復和控制等不當行為的案例,正不斷增加。
智慧家庭的原意,是透過網路遠端控制住家的各項設備,並保障居住者的安全和隱私。一旦遭到濫用,這項技術反而成為家暴或犯罪者的工具。
據紐約時報報導,一名受害者宣稱自家的電子鎖每天都會更換密碼,無計可施。還有人向援助機構求救,表示自家的燈光遭到控制,使她不堪其擾。美國終結家暴網的主管歐森(Erica Olsen)指出,智慧家庭裝置相關的家暴案件數量持續增加,且受害者以女性居多,令人憂心。
適當運用AI,有助防治與打擊犯罪,但物聯網(IoT)的便利同時也成為犯罪的途徑。智慧家庭的各項裝置都相互通連,只要其中一項被入侵,其他裝置都可能被駭。
數位權益團體電子前沿基金會(Electronic Frontier Foundation)安全主管加佩林(Eva Galperin)表示,許多受害者並不清楚如何被入侵,也無從防備。此外,相關的法律目前並不完整,也可能形成犯罪者的漏洞。
網路安全公司指出,物聯網充滿弱點,隨著民眾家中連網裝置數的持續增加,資安威脅的風險也不斷升高。駭客的攻擊手法不僅多變,且攻擊對象範圍也持續擴大,甚至可能挾持連網裝置轉而攻擊他人。
家庭物聯網興起勢不可擋,但擁抱最新技術的同時,除了當局需成立監管機構,制定這些裝置的安全和規範,使用者也須謹慎。有鑑於此,資安公司呼籲智慧家庭使用者,應該求助專業人士阻斷駭客攻擊路徑,定期更換防護密碼,更新及升級軟硬體,才能降低網路安全狀況的威脅。

分享: