You are currently at: ejtech.hkej.com
Skip This Ads
Don't Miss

科技界警告AI風險如核戰 數百巨頭聯署 促全球共商規則

By on June 1, 2023

原文刊於信報財經新聞「StartupBeat創科鬥室

阿爾特曼呼籲成立類似IAEA的權威組織,以監管國際之間的AI發展。(法新社圖片)

人工智能(AI)發展突飛猛進,監管法規未能跟上,專家警告,這項技術或衍生嚴重安全風險,甚至導致人類滅絕。超過350名從事AI工作的科學家與科技巨擘高層,在人工智能安全中心(Center for AI Safety)網站聯署,促請各國關注AI對人類帶來的潛在威脅,強調相關風險不遜於核戰及新冠病毒,是全球的頭等大事。

公開信簽署人士包括多間領先AI公司的高層,包括OpenAI行政總裁阿爾特曼(Sam Altman)、Alphabet子公司DeepMind行政總裁兼創辦人哈薩比斯(Demis Hassabis),以及Anthropic行政總裁阿莫迪(Dario Amodei),還有「人工智能教父」辛頓(Geoffrey Hinton)、微軟科技總監霍維茨(Eric Horvitz)等數百人。

公開信簽署人士包括多間領先AI公司的高層。(設計圖片)

OpenAI倡設監管組織

人工智能安全中心總部設於美國三藩市,網站提出多個可能發生的災難情景。首先AI可被武器化,以藥物發現工具為例,能用來製造化學武器;其次,AI生成的錯誤訊息,足以影響意識形態,有機會破壞社會穩定。當AI力量集中在少數人手上,政權通過無處不在的監視與審查,從而執行狹隘的價值觀。此外,當人類把更多重要任務都委託AI代為處理,逐漸失去自理能力,完全依賴機器生活。

為商討AI風險及監管事宜,美國副總統賀錦麗在5月初與Google、微軟、OpenAI及Anthropic等科企高層會面,提醒企業開發AI技術時,毋忘道德法律責任。其後,阿爾特曼、布羅克曼(Greg Brockman)及蘇茨克維(Ilya Suskever)等多位OpenAI聯合創辦人,呼籲成立類似「國際原子能機構」(IAEA)的權威組織,作為監管「超級智能」AI的藍圖。

超過350名AI專家在人工智能安全中心網站聯署。(網上圖片)

港府已制定技術指引

生成式人工智能(Generative AI)出現後,網上經常瘋傳不實資訊,例如美國國防部爆炸的偽造相片,足以引起市場恐慌。谷歌母公司Alphabet行政總裁皮采(Sundar Pichai),上周與歐盟內部市場專員布雷東(Thierry Breton)會面,雙方同意須盡快就規管AI制定規則。微軟總裁史密斯(Brad Smith)向路透坦言,他對AI最大擔憂是深度造假(Deep Fake),貌似逼真但內容是虛構的。

談到AI對本港社會、教學研究及經濟結構的影響,創新科技及工業局局長孫東昨書面答覆立法會議員林琳時指出,互聯網世界並非無法可依,政府制定了《人工智能道德框架》,為各政府決策局與部門推行應用AI技術項目時提供指引,識別和管理有關項目的潛在風險及其他事項,例如個人私隱、數據安全及管理等。他強調,政府會參考不同地區做法,擁抱AI科技帶來的種種機遇與挑戰。

孫東強調,政府會參考不同地區做法,擁抱AI科技帶來的種種機遇與挑戰。(中新社資料圖片)

支持EJ Tech

如欲投稿、報料,發布新聞稿或採訪通知,按這裏聯絡我們