You are currently at: ejtech.hkej.com
Skip This Ads
Don't Miss
Home   >   市場消息   >   逾千名人籲暫停研更強AI 公開信促定安全協議免競賽失控

逾千名人籲暫停研更強AI 公開信促定安全協議免競賽失控

By on March 30, 2023

原文刊於信報財經新聞「StartupBeat創科鬥室」

人工智能（AI）發展一日千里，生成式AI近期更是炙手可熱，同時也引起各界警惕。全球有千多位名人，包括行政總裁（CEO）及知名學者等聯署一封公開信，敦促所有AI實驗室至少6個月內，暫停訓練比GPT-4更強大的AI系統。一些科技界猛人也有份聯署，包括SpaceX、Tesla及Twitter行政總裁馬斯克（Elon Musk）、蘋果聯合創辦人沃茲尼克（Steve Wozniak）等，昨天截稿前已有1123人簽名支持。

爭取半年時間完成檢視

這封公開信由Future of Life Institute起草，內容指最近幾個月AI實驗室陷入一場失控的競賽，試圖開發及部署日趨強大的數碼思維，甚至連創造它們的人亦無法理解、預測或可靠地控制。除了「停一停、諗一諗」，亦建議由獨立專家嚴格監督，把握時間開發一套安全協議，必要時要求政府介入。

馬斯克等逾千名學者及CEO等聯署公開信，敦促所有實驗室暫停訓練AI至少6個月。（網上圖片）

馬斯克為公開信簽署者之一，他在今年2月曾公開警告，AI是未來文明「最大風險之一」；其後，更批評ChatGPT開發組織OpenAI已成為一間由微軟控制、只為牟利的封閉公司，跟他當年參與創立時的方針背道而馳。最近馬斯克在Twitter發文，直指微軟創辦人之一的蓋茨（Bill Gates）對AI理解有限。

英國政府昨發表首份人工智能產業白皮書，指監管機構應考慮5條明確原則，分別為安全、保障和穩健性，透明度和可解釋性，公平，問責制和治理，可競爭性和補救。

馬斯克在今年2月曾公開警告，AI是未來文明「最大風險之一」。（法新社資料圖片）

英白皮書提政策五原則

當局擬斥資200萬英鎊推出全新沙盒，讓企業進入市場前先試驗AI產品及服務。官方數據指出，AI是未來五大技術之一，業界僱用了5萬多人，去年為經濟貢獻37億英鎊（約358億港元）。

各地政府已開始為AI產業專項立法，內地去年11月實施的《深圳經濟特區人工智能產業促進條例》，要求政府設立專門治理機構，深化AI技術倫理、安全風險等研究。官方數據指出，中國AI核心產業規模超過4000億元人民幣，深圳現擁有1300多間AI相關企業，數量位居全國第二。

生成式AI近期炙手可熱，同時也引起各界警惕。（微軟Bing網上圖片）

歐盟於2021年4月發布《人工智能法案》草案，惟至今尚未通過。美國去年2月提出《2022年算法責任法案》草案，要求AI公司評估演算法風險，現仍在國會審議中。此外，白宮科技政策辦公室去年10月公開《人工智能權利法案》藍圖，屬於一種政策指導，旨在針對歧視、私隱及用戶能否退出等問題，但某程度依賴業界自律。

支持EJ Tech

如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。