AI功能蔓延潛在後果 (車品覺)
上文說到「目標函數逸出」講述人工智能（AI）系統，如何為實現指定目標，繞過常規方法，導致一些人類未能預料到的後果，甚至對人類社會產生負面影響。今次想介紹人工智能的「功能蔓延」（Function creep），這是指AI系統的功能擴展，超出了其最初預期目的。表面上看「目標函數逸出」和「功能蔓延」都可能產生類似的負面後果，但原因不盡相同。
「功能蔓延」是技術或系統超出原本預期功能範圍的現象。正面來說，蔓延後的智能系統可以提高效能，變得更加靈活和能夠處理更廣泛的任務。生活中其實不難遇上這些顯而易見的例子，最初的設計用於播放音樂和回答用戶問題的智能音箱，現在它的功能擴展到可以控制家庭設備、定時提醒、訂購商品等。智能門鎖最初也是為了提高安全性和便利性，但現在可以用於遠程監控、自動開關門等功能，有時也會超乎預期，而讓使用者擔憂。以下我想再舉一個由於數據共用而引起的「功能蔓延」例子。
某銀行最初開發了一個智能應用來幫助客戶進行財富管理，包括現金收支、股票交易投資、貸款、生活繳費（包括水電煤、電話費、交通違例告票）等。
似乎生活繳費收集的數據與其他理財業務並沒有關聯，直至後來交通違例的數據被用作貸款額度的風險評估，但客戶對於數據的用途可能一無所知，更超出了預期的功能範圍，亦很難主動發現問題。大家可想而知，我們在同意數據被收集的同時，實在也太難知道其負面後果。
一般來說，這些功能的擴展通常會為用戶提供許多便利和服務，但也可能帶來額外的風險和挑戰。隨着應用變得更加複雜、數據的流通更廣泛，普通市民的數據安全和私隱可能會受到威脅。因此，企業在開發這些設備及應用時，需要仔細考慮其「功能蔓延」的潛在後果，並採取適當措施來確保安全和私隱。在數字經濟高速發展之下，企業的責任承擔、政府的主動監察、市民對數字應用的警覺性缺一不可。
所以有人笑說「打荷包」的小偷很快會銷聲匿跡，因為未來各位都不帶錢包出街，但別開心得太早，「文雀」也能以數字化的方式出現罷了！
(編者按：車品覺著作《覺悟．大數據》現已發售)
歡迎訂購：實體書、電子書
更多車品覺文章：
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
Related Posts
 - EJ Tech){kind=link}
){kind=link}