You are currently at: ejtech.hkej.com
Skip This Ads
Don't Miss
Home   >   人物專訪   >   AI運算添環保 減驚人食電用水量

AI運算添環保 減驚人食電用水量

By on May 22, 2023

原文刊於信報財經新聞「StartupBeat創科鬥室」

生成式人工智能（Generative AI）當道，像聊天機械人ChatGPT之類的內容生成工具，已成為不少人生活及工作一部分。然而，AI涉及龐大的數據運算，衍生的能源消耗問題，遠超一般網絡活動，例如瀏覽網頁、利用搜尋引擎找資料等。

混合式多雲解決方案供應商NetApp香港及澳門區域總經理鄧子安接受查詢時解釋，AI模型由海量數據訓練而成，當數據放進AI模型學習時，需要強大運算力配合。當數據中心的電力消耗大增，自然需要更多水源散熱。

鄧子安提到，當數據中心耗電大增，自然要更多水源散熱。（受訪者提供圖片）

AI所造成的能源消耗問題漸受關注，早前美國加州大學河濱分校，以及得州大學阿靈頓分校一項共同研究指出，在訓練GPT-3等大型語言模型（LLM）時，需要耗水多達18.5萬加侖（約70萬公升），跟注滿核反應堆冷卻塔所需的水量相若。

NetApp助壓縮數據

根據兩間大學的研究，當一個用戶向採用GPT-3模型的ChatGPT發出25至50條問題時，ChatGPT便需要大約500毫升的水來完成指令。如今LLM已提升至參數量更大的GPT-3.5甚至GPT-4，加上各式生成式AI工具愈趨普及，運算力、水及能源消耗只會有增無減。

NetApp協助客戶壓縮數據，減少佔用空間及環境足跡。（NetApp提供圖片）

鄧子安又指出，訓練AI模型需要大量儲存空間，以容納數據。即使完成訓練，數據也需要繼續儲存而不能丟棄，「因為日後可能重新應用於訓練其他AI模型」。

他透露，NetApp服務之一，是協助客戶壓縮數據，減少數據佔用空間，以及所涉的「環境足跡」（Environmental Footprints）。

NetApp建議，企業如果想減少科技及數據相關的環境足跡，可以評估本地（on-premise）及雲端數碼科技資源的使用情況、分析數據的方式，並通過遷移、備份及分層，把適當的數據移動到雲端。

支持EJ Tech

如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。