You are currently at: ejtech.hkej.com
Skip This Ads
Don't Miss

微軟被爆自研AI晶片降成本

By on April 20, 2023

原文刊於信報財經新聞「StartupBeat創科鬥室

人工智能(AI)必須使用龐大運算力,加拿大永續數碼基礎設施公司QScale估計,聊天機械人ChatGPT開發商OpenAI一個月的用電量,足夠17.5萬個丹麥家庭全年使用。外媒The Information提到,微軟(Microsoft)正開發自家的AI晶片(代號為Athena),為聊天機械人背後技術提供支持,進一步降低機器學習的成本。

要搭建ChatGPT等智能系統,背後需要龐大運算力支持;圖為微軟資料中心。(微軟網上圖片)

與OpenAI聯手測試

報道引述兩位知情人士指出,微軟早於2019年已投資開發Athena晶片。消息指出,部分微軟及OpenAI員工正聯手測試,期望該晶片的性能勝過從外購買,可節省更多金錢。微軟在網誌提到,為OpenAI開發的超級電腦,就使用了28.5萬個中央處理器(CPU),以及一萬個圖像處理器(GPU)。

美國晶片商輝達(Nvidia)上月發文稱,Meta Platforms、OpenAI及Stable Diffusion的開發商Stability AI,以至微軟旗下雲業務Azure,都有採用H100晶片或虛擬機器,藉此訓練及運行AI模型。若查看電商平台eBay資料,網購一張輝達H100圖像顯示卡,炒價已突破35萬港元。

輝達旗下H100晶片全面投產,適合生成式AI訓練用途。(輝達網上圖片)

外媒CNBC分析指出,若微軟全面開放Bing搜尋引擎,要做到一秒鐘內回應用戶提問,將需要兩萬台8-GPU伺服器,基建支出或高達40億美元(約312億港元)。自ChatGPT取得成功,微軟正加速部署應用場景,將之整合到Microsoft 365 Copilot,以至Windows 11作業系統上。

GPT-4打入醫療領域

另一方面,生成式人工智能技術亦可減輕醫院人手壓力。微軟周一(17日)宣布與美國醫療保健軟件公司Epic Systems合作,將OpenAI的GPT-4 AI語言模型,引進至加州大學聖迭戈分校、威斯康星大學等多間大學健康中心,方便醫護自動起草對患者的回覆。AI亦可結合電子健康紀錄(EHR),配合數據分析加快診斷,騰出時間用於臨床上。

支持EJ Tech

如欲投稿、報料,發布新聞稿或採訪通知,按這裏聯絡我們