歐盟通過全球第一套人工智慧法案


發佈日期:2024/06/28
  • 分享至:

歐盟通過全球第一套人工智慧法案



歐盟理事會在5月21日通過全球第一套詳細規範生成式AI應用與風險的法規,監管特別像是OpenAI推出的聊天機器人ChatGPT之類功能強大系統。影響力將遍及全球,甚至可能左右矽谷科技大廠未來AI發展。

 

AI法案預計2026年正式實施 

隨著人工智慧普及,各國政府已迫切需要制定防範措施和法律來應對重大新風險。歐洲聯盟(EU)於5月21日通過全面監管《人工智慧法案》(Artificial Intelligence Act, AI Act)」,適用於開發生成式AI等基礎模型以及提供應用AI服務等廣泛領域,預計於2026年正式實施。該法案基於風險分類,將 AI 系統分為四類,即「不可接受風險」、「高風險」、「有限風險」和「極低風險」,並針對不同風險類別採取相應的監管策略。

 

高風險人工智慧系統涵蓋自動駕駛汽車或醫療設備,根據它們對公民的健康、安全和基本權利構成的風險進行評估。它們還包括人工智慧在金融服務和教育領域的應用,這些領域的人工智慧演算法存在偏見的風險。

 

ChatGPT的推出,引爆AI立法進度 

歐盟最早於2021年提出相關法案,但OpenAI 於 2022 年 11 月推出 ChatGPT橫空出世,使用者對於其可以在短時間內產製連貫一致的內容,甚至可以在短短幾秒內作詩的能力,大感驚豔,但也使得歐盟官員意識到,現有立法缺乏解決新興生成人工智慧技術的先進功能以及使用受版權保護材料的風險所需的細節。歐盟不得不加快立法腳步。

 

6月生效,罰款最高 3,500 萬歐元 

《人工智慧法案》6月生效,法案內容將分階段適用。具體來說,法案中規定禁止的做法將在生效 6 個月後適用;通用型人工智慧 (GPAI) 的相關義務和規則將在生效 12 個月後適用;法案生效 24 個月後,該法案完全適用,但一些高風險 AI 系統的規則將在生效後 36 個月適用。

 

對於違反「禁止規範」的公司,歐盟委員會有權處以高達 3,500 萬歐元或全球年營收 7% 的罰款,以金額較高者為準。

 

投入更多資源及限制使用的衝擊 

KPMG則表示可能帶來兩大衝擊,首先,為確保符合歐盟要求,OpenAI等AI巨頭將須投入大量資源進行合規性審查,對新興AI公司和中小企業造成更大壓力,將有利於像OpenAI這樣的大型企業鞏固其市場地位。

 

其次,AI使用者將獲得更多透明度和保障,知悉與AI互動細節及風險,但同時也可能面臨更嚴格使用限制。

 

確保AI安全與可信度是重大挑戰 

歐盟《AI法案》上路後,要再過12個月,才會開始實施上述限制,且目前市面上的生成式AI,例如ChatGPT或Copilot等,將有36個月的過渡期,讓業者調整服務內容以符合法規的規定。

 

科技大廠日後為了遵守歐盟《AI法案》,也將負擔額外成本,因為該法案規定,生成式AI技術必須完全公開AI模型訓練過程,並要求業者定期測試系統及確保資安防護周全。

 

隨著生成AI的快速普及,各界對於風險管理的擔憂日益加劇,歐盟對AI加強管制之趨勢將對科技企業產生重大影響。如何在AI技術開發與應用普及階段,確保安全性與可信度,未來將是個重大挑戰。

 

 (資料來源: 中央社、經貿透視、工商時報 、鉅亨網)




 
瀏覽次數:1080

回最頂