資訊安全和風險管理解決方案領域的領導者 OneDegree Global (以下簡稱 OneDegree)，宣布推出其具有突破性的大語言模型系統 (LLM) 評估服務。隨著全球對人工智慧監管環境日益嚴格，例如近期頒布的《歐盟人工智慧法案》、2023 年底推出的 ISO 42001 標準及各國監管機構的指引，都凸顯出這項策略性解決方案的推出正值關鍵時刻。
歐盟人工智慧法案與國際間人工智慧相關標準與規範，核心重點都是在強調道德、安全和負責任的人工智慧開發及部署，因此對預計導入或上線人工智慧的企業來說，成熟的人工智慧管理和安全控制措施比以往任何時候都來得重要。新發布的 ISO 42001 也為人工智慧管理系統（AIMS）設立了新的標準。在此背景下，OneDegree 的大語言模型系統（LLM）評估服務，對於需滿足這些嚴格標準的企業來說，將是不可或缺的解決方案。
OneDegree 的服務透過廣泛的文獻研究與開發，並建立在負責任的人工智慧框架之上，穩健地確立了其在人工智慧安全性和可信度評估的前瞻地位；作為人工智慧風險評估領域的先驅，其團隊成員亦獲得全球首批 ISO 42001 主導稽核員的認證。
與大語言模型系統（LLM）相關的潛在風險，也強調了此類評估服務的必要性。
以銀行業可能面對到的潛在風險為例:
• 隱私風險：整合 LLM 的客戶財務諮詢工具，可能在處理過程中不經意的洩露銀行客戶的機敏個資， 從而導致嚴重的大量個資外洩並喪失客戶信任。
• 營運中斷：針對整合 LLM 的網路銀行系統執行 LLM 阻斷式 (DoS) 攻擊，可能影響銀行服務的可用性，使客戶無法存取網路銀行服務。
• 財務影響：針對整合 LLM 的風險評估工具，透過提示詞注入（Prompt Injection）操縱信用評分，從而導致銀行接受高風險貸款。
• 系統完整性：針對整合 LLM 的反洗錢（AML）系統，透過提示詞注入（Prompt Injection）操縱判斷之準確性，使銀行因系統失能，無法有效阻絕非法資金之流動，從而遭受監管機關裁罰。
除了剛推出的大語言模型系統風險評估服務外，OneDegree 亦致力於提高各行業的數位韌性，其透過 Cymetrics 團隊為科技業、製造業、醫療業、金融業、電子商務和公部門，提供完整多樣的資安評估與檢測產品及服務，而受到高度認可。OneDegree 資安長 Stanley Chou 表示：「隨著開創性 LLM 評估服務的推出， OneDegree 將為人工智慧的合規評估設立新標準，並隨著監管環境之演進，賦能我們的客戶從容應對風險與監管，確保其人工智慧的投資將以安全、道德及合規的方式進行。」
線