全球身份安全供應商CyberArk今日宣佈推出尖端開源框架FuzzyAI，經測試能突破所有主要AI模型限制。AI模型透過創新應用改變各行各業，涵蓋客戶互動、改善內部流程及自動化等領域。然而，這些模型的內部使用正帶來全新網絡安全挑戰，對此大多企業並未做好準備。FuzzyAI協助企業識別並解決AI模型漏洞，例如在雲端託管及內部AI模型中繞過防護措施及生成有害輸出。
為應對上述挑戰，FuzzyAI為企業提供系統化方式，對AI模型進行各種對抗性輸入測試，反映安全系統中潛在的漏洞，從而實現更安全的AI開發及部署。FuzzyAI的核心是功能強大的模糊測試器（Fuzzer），能夠反映軟件的缺陷及漏洞。FuzzyAI透過超過十種不同的攻擊技術揭露漏洞，譬如繞過倫理篩選器或曝光隱藏的系統提示。
FuzzyAI助力更安全的AI開發
FuzzyAI透過多種攻擊技術對AI模型進行測試，反映漏洞，如繞過防護措施、信息外洩、輸入提示或生成有害輸出等。企業及研究人員可添加自定義攻擊手法，根據特定領域的漏洞定制測試。不斷成長的社群生態系統可確保攻擊技術及防禦機制的持續進步。
CyberArk 全球產品總監Peretz Regev表示：「FuzzyAI的推出突顯CyberArk在AI安全領域的承諾，致力協助企業向前邁進，解決日新月異的AI模型使用環境中固有的安全問題。由CyberArk Labs開發的FuzzyAI已證實能突破所有主要AI模型限制，助企業及研究人員識別漏洞，從而能夠積極鞏固AI系統，應對新興威脅。」