OpenAI近日表示,在對即將推出的模型之一Astra進行內部評估後,“我們無法排除其具備關鍵性網路能力”。因此,在釋出Astra之前,OpenAI將擴大針對該模型的測試和安全措施,並按照公司2023年首次釋出的“準備框架”要求,放緩Astra的開發程序,直到建立適當的安全防護措施。OpenAI還澄清,Astra並未參與Hugging Face漏洞攻擊事件。這可能是首個人工智慧前沿實驗室因網路安全擔憂而承諾放緩自身AI模型開發程序的案例。
浙商證券評論指出,AI大模型能力持續迭代,正在推動網路安全行業邏輯從“AI顛覆安全”轉向“AI放大安全需求”。國內廠商若能在雲安全、零信任、身份安全、AI安全運營、資料安全和安全託管服務等方向形成平台化交付能力,有望受益於AI時代安全價值量提升與國產化匯入加速。
據財聯社主題庫顯示,相關上市公司中,深信服在AI+安全方面已推出安全GPT、融合AI能力的下一代防火牆AF、SASE一體化辦公產品、XDR、AI安全平台等產品或服務;星宸科技則在資料安全及網路安全上有完整的軟硬體解決方案,包括提供SecureBoot支援韌體保護、提供各種對稱及非對稱加解密演算法等。
此事件凸顯了AI發展中的安全權衡,也預示著網路安全行業在AI時代的價值重估。