让AI不"学坏"，比训练它更难了。
5月12日，AI安全初创公司White Circle宣布完成1100万美元种子轮融资。投资方包括OpenAI、Anthropic、Google DeepMind、Hugging Face、Mistral等头部企业的资深人士。这家公司的目标很简单：确保企业级AI不失控。
01 为什么AI需要"安全护栏"
企业部署AI时面临一个核心问题：模型在生产环境中可能产生"意外行为"。比如客服AI可能被诱导泄露敏感信息，或者AI助手可能被用来生成有害内容。这些风险在模型正式上线前很难被完全发现。
White Circle做的事，就是在AI部署后持续监控和纠正它的行为。
Fortune报道称，这相当于给AI装上了"安全气囊"。02 创始人曾曝光主流模型安全漏洞
White Circle创始人此前因公开测试主流AI模型的安全漏洞而引发行业关注。他在测试中发现，多个头部模型的防护机制可以被简单手段绕过。这一发现让他决定创办这家公司，专注解决AI在生产环境中的安全问题。
示意图（配图与文章内容无关）
03 AI安全赛道的机遇
据The Next Web报道，White Circle平台已处理超过10亿次API调用，拥有Lovable等知名客户。Tech.eu分析认为，随着企业AI部署规模扩大，AI安全将成为2026年最快速增长的企业级赛道之一。
AI能力的上限由模型决定，AI安全的下限由护栏决定。
当AI无处不在时，"AI安全"也将无处不在。
示意图（配图与文章内容无关）
? 今日互动
AI安全产品，你会付费吗？
A. 会，安全很重要
B. 不会，模型自带安全
C. 看价格
---
本文由AI辅助创作，内容来源：Fortune、The Next Web、Tech.eu、BusinessWire。
