IBM的子公司红帽(Red Hat)收购了总部位于英国伦敦的人工智能安全初创公司Chatterbox Labs。收购金额未公开,但此次交易被视为红帽加强AI安全能力的战略举措。
红帽近年来持续加强其产品的AI功能。公司已开发出OpenShift AI和AI优化Linux发行版等解决方案,能够灵活地在现有基础设施上部署AI工作负载。通过此次收购,红帽获得了能够预先检测和应对AI环境安全漏洞的技术。
Chatterbox Labs自2011年成立以来,以不到100万美元(约14.4亿韩元)的外部投资维持着小规模运营,但在AI模型保护领域开发了独特的解决方案。其提供的"AIMI"(AI Model Integrity)平台基于Docker容器部署,特点是可同时适用于OpenAI等现有AI模型和企业自有模型。
AIMI采用自动红队技术对AI模型进行模拟网络攻击。通过这种方式识别潜在的安全漏洞,并以可视化仪表板的形式提供结果,便于分析和应对。该平台特别能够检测用户的恶意输入、数据投毒、模型信息泄露、违规内容检测等多种形式的AI威胁。
红帽计划将AIMI平台整合到其基于MCP(Mission Control Protocol)的代理安全功能中。近期发布的红帽AI产品线已支持MCP,通过加入Chatterbox的技术,将能更安全地推进AI运营自动化。长期来看,红帽还设定了将Chatterbox核心技术转化为开源形式、贡献给整个生态系统的目标。
此次收购不仅是为了加强安全,更被评价为IBM-红帽联盟构建未来前瞻性AI运营体系的具体信号。特别是在AI模型快速商业化、安全威胁同步增长的市场环境下,此举背后显然基于"AI安全能力将直接转化为竞争力"的判断。


