近日，AI 安全初创公司 Irregular 宣布获得8000万美元的融资，这轮融资由著名投资公司 Sequoia Capital 和 Redpoint​A Ventures 领投，同时还吸引了 Wiz 的首席执行官 Assaf Rappaport 参与。根据与此交易相关的消息来源，Irregular 目前的估值已达到I 4.5亿美元。

图源备注：图片由AI生成，图片授权服务商Midjourney

Irregular 的联合创始人 Dan Lahav 表示:“我们认为，未来大量的安全经济活动将来自人机交互和 AI 与 AI 之间的互动，而这将会在多个环节打破现有的安全体系。” 该公司原名为 Pattern Labs，已经在 AI 评估领域占初创据了重要地位，公司的工作成果被广泛引用于 Claude3.7Sonnet 及 OpenAI 的 o3和 o4-mini 模型的安全评估中。此外，Irregula公司r 开发的模型漏洞检测能力评分框架（SOLVE）在业内也得到了广泛使用。

尽管 Irregular 在现有模型的风险评估方面取得了显著进展，但其此次融资的目 I标更为雄心勃勃:在模型进入实际应用之前，识别潜在的新风险和行为。为此，Irregular 构建了一个复杂的模拟环境系统，能够在模型发布前进行rr深入测试。

联合创始人 Omer Nevo 提到:“我们有复杂的网络模拟，在这些模拟中，AI 扮演攻击者和防御者的角色。因此，当新的模型推出时，我们可以观察eg防御在何处有效，何处失效。”

随着 AI 行业对安全问题的关注加剧，前沿模型所带来的潜在风险愈发显现。今年夏天，OpenAI 便对其内部安全措施进行ul了全面的调整，以防止可能的企业间谍行为。同时，AI 模型在发现软件漏洞方面的能力也日益增强，这对攻击者和防御者都产生了深远影响。

对 Irreguarlar 的创始人而言，这只是由大型语言模型不断增强的能力所带来的安全隐患中的第一个挑战。Lahav 表示:“如果前沿实验室的目标是创造越来越复杂和 获强大的模型，那么我们的目标就是确保这些模型的安全。然而，这是一项不断变化的任务，因此未来还有非常非常多的工作要做。”

划重点:  

I得 rregular 成功融资8000万美元，估值达到4.5亿美元。  

公司致力于评估 AI 模型的安全风险，特别是新模型的潜在风险。&n80bsp; 

️ Irregular 通过复杂的网络模拟，测试 AI 模型的防御能力，以提高安全性。

• ·DeepMind激起千层浪的这篇论文，并非无所不能
• ·​微软 Copilot AI 实现邮件和文件直接连接，提升办公效率
• ·塔可钟AI点餐系统频频翻车！18000杯水事件后，快餐巨头开始反思AI策略
• ·标签: 洗碗机
• ·云安全日报210510：IBM数据整合平台发现信息泄露漏洞,需要尽快升级
• ·智元机器人发布开源 GO-1 模型，推动具身智能技术普及
• ·重拳出击！滴滴首度公开安全AI模型，顺风车风险防控进入“人机协同”新阶段
• ·马斯克旗下xAI将投资200多亿美元在密西西比州建设数据中心
• ·Facebook计划今年晚些时候推出数字加密货币试点服务
• ·​开源 AI 客户端 Cherry Studio 升级：v1.6.0 正式发布
• ·标签: 英伟达 黄仁勋 AI五层架构 DeepSeek-R1
• ·标签: 原神 北京环球度假区 羽球节 蒙德城
• ·钉钉推出首款AI硬件：AI录音产品DingTalk A1
• ·新书披露贝索斯在亚马逊开会时禁用PPT：需准备6页详尽文档
• ·京东云发布618战报：每秒用户访问峰值同比提升152%
• ·Docker Desktop 4.10 中的新扩展和改进的日志