热点事件持续更新
Circuit Breaker Labs 推出AI安全红队平台
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月3日，TechCrunch 报道，仅5名员工的初创公司 Circuit Breaker Labs 由 Nigam 兄妹创办，目标是让 AI 对孩子（以及所有人）更安全。其做法是用 AI 智能体模拟不同年龄、背景、语言与文化的用户，对模型开展红队测试，检查模型能否识别具有心理危害的危险交互。该公司每天运行数万至数十万次模拟对话，并通过专有评分方法输出可审计、可解释的分数。报道未披露其客户、所测模型范围或具体测试结果。
AI 根据报道生成 · 3 小时前更新
最新进展10月3日 01:00
新报道披露其用模拟不同年龄与文化的智能体做红队测试，每天运行数万至数十万次模拟对话。报道时间线
沿着报道，了解事件的不同侧面。
10月3日
- TechCrunch · AICircuit Breaker Labs 希望让 AI 对孩子（和你）更安全
Circuit Breaker Labs 用模拟不同年龄、背景、语言与文化的 AI 智能体对模型做红队测试，检查其能否识别危险的心理有害交互。这家由 Nigam 兄妹创办、仅有 5 名员工的初创公司每天运行数万至数十万次模拟对话，并用专有评分方法输出可审计、可解释的分数。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。