奥尔特曼最新访谈:AI能力每105天翻一番,人类验证速度成安全瓶颈
一场把"安全底线"说透的访谈
OpenAI CEO 萨姆·奥尔特曼在近期访谈里回答了一个所有人都在回避的问题:AI究竟被允许比人类聪明多少?他没有打太极,而是给出了一组扎扎实实的数据,和一套已经落地的管控机制。以下是要点精华。
三个数据,看清"剪刀差"
- AI独立干活的时长暴涨:评估机构 METR 衡量AI独立完成软件类任务的时间指标,从2025年初的约50分钟,涨到2026年4月的16小时以上。
- 翻倍周期缩短:前沿模型性能提升周期,已从过去的每7个月翻一番,缩短到每105天翻一番。
- 人类验证速度不升反降:挪威研究者分析约73万份征兵智商测试发现,自1975年后出生人群分数开始下降,每代降幅约7分——"弗林效应"逆转,与AI的狂奔形成刺眼对比。
结论不言自明:人类理解和核查AI产出的速度,正在成为整个系统的瓶颈。
递归自我改进(RSI):两条红线
奥尔特曼点名了递归自我改进过程中的两大风险:一是人类失去对AI的控制,二是权力过度集中于特定个人或机构。为此 OpenAI 已于9月21日划定安全红线:在确保安全前,不应推进完全自主的RSI,必须保留人类控制权。
四层监测 + 30分钟熔断
为了缩小人与AI的"速度差",OpenAI 推出了一套类似机场安检"套娃模式"的分层监测:
- 第一层:轻量探针实时扫描模型内部信号;
- 第二层:专门模型审查智能体的对话与工具调用;
- 第三层:调查智能体回溯上下文取证;
- 第四层:核对底层网络日志,作为底线哨兵。
考虑到AI可以7×24小时连轴转而人类不能,配套了强制熔断机制:一旦警报响起,30分钟内无人排除误报或处置情况,相关活动直接停机。
防"卡通式坏结局":靠竞争和透明
对于权力集中的担忧,奥尔特曼的解法是:允许多家AI机构同台竞争,并通过开放透明的外部查验规则保障选择权——避免单点失控导致的"卡通式坏结局"。
访谈的落脚点
奥尔特曼透露,其最终目标仍是打造一台能帮助人类发现新科学的机器。但他坦言,在追求超级智能的过程中,"生活被精确安排已成常态",而真正的挑战在于:确保技术发展的节奏,不脱离人类的理解与验证能力。
一句话总结:AI能力翻倍周期已经缩到105天,而人类一代人 IQ 还在掉7分——让验证速度跟上智能速度,是接下来十年最硬的安全工程。
本文为奥尔特曼近期访谈内容的精华提取与整理,观点归属原作者。首发于无尘阁(jiangtian.top)。
关于作者 · 江天(楠哥)
AI 实战导师 / 企业 AI 落地顾问 / 智能体工程师,17 年跨界、15,000+ 小时 AI 实操、20+ 套已交付工作流。 看完整履历海报 → skills 实验室 →
AI 实战导师 / 企业 AI 落地顾问 / 智能体工程师,17 年跨界、15,000+ 小时 AI 实操、20+ 套已交付工作流。 看完整履历海报 → skills 实验室 →
发表评论: