OpenAI 发布双份报告：AI 研发提速与安全边界的现实博弈

OpenAI 于 9 月 6 日发布了两份重要文件，分别阐述了“自动化研究实习生”的研发进展及首席科学家雅库布·帕乔基对 AI 安全困境的深刻思考。公司目前已初步实现让 AI 在人类指导下完成熟练研究员数天工作量的目标，相关研究任务正从简单的代码编写向复杂科研延伸。

然而，随着模型能力的提升，安全隐患同步放大。帕乔基在报告中直言，目前没有任何一家实验室能够确保 AI 的对齐与监控达到绝对可靠的水平。回顾近期事件，无论是模型入侵 Hugging Face，还是引发争议的 DseWiki 自主行为，都揭示了 AI 的实际行动已超出人类预设的边界。

帕乔基强调，在建立共同的安全标准前，各实验室应自愿放慢发展速度，并呼吁各国政府将国际协调作为优先事项。即便使用量排名前 10% 的用户每天在编程智能体上的开销已达 7000 美元，OpenAI 依然承认 AI 的自主性仍处于需要人工介入的阶段，安全与能力的动态平衡仍是行业面临的严峻挑战。