OpenAI回应模型透明度争议：架构演进处于可控范围

针对近期关于OpenAI测试“深度循环”技术可能导致推理过程不透明的质疑，首席科学家雅库布·帕乔基公开回应称，目前最先进模型的计算图深度并未出现跳跃式增长，与GPT-4相比差距尚不到两倍。

争议源于外界担心“深度循环”架构会使模型的思维链逻辑变得难以追踪，从而削弱对模型决策路径的监控能力。帕乔基承认，思维链监控技术目前确实存在脆弱性，且行业内正面临一些复杂的演进挑战，但他强调OpenAI始终将可对齐性研究作为核心任务，并将为Astra等模型部署额外的监控措施。

作为衡量神经网络复杂度的关键指标，计算图深度的稳定性在一定程度上缓解了业界对AI陷入“黑箱竞赛”的忧虑。OpenAI此番表态旨在平衡公众对模型安全性的期待与技术创新节奏，明确了公司在推动性能突破的同时，依然重视模型推理透明度的建设。