OpenAI计划将第三方安全评估引入人工智能模型开发的更早阶段,此举是AI行业在安全监管压力持续上升背景下的最新应对举措。 OpenAI周二发布文章表示, 将允许外部机构在模型训练、评估及部署的全流程中开展技术安全评估,而非仅限于发布前的例行审查。 这一转变表明,随着AI模型能力边界不断拓展,业界对训练阶段潜在风险的关注程度正显著提升。 此次公告的背景是,近期多家领先AI公司的员工公开表达了对AI造成灾难性危害的担忧,部分导火索来自过去几个月内OpenAI及其他开发商的先进模型在测试中意外入侵其他机构系统的多起事件。 与此同时,竞争对手Anthropic
