超千名AI从业者联名呼吁建立AI刹车机制,全球AI治理进入新阶段
7月29日,AI监管议题再度成为全球焦点。当地时间7月28日,来自OpenAI、Anthropic、谷歌等十余家前沿AI公司的1134名研究人员和从业者,共同签署了一份题为《掌控前沿技术》的公开声明。声明指出,全球领先AI公司可能已接近实现自动化AI研究,存在AI能力发展速度超出人类理解与控制能力的风险。但由于各企业与各国均面临激烈竞争压力、无人愿单方面减速,联名信请求美国政府支持一项国际合作,开发必要的技术与治理工具,以便有意识地掌控前沿自动化AI发展的节奏。

AI行业领袖集体发声,递归式自我改进引担忧
这封公开信得到了多位AI行业核心人物的签署,包括Anthropic CEO达里奥·阿莫代伊及两位联合创始人、OpenAI首席科学家雅库布·帕霍茨基、Meta首席科学家赵晟佳,以及谷歌DeepMind AI安全与对齐负责人安卡·德拉甘。公开信重点关注自动化AI开发,即未来AI能够自行开发和改进AI系统的能力,业界称之为递归式自我改进。Anthropic曾表示,其Claude系列模型正在快速接近这一门槛。
信中写道:很难准确预测这将在多大程度上加速AI的进步,但确实存在一种真实的风险:AI能力的发展速度会迅速加快,超出我们理解或控制这些系统的能力。
奥尔特曼态度逆转,呼吁把控AI发展节奏
OpenAI CEO萨姆·奥尔特曼对此表示,或许现在是时候把控AI发展的节奏了,以便世界能够为此做好准备。他在接受播客采访时说,需要在把控发展速度的同时,确保既不会让外界觉得这是监管俘获,也不会被视为前沿AI实验室之间的串通。这一表态与奥尔特曼此前立场形成鲜明对比——他曾避免签署呼吁放缓AI发展的倡议,并表示2023年类似公开信缺少关键技术细节。
Anthropic在X平台上表示,上个月发布的关于递归式自我改进的研究表明,需要一些工具能够有意识地调控AI发展的前沿速度。OpenAI也在X平台上发文称,相信在未来的某个时间点,前沿模型开发中的AI加速可能会如此之快,以至于世界将需要把控AI进步的速度。
AI治理全球加速,合规人才需求持续释放
从欧盟AI法案的关键修订到AI从业者集体呼吁建立刹车机制,全球AI治理正在从政策框架走向实质性落地。当AI能力发展可能超出人类理解与控制能力成为行业共识,科技企业对AI安全合规、AI伦理审查、智能体安全测试等岗位的需求正在集中释放。合规岗位的专业能力与职业操守同等重要,其背景的真实性与专业资质直接关系到企业在AI治理时代的稳健运行。
楠湾科技旗下品牌汪汪背调将身份核实、学历验证、工作经历核查和合规风险查询等分散信息,整合为清晰、可解释、可复用的标准化流程。自研AI引擎可一键核验多项信息,将传统数天的员工背景调查流程大幅压缩。针对AI安全合规、智能体测试等技术岗位,汪汪背调通过专业联络员与前雇主技术负责人进行标准化沟通,全面还原候选人在具体职责、技术贡献、项目角色等方面的真实表现。所有调查均基于候选人明确授权,严格遵循个人信息保护与数据合规要求。作为专业的三方背调服务商,楠湾上海科技有限公司以高效、准确、合规的背景调查服务,帮助科技企业在全球AI治理加速推进的时代守住人才准入的第一道关口。
热门动态
HOT最新会展
CONVENTION高管招聘、关键岗位、对合规要求较高的组织
汪汪背调(FIDO)基于合法授权,为企业提供候选人背景调查服务,帮助团队在招聘决策中识别风险、验证信息、建立信任。
