凤凰网科技讯 9 月 17 日，据英国《金融时报》报道，谷歌 DeepMind 联合创始人、首席 AGI 科学家谢恩 · 莱格近日警告，人工智能能力正在快速提升，但 AI 能力的发展绝不能超过安全保障水平。他同时反驳了 OpenAI 总裁格雷格 · 布罗克曼和英伟达 CEO 黄仁勋有关" AGI 已经到来"的判断。
莱格表示，目前 AI 能力的发展速度"非常、非常快"，行业不能允许能力进步领先于安全措施。对于 Anthropic CEO 达里奥 · 阿莫代伊近期提出的建议，即出于安全考虑放缓前沿模型发布，但不完全暂停研发，莱格认为这一方向"值得考虑"，但各方仍需认真讨论具体执行方式。
莱格作出上述表态之际，DeepMind 正式推出 DeepMind Institute，研究通用人工智能的部署及其对科学、教育、社会、政策、哲学和人类福祉等领域的影响。按照 DeepMind 的定义，AGI 是具备人类大脑全部认知能力的人工智能系统。
便捷炒股配资开户尽管近期 AI 模型能力明显提升，莱格认为，目前宣布 AGI 已经实现仍为时过早。他表示，自己仍坚持此前的预测，即到 2028 年实现"最低限度 AGI "的概率为 50%。莱格也是" AGI "这一术语的早期提出者之一。
OpenAI 发布 GPT-6 Astra 后，布罗克曼宣称"我们现在已经进入 AGI 时代"。黄仁勋也表示" AGI 已经到来"，并以 Astra 的能力作为依据。
莱格对此表示，即便不同机构对 AGI 的定义存在差异，目前也不清楚 Astra 是否达到了 OpenAI 自己的标准。OpenAI 此前将 AGI 定义为能够完成大多数具有经济价值的认知劳动。莱格称，这些模型确实能够完成一些令人印象深刻的任务，但在他看来，其能力尚未达到 OpenAI 对 AGI 的定义。
DeepMind Institute 由莱格、DeepMind 董事长德米斯 · 哈萨比斯和谷歌高级副总裁詹姆斯 · 马尼卡共同担任负责人。莱格表示，随着公众开始认真对待强大通用智能出现的可能性，现在需要展开更广泛的社会讨论。研究所将把 DeepMind 的技术研究转化为更多公众可以理解的内容，同时邀请外部专家参与讨论。
研究所首批发布三篇文章，主题涉及 AI 安全、经济政策及"新乌托邦主义"原则。其中一篇由 DeepMind 研究人员罗欣 · 沙阿和安卡 · 德拉甘撰写的文章，将矛头指向 GPT-6 Astra 的发布速度。
两名研究人员认为，Astra 在推理过程透明度方面呈现出"令人担忧的下降趋势"。AI 公司的竞争压力可能削弱其提高透明度的动力，监管可以在这一问题上发挥作用。
不过，文章认为，只要在模型设计阶段加入保障透明度的机制，行业仍然可以继续开发能力更强的模型。研究人员指出，目前最先进的推理模型能够以人类可以理解的方式展示部分推理过程，这为外界观察和研究 AI 行为提供了难得的窗口。
元股证券:ygzq.hk马尼卡表示基金投资信息门户，谷歌希望参与的 AI 竞赛只有一个，即把这项技术做对的竞赛。
配资之家提示：本文来自互联网，不代表本网站观点。
