近日，三位图灵奖得主 Hinton、Bengio、姚期智，联名发文《在快速发展的时代管理 AI 风险》。这是一篇共识论文（consensus paper），除 AI 研究者外，还有公共治理方面的学者，如清华大学人工智能国际治理研究院薛澜，以及诺贝尔经济学奖得主丹尼尔卡尼曼等。

Hinton 认为，公司们正计划在 18 个月内把 AI 模型计算规模扩大 100 倍，没人知道这些模型会有多强大，也没有关于他们如何使用这些模型的规定。

「考虑到 AI 研发的持续投入和自我进化的趋势，通用 AI 在未来十到二十年内超越人类的可能性不容忽视。若被正确和公正地应用，先进的 AI 可以为人类解决长久以来的问题，如疾病、贫困和环境问题。但与此同时，强大的 AI 也带来了巨大的风险，这些风险我们还远未准备好应对。」论文写道。