马斯克：AI比人类聪明很多，是最大的威胁之一，需引导控制

特斯拉CEO埃隆·马斯克（Elon Musk）表示，希望建立一个“第三方裁判”，监督开发AI的公司。

当地时间11月1日，全球首届人工智能（AI）安全峰会在英国开幕，马斯克在峰会上表示，“我们来这里的真正目标是建立一个洞察框架，这样至少会有一个第三方裁判，一个独立的裁判，可以观察领先的AI公司在做什么，至少在他们有担忧时发出警报。”

马斯克指出，在政府采取监管行动之前，他们需要先了解AI的发展情况，“我不知道公平的规则是什么，但是在监管之前，你必须先洞察。我认为AI领域的很多人都担心，政府在知道该怎么做之前会过早地制定规则。我认为这不太可能发生。”

马斯克将人工智能称为一把”双刃剑”，并指出，这项技术在他看来至少有80%的机率对人类有益，20%的机率会带来危险。他强调，人工智能是人类“最大的威胁”之一，这是人类历史上第一次出现比我们聪明得多的东西，不清楚是否可以控制这样的东西（AI），“但我认为我们可以立志引导它朝着有利于人类的方向发展。”

在此次峰会之前，英国发表了一份由28个国家和欧盟签署的声明，旨在制定一个双管齐下的议程，重点是确定共同关注的人工智能相关风险，建立对这些风险的科学理解，并制定跨国政策来缓解这些风险。这一声明标志着各国在人工智能领域的合作迈出了重要一步。

声明指出，这些AI模型最重要的能力是有可能造成严重甚至灾难性的伤害，无论是有意还是无意，且人工智能可能被不法分子利用，或者人类失去对人工智能的掌控。

外媒称，这是国际社会首次就AI风险发出声明，对大模型可能会给人类带来的威胁发出警告。（7）

文章来源：澎湃新闻