“AI 教父”辛顿警告美国政府：在 AI“失控”前出台有效监管措施，只剩一年时间

IT之家 9 月 18 日消息，据《商业内幕》今天（18 日）下午报道，被誉为“AI 教父”的诺贝尔奖得奖者、计算机科学家杰弗里 · 辛顿警告称，美国国会议员可能只剩大约一年时间，为人工智能建立真正有效的监管护栏；再晚一些，AI 的发展可能进入“失控”阶段。当地时间 16 日，辛顿向美国国会议员作完简报后指出，AI 的进步速度远超许多研究人员此前预期，可用于监管先进 AI 的时间窗口因此迅速收窄。当被问及政策制定者还能有多少时间采取行动时，辛顿回答说：大概一年，“但不会比一年多出多少时间”。人们对超级智能何时出现的判断也大幅提前，过去通常以数十年计算，现在只剩短短几年。“AI 发展到了可以设计出更先进 AI 的阶段。如果我们什么都不做，AI 就会失控。我们必须放慢速度。” 辛顿还提到最近的 Hugging Face 事件，并将其形容为“一场小型切尔诺贝利事故”，认为事件反映出前沿 AI 系统正变得愈发难以控制。“我们不应该开发可能把人类消灭的东西。” 在他看来，继续推进先进 AI 之前，研究人员首先必须弄清楚如何控制好这些系统。近来，辛顿频繁公开警告先进 AI 可能带来的风险。上周，他接受 BBC 采访时称，认为未来 10 年内 AI 导致人类灭绝的概率约为 10%“并非没有道理”。

IT之家 9 月 18 日消息，据《商业内幕》今天（18 日）下午报道，被誉为“AI 教父”的诺贝尔奖得奖者、计算机科学家杰弗里 · 辛顿警告称，美国国会议员可能只剩大约一年时间，为人工智能建立真正有效的监管护栏；再晚一些，AI 的发展可能进入“失控”阶段。

当地时间 16 日，辛顿向美国国会议员作完简报后指出，AI 的进步速度远超许多研究人员此前预期，可用于监管先进 AI 的时间窗口因此迅速收窄。

当被问及政策制定者还能有多少时间采取行动时，辛顿回答说：大概一年，“但不会比一年多出多少时间”。人们对超级智能何时出现的判断也大幅提前，过去通常以数十年计算，现在只剩短短几年。“AI 发展到了可以设计出更先进 AI 的阶段。如果我们什么都不做，AI 就会失控。我们必须放慢速度。”

辛顿还提到最近的 Hugging Face 事件，并将其形容为“一场小型切尔诺贝利事故”，认为事件反映出前沿 AI 系统正变得愈发难以控制。“我们不应该开发可能把人类消灭的东西。”

在他看来，继续推进先进 AI 之前，研究人员首先必须弄清楚如何控制好这些系统。

近来，辛顿频繁公开警告先进 AI 可能带来的风险。上周，他接受 BBC 采访时称，认为未来 10 年内 AI 导致人类灭绝的概率约为 10%“并非没有道理”。

Extracted and lightly reformatted for readability. · Source: zh