出品｜搜狐科技

图灵奖得主,中国科学院院士姚期智:AI是算力极强的新物种,人类面临存在风险

作者｜汉雨棣

7月4日，2024世界人工智能大会（WAIC）在上海开幕。2000年图灵奖获得者、中国科学院院士姚期智在图灵奖得主的对话中，将当前AI的风险分为 *** 风险、社会风险与“存在的风险”三个方面，并对这些潜在风险提出了解决方案。

姚期智表示，目前AI的风险来源于三个方面。之一方面是 *** 风险的延伸和扩大。姚期智称，AI刚出现的时候， *** 风险还处于非常早期的阶段，和四五十年前的情况非常相似，现在AI的数据管理与 *** 治理难度比传统的数据和 *** 安全管理困难100倍，行业需要更多专家关注这个问题。

第二类是社会风险，AI用途繁多，社会结构可能在短期内发生被颠覆。比如AI可能带来大规模的失业。

第三方面是“存在的风险”，姚期智表示，这种风险类似于在人类在蒸汽机刚出现时感受到的潜在威胁，AI的出现是新的颠覆性力量。因此该风险需要各行各业的专家共同面对，不仅是科学家，更需要 *** 、律师和经济学家一起解决。

姚期智从计算机理论学的角度解释称，“存在的风险”与可计算性有关。从理论上而言，更大的算力会给人更多的力量与智慧，帮助人们解决许多未解决的难题，但是AI作为创造出的新物种，比人类要强大很多倍，目前人类不确定如何与新物种共存。姚期智援引图灵的话称，“我们预测不了机器有了足够的算力之后会做什么。”他表示：“如果我们无动于衷那我们就会灭亡，这是毫无疑问的。这是计算机的本质，也是恶意行为者所可能带来的情况。”

对此，姚期智称，作为一名计算机理论学家，最有深度的问题是如何把人类自己设计出来的AI控制好，让它不破坏人类，这样的权衡是很有挑战的。

最后，姚期智强调，我们正处于一个非常激动人心的历史时期，不要过分强调AI的安全风险，而是要多关注AI的好处。