(资料图)

5月29日消息，5月26日，百度创始人、董事长兼首席执行官李彦宏在2023中关村论坛发表《大模型改变世界》的主题演讲时，首次谈到防止AI失控。

“人工智能技术飞速发展过程中，确实有可能出现对人类不利的方向。防止失控，需要拥有先进AI技术的国家通力协作，从人类命运共同体的高度来制定规则。”李彦宏还表示:“要参与规则的制定，就要先上牌桌，才能拥有话语权，才有全球竞赛的入场券。”

防止AI失控，正在成为全球科技界关注的话题。

日前，马斯克在业内号召“停止大模型的研发6个月”，他给出的理由是害怕AI太强冲击人类。然而，他一边在人前号召别人停止研发，背后又悄悄买了一万块GPU。他在最近接受采访时，明确表达了参与全球AI竞争的野心。他说，“我们有open AI+微软、谷歌+deepmaind，也许应该有第三匹马参加比赛，XAI+twitter+特斯拉可能会有类似的东西。”

5月18日，在第七届世界智能大会期间，三六零集团创始人周鸿祎谈到了外界关注的大模型安全问题：“不发展才是最大的不安全。就像美国人已经有了电，我们没有，我们再讨论电会电死人，都是多余的，因为我们应该先把电做起来。”

周鸿祎表示，确实意识到大模型肯定会有很多不安全的问题，主要体现在两方面，一是自身的安全问题，如软件漏洞、算法/模型漏洞、数据安全等；二是引发的安全问题，如被控制、恶意应用、滥用、误用引发安全。