全球顶级AI专家联名呼吁：将降低AI灭绝风险列为全球首要任务

4.2K 0

近日，非营利组织“人工智能安全中心”发布了一份简短却震撼人心的声明，呼吁全球重视并降低人工智能（AI）可能带来的灭绝风险。声明指出，这一风险应当与流行病和核战争同等对待，成为全球首要任务。

这份仅有四行的声明，得到了众多AI行业领袖和学者的支持。签署人包括OpenAI首席执行官山姆（Sam Altman）、被誉为“AI教父”的杰弗里（Geoffrey Hinton）、微软首席技术官凯文·斯科特（Kevin Scott）等数百位知名人士。此外，还有来自气候等其他领域的专家共同参与。

当前AI技术的风险与挑战

尽管现阶段的生成式AI聊天机器人仍然处于通过接受数据训练后直接“复制粘贴”的模式，不具备真正的思考能力，但随着AI行业的迅猛发展，大量炒作和投资涌入，人们越来越意识到必须从一开始就对AI进行严格监管。剑桥大学AI教授大卫（David Krueger）表示，过去十年间，他一直担忧AI可能给人类带来灭绝性威胁，如今看到各界积极响应，感到非常欣慰。

行业内外的警觉与行动

当前正值OpenAI的生成式聊天机器人ChatGPT火爆全球，各大科技公司纷纷加大在AI领域的投入之时，越来越多的立法者和技术专家开始关注新一代AI聊天机器人的潜在危害。例如，它们可能会传播错误信息或取代某些职业。人工智能安全中心负责人丹（Dan Hendrycks）在社交媒体上指出，AI不仅会传递错误信息，还会引发偏见等问题。他将当前AI领域的发展态势比作当年原子弹的研发，引用了“原子弹之父”罗伯特·奥本海默（Robert Oppenheimer）的话：“我们的世界已经不一样了。”

历史上的先例与反思

事实上，这并非第一次有业内人士因担忧AI而发起联合倡议。早前，包括特斯拉创始人马斯克、苹果联合创始人沃兹尼亚克在内的多位科技界领袖曾联名致信，建议暂停开发更强大的人工智能系统至少六个月，以确保安全。值得注意的是，“AI教父”杰弗里已经从谷歌离职，开始公开讨论AI带来的风险，并表达了对自己毕生研究成果的复杂情感。