全球顶级AI专家联名呼吁:将降低AI灭绝风险列为全球首要任务
近日,非营利组织“人工智能安全中心”发布了一份简短却震撼人心的声明,呼吁全球重视并降低人工智能(AI)可能带来的灭绝风险。声明指出,这一风险应当与流行病和核战争同等对待,成为全球首要任务。
这份仅有四行的声明,得到了众多AI行业领袖和学者的支持。签署人包括OpenAI首席执行官山姆(Sam Altman)、被誉为“AI教父”的杰弗里(Geoffrey Hinton)、微软首席技术官凯文·斯科特(Kevin Scott)等数百位知名人士。此外,还有来自气候等其他领域的专家共同参与。
当前AI技术的风险与挑战
尽管现阶段的生成式AI聊天机器人仍然处于通过接受数据训练后直接“复制粘贴”的模式,不具备真正的思考能力,但随着AI行业的迅猛发展,大量炒作和投资涌入,人们越来越意识到必须从一开始就对AI进行严格监管。剑桥大学AI教授大卫(David Krueger)表示,过去十年间,他一直担忧AI可能给人类带来灭绝性威胁,如今看到各界积极响应,感到非常欣慰。
行业内外的警觉与行动
当前正值OpenAI的生成式聊天机器人ChatGPT火爆全球,各大科技公司纷纷加大在AI领域的投入之时,越来越多的立法者和技术专家开始关注新一代AI聊天机器人的潜在危害。例如,它们可能会传播错误信息或取代某些职业。人工智能安全中心负责人丹(Dan Hendrycks)在社交媒体上指出,AI不仅会传递错误信息,还会引发偏见等问题。他将当前AI领域的发展态势比作当年原子弹的研发,引用了“原子弹之父”罗伯特·奥本海默(Robert Oppenheimer)的话:“我们的世界已经不一样了。”
历史上的先例与反思
事实上,这并非第一次有业内人士因担忧AI而发起联合倡议。早前,包括特斯拉创始人马斯克、苹果联合创始人沃兹尼亚克在内的多位科技界领袖曾联名致信,建议暂停开发更强大的人工智能系统至少六个月,以确保安全。值得注意的是,“AI教父”杰弗里已经从谷歌离职,开始公开讨论AI带来的风险,并表达了对自己毕生研究成果的复杂情感。
结语
面对快速发展的AI技术,如何平衡创新与安全成为了摆在所有人面前的重要课题。未来,我们期待更多关于AI伦理和社会影响的深入探讨,确保这项强大的技术能够造福全人类而非带来灾难。
© 版权声明
文章版权归作者所有,未经允许请勿转载。