古特雷斯指出,人工智能技术的发展速度已远超当前人类治理人工智能的能力,这给人类的决策体系带来了前所未有的挑战,特别是在问责制、公平性、安全性以及人类监督方面。他警告说,每拖延一刻,全球面临的风险就会增加。
联合国秘书长古特雷斯日前发表演讲表示,任何国家都不应在武装冲突中设计、开发、部署或使用违反国际人道法和人权法的人工智能军事应用,特别是那些能够自主选择和攻击目标的人工智能系统。他明确指出,新兴技术所引发的地缘政治竞争绝不能以牺牲国际和平与安全为代价。
古特雷斯表示,人工智能是一把双刃剑,既具有推动社会变革的巨大潜力,如预测气候变化导致的人口迁移和清除地雷等,同时也伴随着巨大的风险,尤其是在军事系统的应用和数字安全领域的滥用上。
古特雷斯提到,人工智能与核武器的潜在结合以及量子人工智能系统的出现,都可能对全球安全构成严重威胁。他强调,人类命运绝不能交由算法的“黑箱”决定,必须确保在涉及武力使用的决策中,人类始终占据主导地位。
古特雷斯指出,人工智能在信息领域的应用同样存在令人担忧的潜在风险。他提到,换脸技术和人工智能生成的虚假信息可能操控公众舆论、引发社会危机并侵蚀社会信任。
与此同时,他也关注到了人工智能对环境的潜在影响,例如数据中心对资源的高需求以及围绕人工智能技术所需关键矿物的地缘竞争。
面对这些前所未有的全球挑战,古特雷斯呼吁各国应展开前所未有的合作,确保人工智能造福全人类,而非加剧不平等。
古特雷斯表示,人工智能全球治理近期取得了一些成果,包括未来峰会上通过的《联合国全球数字契约》,以及联大通过的两项关于加强全球合作与能力建设的关键决议。他还透露,联大即将讨论一项关于人工智能在军事领域应用的第三项决议。
古特雷斯呼吁各国禁止研发致命性自主武器,并敦促安理会发挥表率作用,防止人工智能的军事化对国际和平与安全构成威胁。他强调,各国应携手共进,共同创造一个安全、可靠且包容的人工智能未来。
发布评论
评论