联合国发布报告 呼吁对潜在威胁AI进行监管

联合国今天（9月16日）发布了一份报告，呼吁在研究和监管完成之前暂停使用“对人权构成严重威胁”的AI系统。人权事务高级专员米歇尔·巴切莱特 (Michelle Bachelet) 表示，人工智能可以成为一种“向善的力量”，但强调如果不加考虑地使用它，它仍然会产生极其负面的、“甚至是灾难性的”影响。

该报告分析了人工智能影响人权的方式，包括隐私、健康和教育以及行动、表达和集会自由。

“人工智能现在几乎渗透到我们身心生活甚至情绪状态的每一个角落，”巴切莱特写道。 “人工智能系统用于确定谁获得公共服务，决定谁有机会被招聘，当然它们会影响人们在网上看到和分享的信息。”

巴切莱特的报告称，由于人工智能科技的高速进步，了解人工智能如何收集、存储和使用数据是“我们面临的最紧迫的人权问题之一”。

“因人工智能驱动而导致作出歧视性决策的风险，作出可以改变、定义或损害人类生命的决策是现实存在的风险，”报告继续说道： “这就是为什么需要对人工智能系统的影响进行系统评估和监测，以识别和减轻人权风险。”

联合国还呼吁开发和使用人工智能系统的公司和国家提高透明度。联合国并没有要求彻底禁止人工智能，只是要求加强监管以及更大的透明度。

巴切莱特说：“我们不能继续和人工智能玩猫追老鼠的游戏：允许其在有限或没有边界或监督的情况下使用，然后在事后处理几乎不可避免的人权后果。人工智能为人类服务的能力是不可否认的，但人工智能在几乎不可见的情况下大规模处理侵犯人权行为的能力也是如此。现在需要采取行动，为人工智能的使用设置人权边界，以造福我们所有人。”

您可以在联合国网站上阅读新闻稿和完整英文版报告。

报告网页：点击这里

这对游戏和相关技术可能产生什么样的影响目前尚不清楚，联合国的这篇报告显然不是在谈论英伟达的 DLSS 或 AI 升级技术这样的 AI 机器学习。这可能会影响游戏产业的一种可能方式是，如果一家公司开发了一个人工智能系统，该系统可以学习玩家的游玩习惯，然后使用该数据展示有针对性的游戏内购、广告或其他东西来鼓励玩家消费——类似于动视于 2017 年申请的专利。联合国对于这种情况是否侵犯玩家权利尚不明了，但是目前看来这项报告并不会影响到游戏行业。