发展人工智能是一把双刃剑。特别是对于自动驾驶汽车、家庭自动化和大规模监控等可以直接影响人类的系统。虽然这是有益的，但把这样的能力赋予一台只需要轻轻一打就能与电脑制造商作对的电脑，却相当令人担忧。欧盟本身也在考虑禁止使用人工智能。
这一消息来自一个在网上流传的关于禁令的提议。官方声明预计将于下周公布，但如果该提议被采纳，欧盟将在其各国禁止人工智能的关键应用。根据该提案，所有成员国将被要求成立委员会，测试和验证高风险的人工智能系统。
欧洲政策分析师丹尼尔•洛伊弗(Daniel Leufer)表示:“有关将被禁止的人工智能系统的描述含糊不清，措辞不明确，将为漏洞创造严重空间。”在评论草案时，他说这些政策远非理想。
网上传阅的草案包括以下几点
- 禁止人工智能进行“不加区分的监视”，包括直接在物理环境中跟踪个人或从其他来源汇总数据的系统。
- 禁止创建社会信用分数的人工智能系统，这意味着根据社会行为或预测的性格特征来判断一个人的可信度。
- 特别授权在公共场所使用面部识别等“远程生物识别系统”。
- 当人们与人工智能系统互动时，需要通知，除非“从使用的环境和背景来看，这是显而易见的”。
- 对“高风险”人工智能系统的新监管，包括那些对安全构成直接威胁的系统，如自动驾驶汽车，以及那些有很大可能影响某人生计的系统，如用于招聘、司法判决和信用评分的系统。
- 在投入使用前对高风险系统进行评估，包括确保这些系统能够向人类监管者解释，并确保它们接受了“高质量”数据集的培训，以检验是否存在偏见。
- 成立“欧洲人工智能委员会”，由来自每个国家的代表组成，以帮助委员会决定哪些人工智能系统属于“高风险”，并建议对禁令进行修改。
官方声明将于下周，也就是4月21日发布。目前还不清楚最终的提案将会有多大的不同，但我们可以希望它会有所改变，因为目前是模糊的，可以被利用。
像这样的政策需要时间来完善。目前的措辞含糊不清，一些禁令过于宽松。禁止人工智能社会信用系统的定义太过狭隘，留下了很多猜测的余地。
