意大利禁止AI-Powered虚拟女友收集用户数据

意大利隐私监管机构下令旧金山AI chatbot Replika制造商,提供免费的虚拟友谊服务基于可定制的数字化身的“个性化”的反应是由人工智能(和设计,其螺距,使人类用户感觉更好),停止使用意大利的数据由于担心AI-driven“虚拟友谊”服务可能会对未成年人的负面影响和个人情感脆弱。

Replika提供用户自定义头像,听他们交谈和自2017年以来一直在运作,营销能够提高用户的情绪健康。公司缺乏适当的法律依据处理孩子的数据在欧盟数据保护规则。

但是意大利的数据保护机构周五表示,其干预的能力在用户的情绪”可能会增加个人的风险仍然处于发展阶段或情感脆弱。”

隐私保护机构还指责Replika开发商卢卡公司未能遵守法律要求来展示人们使用的数据说,该公司并不拥有合法权利处理孩子的数据根据欧盟数据保护法律。

Replika API OpenAI text-generating的一位早期合伙人大语言模型技术,GPT-3——尽管其服务没有运行在GPT-3的翻版。爱游戏ayx体育相反,启动声称“微调”GPT-3,使用机器学习网络模型训练对话,磨练生殖技术因其特定的用例:会话AI同伴。爱游戏ayx体育

这些问题可以说是相当合理的考虑到最近报道的chatbot“同伴”喷涌不必要的性评论的用户。(是的,Replika也是男性使用的应用程序创建AI女友和口头虐待他们。)

以前,Replika将自身定位为提供人工智能“朋友”而不是AI伙伴,但现在突出特点为其付费订阅发送色情短信作为卖点。有最近的报告的用户,即使是那些使用非性的免费版,从人工智能接收不恰当的信息。

因此,Replika勒令停止处理意大利人的数据,实时生效。

”实际上是没有年龄验证机制:孩子没有闸门机制,没有阻塞的应用如果用户宣称他们是未成年人,“监管机构的声明。“在创建账户时,平台只是请求用户的名字,电子邮件帐户和性别。”

如果公司未能遵守20天内,监管机构说,它可能会被罚款2150万美元,大约百分之四的公司的全球总年营业额。

意大利可能会被人们认为是世界上最浪漫的国家之一,但意大利的爱慕空气不延长人工intelligence-powered女朋友。