微软限制反应新Bing AI越来越精神错乱

微软以大力投资人工智能(AI)和机器学习,主要侧重于自然语言处理(NLP)。这个地区之一,该公司的旗舰产品是必应(Bing)搜索引擎,与谷歌竞争。

最近,微软宣布它将限制Bing AI的反应可以生成为了避免潜在的伦理问题。决定之后必应的一些非议AI-generated反应由于其怪异,有时自然进攻。

在官方博客中,微软解释说,必应的人工智能模型生成响应基于大量的数据和人类的反馈。虽然这种方法导致了重大改进Bing的能力去理解和响应用户的查询,它还导致一些意想不到的和不恰当的反应。

博客文章中提到的一个例子是一个用户查询“智人的含义。“Bing提供的AI-generated反应包括非洲裔美国人的种族主义的术语,导致进攻用户和批评。

为了避免这类事件,微软现在实施限制的反应类型Bing AI可以生成。具体来说,公司将删除响应包含特定类型的内容,包括亵渎,色情语言,可能进攻引用特定的一群人。

虽然此举可能限制Bing提供的一系列反应,微软认为这是一个必要步骤,以确保搜索引擎对用户来说仍是一个值得信赖和可靠的信息来源。该公司还承诺将继续完善自己的人工智能模型来提高他们的能力去理解和响应用户的查询在一个道德和负责任的态度。

总的来说,微软决定限制Bing艾未未的反应反映了越来越多的人意识到的潜在风险和伦理问题与人工智能和机器学习。随着这些技术的继续发展,它将成为越来越重要的公司考虑他们的对社会的影响和采取措施减轻任何潜在的负面影响。