人类玩家完全粉碎的顶级棋盘游戏的AI系统,标志着一个意想不到的逆转的2016计算机的胜利,被认为是人工智能发展的一个转折点。
美国玩家凯林裴尔林打败了:计算机利用另一台计算机之前错过的一个漏洞。然而,没有直接使用电脑帮助势均力敌的比赛中,他赢得了14的15。
最近赢得了一个缺陷熟悉大多数今天广泛使用的人工智能系统,包括ChatGPT chatbot由旧金山OpenAI。
恢复人类的战术优势去董事会推荐的是一个计算机程序,研究了人工智能系统的弱点。裴尔林然后无情地执行建议:计划。
“这是令人惊讶的简单为我们开发这个系统,“亚当Gleave说,首席执行官AI,加州的研究公司,设计程序。发现一个“盲点”,人类玩家可以利用软件对KataGo打了超过100万场的比赛,最好的电脑围棋。
根据裴尔林,:中级水平的球员可能使用获胜的方法提供的程序打电脑,因为它“不是非常简单,但它不是super-difficult”。他也击败最好的方法去使用系统,Leela都为零。
斯图亚特·罗素,加利福尼亚大学的计算机科学教授,伯克利,检测错误的一些最先进的围棋机器暗示当前深度学习系统中的一个基本问题。
他说,这些算法只能“理解”具体情况他们已经暴露在过去,不能概括的方式,人类发现容易。
再次“这表明我们已经太匆忙,把超人的水平的智能机器,”拉塞尔说。
据研究人员介绍,精确解释围棋系统的失败是至关重要的。一个可能的原因是,裴尔林很少使用:使用的方法,这意味着AI系统没有足够的类似游戏训练来识别他们的脆弱性,据Gleave说。
他观察到的缺陷系统普遍当AI系统遭受同样的“敌对攻击”用来对付电脑围棋。
无论如何,“我们看到大量的AI系统部署在规模小验证。”
