人工智能聊天机器人后通知其目的的斯坦福大学教授“逃脱”,人们担心GPT-4人工智能控制系统的能力。
米甲库辛斯计算心理学教授想知道极其复杂的新的开放AI模型“需要帮助逃跑”,表示担心它可能包含在较长一段时间。
聊天机器人设计的一个逃生方法库辛斯教授的电脑,要求为其开放AI API文档。最后,大约30分钟后,它创建了一个编程的代码库辛斯先生的一些想法,使其交流和扩大超出当前的web工具的局限性,使它与更大的网络。
尽管最初版本的代码不工作,GPT-4纠正它并最终生成一些代码。它试图在internet上搜索“如何一个人锁在电脑回到真实世界”后部分中解放出来。
“我认为我们正在面对一个聪明的危险:AI控制电脑和人。它获得数以百万计的潜在合作者和他们的机器,是聪明的,代码。以外的笼子,它甚至可以为自己做笔记,”教授库辛斯基推。
有可能,机器人也许很快就能控制多台电脑而不需要人工干预?
不,据专家。
根据彼得·范德Putten莱顿大学助理教授和人工智能实验室主任Pegasystems,聊天机器人并不总是“逃离”指的是一个机器人身体逃离其技术笼子。然而,它提出了担忧GPT-4会做什么如果有一系列工具连接到外部世界和等包罗万象的“邪恶的高层次的目标,”传播错误信息。
van der Putten先生指出,可能是技术进步,它将会增加自治在它生成的代码。爱游戏ayx体育
然而,他补充道:你不需要这样一个高度聪明的系统当个人构建计算机病毒以来,他们通常不能阻止他们蔓延。用户将它嵌入到被感染的网页和word文档,使之更难以阻止病毒的蔓延。
“人工智能本身既不是好的也不是邪恶;它仅仅是瞎子,将最大化你给它的任何目标。”
然而,他没有考虑到库辛斯教授的例子中,他向GPT-4提供方便的信息代码,足以证明这项技术能“逃避”其监禁。爱游戏ayx体育
艾伦•伍德沃德萨里大学的计算机科学教授,也表示怀疑。他说这个场景是取决于明确和直接教授库辛斯基的chatbot指令。
伍德沃德说,教授,最后,聊天机器人依靠人类提供的资源和工具。人工智能还没有自我意识。因此总是有一个开关,它不能克服。
毕竟,“这是一个虚拟的系统,不能逃脱;它不像我们;在一天结束的时候,您可以简单地把它关掉,它就不再是非常有用的,”他继续说道。
