您的位置:首页 >要闻 >

都在吹捧谷歌关于机器人的新研究,更多的隐患你注意到了吗?

时间:2022-08-23 10:16:03 来源: OFweek机器人网

近日消息,谷歌公布了一项重磅研究进展:通过结合更强大的人工智能(AI)大型语言模型,进一步提高机器人的“智商”。

如今机器人已经随处可见,它们的身影也出现在世界各地的工厂中。不过,这些机器人只能遵循待定指令,专注于完成简单的预编程任务。但是谷歌的机器人似乎有所不同,它们可以接受简单命令并完成更复杂的任务,看起来像人类。

谷歌实验室的研究人员最近展示了新的机器人技能,用各种塑料玩具原料制作出汉堡。这个机器人了解烹饪过程,知道要在肉之后和生菜之前加入番茄酱,但他认为正确的方法应该是将整个瓶子放进汉堡里。

虽然这个机器人并没有真正意义上完成一个汉堡,但是这对于机器人的发展来说是一个很大的突破。换而言之,是谷歌让机器人和大型语言模型学了本事,会自学了!这个机器人不仅能听懂你说的话,还能相应付出行动。以后不用等命令,想做什么,只需吩咐它一句。

用语言模型做“大脑”,机器人充当“手”与“眼”,研究人员表示,这类机器人现在不再需要接受一连串的分析指令,然后一个接一个地指导它们完成每个动作,将PaLM-SayCan集成到机器人中后,机器人通过使用思维链提示和执行请求所需的分步解决方案,能更好地执行复杂、抽象的任务,根据自身能力权衡接下来最合适的执行步骤,并实现高度可解释的行动结果。

显而易见,谷歌为此项目投入了大量资源,而当我们在感叹科技的进步同时也引发担忧——这项研究是值得的吗?

首先,众所周知,这个新系统所依赖的大语言模型,而论起其背后涉及到社会、伦理、公平、数据泄露和信息安全等问题时,它是否能够处理得得心应手呢?

在PaLM-SayCam实验清楚地表明,研究人员就已经提出有21个问题需要更新。比如大型语言模型会建议人自杀,或者签署种族灭绝协定,或者它们可能带毒。而且它们对训练集的细节非常(过度)敏感——当你把这些训练集放进机器人里,如果他们误解了你,或者没有充分理解你要求的含义,他们可能会给你带来大麻烦。

值得称赞的是,PaLM-SayCan 的工作人员至少能想到预防这种情况的发生。对于机器人那里传来的每一个请求,他们都会进行一种可行性检查:语言模型推断出用户想要做的这件事,是否真的可以完成。但是这就万无一失了吗?如果用户要求系统将猫放入洗碗机,这的确是可行的,但安全吗?合乎道德吗?如果系统误解了人类,也会发生类似的问题。

比如,如果人们说「把它放在洗碗机里」,而大语言模型将「它」的指代对象视为单词cat,而用户指的是别的东西。从对大型语言模型的所有研究中,我们会了解到:它们根本就不够可靠,无法让我们100%地清楚了解用户的意图。误解是无法避免的。如果不对这些系统进行真正严格的检查,其中一些误解可能会导致灾难。

现实情况是,目前还没有可行的办法能够解决许多困扰大型语言模型的「alignment」问题,其与我们真实世界还存在鸿沟。除此之外还有更多的问题亟待我们去思考,如果真的解决了机器人独立思考、解决问题的难题,未来在机器人拥有人类的学习能力和理解能力,并且具有思考人类下达指令的能力的情况下,同时还要完全服从人类时,这时候人类真的还能“驾驭”具有同样智慧的机器人吗?并且只具有思考和理解学习等能力,而把人类具备的情感能力单独摘出来,这时机器人还能成为人类的帮手吗?


郑重声明:文章仅代表原作者观点,不代表本站立场;如有侵权、违规,可直接反馈本站,我们将会作修改或删除处理。