意念操作机器人成真!李飞飞团队打造,做家务玩游戏样样能行
2023-12-05 03:27:11

西风 发自 凹非寺。意念游戏样样
量子位 | 大众号 QbitAI 。操作

斯坦福李飞飞 、机器吴佳俊带队让《阿凡达》 。人成意念操控。真李照进了实际 !飞飞

现在,团队仅仅是打造需求动动脑子就能操作机器人。

想吃寿喜锅不必自己着手,意念游戏样样切菜备菜 、操作倒入食材  ,机器机器人趁热打铁  :



煮饭 、人成烹茶样样都行 :



忙完还能顺便把桌面清理了:



你认为这就完了 ?这个机器人玩起游戏来也是真李一把能手:



乃至还能帮你熨衣服 :



关键是,周围的飞飞操作者仅仅是需求坐在那里“冥想”即可 ,无需手摇摇杆。团队



能做到这些,都要得益于研讨团队最新开发脑机接口体系—— 。NOIR。。

这是一个通用的智能体系 ,运用者无需佩带侵入性设备,机器人能够从脑电信号中解码人类目的 。

而且它还配有一个“技术库” ,能够随意组合各种技术完结人类指令,轻松应对高达。20项日常使命。  。

要知道,惯例脑机接口体系一般仅仅是专心于一项或几项使命  。

现在这项研讨已收录于机器人顶会CoRL 2023:



围观网友一口一个哦买噶 :

  • 哦买噶,游戏规则改动者!



清华叉院助理教授许华哲也来谈论区助威:

  • 哦买噶 ,赛博朋克!



这个NOIR体系终究是什么 ?机器人为何能完结这么多使命 ?

20项使命轻松拿下。

正如上文所说 ,这个机器人精干的事儿多着呢 。

干酪撒粉这种使命也能轻松完结 :



拆包裹 、收拾桌面这种活就更不在话下 :





而其背面的这个NOIR体系 ,简略来说能够分为两部分:模块化解码管线、有原始技术库的机器人体系 。

主打一个让机器人主动学习猜测人类目的 。



详细来说,模块化管线将解码人类目的进程分为三个模块:

1)挑选什么目标?

方法是在屏幕上显现使命场景,运用目标的闪耀影响发生SSVEP信号;每个目标以不同频率闪耀,人类凝视某目标时 ,脑电信号中该频率成分增强 。

然后用Canonical Correlation Analysis(CCA)方法 ,剖析不同频率的相关性 ,承认人类凝视的目标 。

2)怎样交互?

这部分是经过提醒人类幻想履行某些技术(左手 、右手等)发生运动意象信号 ,然后运用滤波和Common Spatial Pattern (CSP)算法预处理信号 。

最终运用Quadratic Discriminant Analysis (QDA)进行4类辨认 ,承认技术挑选。

3)在哪交互 ?

人类幻想操控光标的左右运动来挑选技术履行的详细参数。相同经过CSP和QDA处理并解码脑电信号,判别人类是左仍是右 。

研讨人员还设置了安全机制,选用肌肉严重信号来承认或回绝脑电信号解码效果  ,防止解码过错导致的危险 。



之后 ,机器人装备了一系列参数化的根本技术 ,例如Pick(x  ,y,z)、Place(x,y,z) 、Push(x ,y,z ,d)。

能够组合运用这些技术来完结人类指定的各种使命  。



在这个进程中 ,解码人类目的既费时又费钱。因而研讨团队挑选让机器人用依据检索的少样本学习,来学习人类的目标 、技术和参数挑选 。

这样一来,在给定一个新的使命时  ,机器人会在回忆中找到最相关的经历 ,并挑选相应的技术和目标 。



举个例如,假设人类在履行抓取杯子的使命,挑选了在杯子的某个特定方位抓取(例如杯子的把手)。机器人会记载下其时的图画 ,以及人类挑选的抓取点。

在之后的使命中,当机器人看到新的杯子图画时,它会首要依据预练习模型来剖析这个新图画 ,提取图画的语义特征 。

然后核算新图画的特征和之前记载的练习图画特征之间的类似度 ,找出最类似的一个点 ,作为它猜测的抓取方位。

经过这种匹配图画特征的方法,机器人仅仅是需求人类演示一次参数挑选 ,就能够在未来自己猜测参数,而不需求人类每次都彻底从头挑选一遍。



运用NOIR体系 ,3名人类参与者完结了上面咱们所介绍的20项日常活动使命 ,其间包含16个桌面操作使命和4个移动操作使命。



在测验中,每个使命均匀需求测验1.8次就能成功 ,均匀完结时刻为20.3分钟,这其间首要是人类决议方案和解码耗时  ,占总耗时的80%。



试验各阶段的解码准确率和其它脑机接口研讨差不多,但运用这种方法能够将目标和技术挑选时刻下降60% ,从45.7秒缩减到18.1秒。



作者简介 。

除了李飞飞教授 、吴佳俊教授带队 ,论文一起一作有四位  ,分别是 :

Ruohan Zhang。



Ruohan Zhang是斯坦福视觉与学习试验室(SVL)博士后研讨员 ,一起也是Wu Tsai Human Performance Alliance研讨员。

首要研讨方向为机器人技术、人机交互、脑机接口、认知科学和神经科学。

Sharon Lee。



Sharon Lee是斯坦福大学视觉与学习试验室(SVL)研讨生研讨员 。

Minjune Hwang 。



Minjune Hwang是斯坦福大学核算机科学研讨生,于加州大学伯克利分校取得核算机科学和统计学本科学位 ,曾在亚马逊 、微柔和苹果进行研讨 。

Ayano Hiranaka。

斯坦福大学研讨生,本科毕业于伊利诺伊大学香槟分校 。

论文链接 :https://arxiv.org/abs/2311.0145。

参照链接:
[1]https://twitter.com/drjimfan/status/1722674119794434187。
[2]https://twitter.com/ruohanzhang76/status/1720525179028406492 。

(作者:车载配件)