亚马逊首家“无人超市”bug?记者中途换装骗过摄像头-冯金伟博客园

  作者/牛婉杨

  来源:大数据文摘(ID:BigDataDigest)

  2018 年,亚马逊推出了无人便利店 Amazon Go,本着“无需排队、拿完就走”的理念在当时掀起了一番热潮。两年后,亚马逊“无人购物”升级,又在西雅图开设了“Plus 版无人超市”Amazon Go Grocery(以下简称 AGG)。

  新的超大无人超市占地面积达到了 966 平方米,供货数量与之前的无人便利店相比也高了一个等级,无人销售的识别也因此更加困难了。

  新开业的无人超市再次吸引了一批想要吃“霸王餐”的挑战者,一位记者就在这家超市营业的第一天,找到了 bug,通过变装的方式成功骗过了摄像头。

  占地 966 平方米,“天眼”系统升级

  与 Amazon Go 相同,AGG 依然采用了“Just Walk Out”技术,融合了计算机视觉,传感器和深度学习。当地的消息人士称,传感系统被放置在商店的天花板上,仿佛“天眼”一般,而不是当你拿起某样东西时会检测到重量或库存变化的压力感应垫。

亚马逊首家“无人超市”bug?记者中途换装骗过摄像头-冯金伟博客园
Amazon Go Grocery 传感器阵列

  现在看来这项技术变得更加成熟了,天花板上的传感器盒中有两个可见的传感器,而 Amazon Go 的传感器盒中只有一个。

  购物时只需在门口扫描 Amazon Go 应用的二维码就可以进入商店,如果带了朋友或小孩,只要多刷一次,让同行者先进去就可以了。“Just Walk Out”技术可以自动检测何时从货架上取走产品或将产品退回货架,并在虚拟购物车中对其进行跟踪。购物完毕后,可以直接离开商店。随后会收到收据并向你的亚马逊帐户收费。

  虽然是无人超市,但并不意味着没有员工,亚马逊在官网表示,“员工团队是 Amazon Go Grocery 体验中重要的一部分。可以看到我们的员工在门口向购物者打招呼,在货架区域补货等。我们只是改变了员工的工作方式,以便他们可以为购物者提供更出色的体验。“

  AGG 占地约966 平方米,提供小型购物车,免费的环保购物袋,还设有一个充满家居用品的过道,包括洗衣粉和洗发水,以及一个酒水专区,要求购物者在进入之前向员工出示身份证。

亚马逊首家“无人超市”bug?记者中途换装骗过摄像头-冯金伟博客园

  23 岁的 Maddison Nicholas 在无人超市购物时表示,价格似乎比 Whole Foods(也归亚马逊所有)或 QFC(优质食品中心)便宜。但是,当购买的商品装满购物袋时,她表示,相较于传统的超市,自动结算系统会让她在无形中多拿很多商品。

  离开商店而无需扫描商品总归令人有些不安,也许这就是在入口处贴着一个巨大的标语“Just Walk Out Groceries”的原因。

  关于亚马逊全球首家无人超市,《卫报》记者也采访了周围的居民。

  73 岁的 Stephen Sheldon 家离无人超市 9 个街区,他认为这套自动系统“很有趣”,但并不是很令人信任。他说:“除非我想好了要买这个商品,否则恐怕我什么都不会碰。”他家附近有三家普通的杂货店,所以无人超市不会是他的首选,而且他也更喜欢传统的杂货店。

  现年 36 岁的 Rex Farrand 则很喜欢这家无人超市,并谈到了自动化系统的便捷,“如果我抽空来到这里,我知道我可以自己决定在超市停留的时间,不会因为排队结账而耽误时间。”

  创新总是需要面对考验的,从技术角度来说,肯定会有很多人好奇这个技术能否准确识别每一个商品,比如在识别橘子和橙子这种形状与颜色相似的水果时会不会出现错误,甚至有人会去亲自试探这个系统有没有 bug。

  记者中途换装,结算时部分商品未被识别

  但是,就像当年第一家亚马逊无人便利店开业时一样,一大批科技发烧友在亚马逊无人超市开业第一天就各显神通,希望来挑战是否能够逃过高科技的“监视”。

  2 月 25 日 AGG 开业当天,Ars Technica 的一名记者 Sam 就来到了这家无人大超市。

  首先,为了测试传感器能否准确识别拿起的商品,Sam 的两只手分别拿了各种各样的水果和蔬菜,然后把手伸到背后,在双肩背包下面交换手上的物品,再把它们放回各自的位置。最后只拿了一个牛油果。

  然后,Sam 把目标放在了香蕉上。在当地的超市,普通香蕉和有机香蕉紧挨着,不过后者用黄色胶带绑了起来。

亚马逊首家“无人超市”bug?记者中途换装骗过摄像头-冯金伟博客园

  Sam 把无人超市里一些普通香蕉捆在一起,模拟成有机香蕉的样子,在商店里转了一圈后,他左手拿着他捆好的香蕉,另一只手拿着有机香蕉,双手在背后交换,这个过程中偷偷在他的后背和背包之间塞了一根香蕉。再把剩下的两捆香蕉放回各自的箱子里,接着他去了在 Amazon Go 里没见过的地方:洗手间。

  这些传感器“目送”Sam 走进了洗手间,进去后他就立刻打开背包,把香蕉放了进去。当时甚至觉得自己的行为有些滑稽,“这根香蕉可能并没有被摄像头察觉到,我做这些是要干嘛?”这时突然 Sam 的脑子里闪过一个念头:换装。

  因此 Sam 穿着一件黄色的长袖衬衫和一个背包走进了这家超市,又穿着一件灰色的夹克和一件蓝色的t恤走了出去。另外,他把背包放在胸前,还摘下了戴在头上的那副太阳镜。

  系统对他的订单果然处理了很久,在他走出商店四个小时后,终于收到了来自 Amazon Go 的通知:你的订单已处理!结果很有趣:

亚马逊首家“无人超市”bug?记者中途换装骗过摄像头-冯金伟博客园

  Sam 在换装之前的一系列操作均未妨碍到 AGG 的传感器阵列,准确地识别出他拿的一个牛油果,以及藏在身后的一根香蕉。但是,他换好衣服离开洗手间后,又拿了两件物品,总计 6 美元,系统并未识别出是 Sam 所拿。而且他的购物时间并不是页面上显示的 2 小时 23 分,实际上Sam 只在超市停留了 20 分钟。

  当然,记者 Sam 只是想要测试系统,并非盗窃,他表示自己会退还那些没有收费的商品。

  其实,早在两年前无人便利店 Amazon Go 开业时,就有一些好奇的同学想要做一些大胆的尝试。

  曾有一位同学,在便利店溜达了一圈之后,为了不让摄像头看到他,他拉起毛衣包住脸,悄咪咪趁着没人把一根营养棒顺进了兜里。感觉有点渴了,又往包里揣了一瓶矿泉水。

  为了进一步测试亚马逊的安保能力,他还在 App 里点击了“退出登录”,把自己的亚马逊账号登出了。

  表面上无事发生,然而当他走出便利店5 分钟后,便收到了电子凭证,一样不落。

亚马逊首家“无人超市”bug?记者中途换装骗过摄像头-冯金伟博客园

  这位同学自己也调侃道,“不要耍小聪明,果然贝佐斯是不会放过我的。”

  人家从 16 年就开始试运营,到现在对于“Just Walk Out”这项技术一定是绝对自信的,那这项技术究竟厉害在哪里呢?

  亚马逊:我们的技术是高度精准的

  早在 2016 年,亚马逊推出无人便利店体验店时,就刷爆了国内外的社交媒体。这种移动支付颠覆了既有商品交易方式,莫名有一种“抢劫”的快感。

  人们被这种新奇的似乎隐含了某种黑科技的新型购物方式所吸引。不仅是普通人,就连斯坦福教授李飞飞、著名科技出版公司O’reilly 创始人 Tim O’Reilly 都特地发推点赞。

亚马逊首家“无人超市”bug?记者中途换装骗过摄像头-冯金伟博客园

  李飞飞:计算机视觉十分显著和绝妙的应用! 

亚马逊首家“无人超市”bug?记者中途换装骗过摄像头-冯金伟博客园

  Tim O’Reilly:零售业的未来,我对此已经期待很多年了。

  在 Quora 上,有一位名为 Brian Roemmele 的网友挖出了几年前亚马逊提交的两份专利文件,都描绘了十分庞杂的应用场景,包括:货仓、船运、零售市场等。

  这两份文件名称为:“侦测物体互动和移动”(Detecting item interaction and movement)和“物品从置物设备上的转移”(Transitioning items from the materials handling facility),两文件分别于 2013 年和 2014 年申请。

  亚马逊在 2014 年提交的相关专利报告中解释道,比起仅依赖人脸识别的识别/反作弊机制,他们采用的是一种更系统的方法。

  在天花板上布置了上百个摄像头,当顾客走进商店时,摄像头会自动识别顾客,并在顾客扫码入场时登记顾客的亚马逊账号。一旦顾客进入店内,摄像头会一直跟踪顾客的行动,并通过多个摄像头的配合锁定顾客的位置。

  为了减少误差,亚马逊无人店的货架和天花板上也装置了多个麦克风,可以根据音频回传的时差辅助定位顾客。

  我们可以从下面一张图里,一窥亚马逊无人商店的基本原型。

亚马逊首家“无人超市”bug?记者中途换装骗过摄像头-冯金伟博客园

  专利文件里描述到,天花板上的 208 用来采集用户和货品的位置、货架两侧的 208 用来捕捉用户的图像和周围的环境,货架内的 208 用来确定货品的位置或用户手的移动(进入和离开货架)。

  雷锋网曾采访无人零售商店创业者陈维龙,他把 Amazon Go 系统“拆分”为三部分:人、货架、进出口。其中硬件软件构成如下表:

亚马逊首家“无人超市”bug?记者中途换装骗过摄像头-冯金伟博客园

  总的来说,亚马逊无人商店的反作弊/识别系统是通过“商品—识别动作—识别承受动作的商品—商品与用户清单/用户关联”进行运作的。

  对反作弊/识别系统而言,它只需要知道哪些商品被拿走或放回了,并且知道是谁实施的,那么就知道是谁购买/放回了什么商品。最后在出口(转移区),顾客刷卡确认顾客与商品的关系即可。

  亚马逊的一位发言人表示,“我们花了绝大多数时间来考虑改善 99.9% 的善意购物者的体验,而不是设计一个专注于阻止少数坏人的系统。”

  “总的来说,我们的技术是高度精确的。”

  相关报道:

  https://www.theguardian.com/us-news/2020/feb/25/amazon-go-grocery-supermarket-seattle-technology

  https://arstechnica.com/information-technology/2020/02/amazon-made-a-bigger-camera-spying-store-so-we-tried-to-steal-its-fruit/

  https://www.leiphone.com/news/201612/WRNdiEy9aTRUWIzB.html

  https://www.leiphone.com/news/201612/4wAZ8E3Ufsozz43I.html?spm=a2c4e.10696291.0.0.259719a4u3xkXc

  https://mp.weixin.qq.com/s/8Zy-m3K4VpL09wkKGu97QA