175期
2016 年 12 月 28 日
  北美智權官網 歷期電子報 / 電子報訂閱管理  
 
Amazon Go免排隊結帳實體商店的專利技術解析
蘇之勤/北美智權專利工程研究組

「免排隊、免結帳、拿了就走」- 是《Amazon Go》有別於其他既有的無人商店的特點,也是其最大賣點。不過,天下沒有白吃的午餐,其實從你滿載而歸,走出店門的一瞬間,Amazon就準備從你的帳戶扣款了,這種技術到底是怎麼辦到的?

家喻戶曉的美國電子零售業霸主 ─ 電商巨頭Amazon繼於2015年年底時拋出無人機送貨的新穎服務後,2016年12月初又發布了一項新計畫-免排隊結帳商店Amazon Go[1]。沒錯,你沒看錯,是實體商店,這次線上龍頭要把觸角拓展到線下的實體店面了。


圖片來源:〈Amazon Go〉video 影像擷取(www.amazon.comwww.youtube.com) 

網路起家發跡後再開實體店面的已有前例,Amazon並非首例,無人商店在零售業更是早就存在且一直在發展的概念,那Amazon Go到底哪裡值得期待呢?其最主要的宣傳重點就是免排隊結帳,「No lines, no checkout – just grab and go」。這特點與既有的無人商店概念不太一樣,目前的無人商店有幾種營運模式,例如全部都是販售機的形式,或是採用自助結帳的超市,而Amazon Go的不同之處在於其強調消費者不用排隊等候結帳、不用掃描商品條碼,在進入商店後,拿完想要的商品就可以直接走出店門,省去了排隊結帳這件事。而這看似不用付錢,但其實是在你走出店門時就準備從你的帳戶扣款的技術到底是怎麼辦到的?

2013年申請的專利洩端倪

首先要先強調Amazon Go中的商品上並沒有像是RFID的特殊辨識元件,拿取商品時也不用預先進行如掃描等其他動作一切就跟到巷口的超商買東西一樣,只是你不用到櫃台結帳,拿了就走!Amazon Go預計在2017年初於美國西雅圖開設第一間門市,其宣傳網站目前僅透露運作概念,並未有太多細節的說明,但幸好Amazon這麼大的企業必定不會忘記智慧財產的保護,所以我們可以從它於2013年申請的專利來一探究竟。

圖1. 《U.S. 13/928,345 Fig. 2》

資料來源: USPTO

Amazon申請的美國專利13/928,345的發明名稱是DETECTING ITEM INTERACTION AND MOVEMENT,其在隔年對此案提出了部分延續案(continuation-in-part),案號是14/495,818,發明名稱改為TRANSITIONING ITEMS FROM A MATERIALS HANDLING FACILITY,稍為把claim放大了一些,以下內容皆以345專利為主。

在Amazon的專利中,Amazon Go商店的替代用詞是MATERIALS HANDLING FACILITY (以下簡稱MHF),消費者走進MHF時,會經過閘口通道,MHF會透過多種方式來辨識與確認消費者的身分,最主要的方法是人臉辨識,而使用者亦可使用例如RFID卡或是手機APP等來進入MHF。

如345專利第4圖所示,在使用者身分辨識完畢後,MHF就會開始對使用者在商店內的位置進行定位,方法包括:影像捕捉、透過麥克風收音的到達時間差(Time Difference of Arrival, TDOA)技術、三角定位、GPS等,換句話說,打從使用者進入商店的那一刻,MHF就開始監控使用者的位置,直到使用者離開商店為止。

圖2. 《U.S. 13/928,345 Fig. 4》

資料來源: USPTO

接下來的流程來就是整個Amazon Go的核心了,也就是使用者拿取與放置商品的偵測以及所取放之商品的辨識。參照圖2所示,首先子流程500是關於偵測物品的拿取與放置,也就是偵測物品之「移動」,若子流程500確認物品是被從存貨位置拿取,則會進到辨識所拿取之物品的子流程600,若偵測結果是被放置至存貨位置,則是進到辨識所放置之物品的子流程700,看到這裡我們可以得到一個結論,在使用者拿取或是放回商品的當下,MHF系統並不知道使用者到底拿放了什麼商品,而是必須經由子流程中的一連串比對動作來確認身品的身分。

圖3. 在Amazon Go,隨著消費者從架上拿起或是放下商品,其物品識別碼清單會持續更新。

圖片來源:〈Amazon Go〉video 影像擷取(www.amazon.comwww.youtube.com

由於整個Amazon Go非常倚賴影像辨識,所以MHF中必定會充滿攝影鏡頭,從圖1《U.S. 13/928,345 Fig. 2》可以推斷,至少在天花板以及商品貨架上會裝置攝影鏡頭。當使用者的手準備要從貨架上拿放商品時,MHF就會偵測到有物件(object)靠近,偵測的方式除了攝影機以外,還有光幕(light curtain)等其他偵測裝置來提供輸入值給系統,經由比對物件(也就是手)靠近以及離開的影像,透過畫素分析來判斷使用者是否有拿取或是放置物品。除了比較物件的影像外,子流程500也會比對貨架上位置的前後影像。由於商品平時是靜置狀態,所以移動前的影像容易透過形狀來記錄商品件數,即使消費者一把抓起好幾包洋芋片包裝的上端,還是能夠透過影像的前後比較來得出被拿取或放置的數量。

圖4. 《U.S. 13/928,345 Fig. 6》

U.S. 13/928,345 Fig. 6資料來源: USPTO

圖4《U.S. 13/928,345 Fig. 6》是辨識所拿取之物品的流程,這是Amazon Go是否能順利運作的關鍵,因為如前面提到的,MHF中的商品並沒有像是RFID之類特殊辨識元件,如果有RFID的話,那辨識商品的部分就不是太困難問題,但Amazon Go的商品就如同一般超商的商品,在沒有櫃台掃條碼的狀況下,正確辨識出消費者拿取的商品就非常重要。

對於拿取之物品的辨識方式是藉由比對子流程500中擷取的影像是否與存貨位置紀錄的資訊相符,另外壓力感應器或重量感應器的改變也會作為系統判斷的參考值,MHF系統會根據上述資料產生可信度分數(confidence score),然後確定該可信度分數是否有超過預定的拿取臨界值(pick threshold),如果超過拿取臨界值則通知使用者其所拿取的物品,通知的方式可能會是呈現在商品附近的顯示器或是使用者持有的可攜裝置上。如果可信度分數低於拿取臨界值,這時系統會發通知請使用者確認商品及數量,如果使用者無法回覆確認,則使用者在存貨轉移前必須被審核(audit),MHF會指派相關單位前去確認,而相關單位可能是真人、自動驅動單位或是機器人。

子流程700是接續在步驟407之後,其先從與該使用者相關的物品識別碼清單(item identifier list)中確認已辨識的商品,接續的比對流程與辨識所拿取之物品的流程類似,也是會建立可信度分數來與預設的臨界值比較,差異在於放置之物品的辨識流程700還多了辨識物品是否有被放置在正確位置的步驟,如果沒有被放回正確的貨架,MHF也是會派相關單位前去確認與歸位。


圖片來源:〈Amazon Go〉video 影像擷取(www.amazon.comwww.youtube.com

由於消費者在MHF中的位置與動作都是持續地被記錄著,且消費者的物品識別碼清單也是不斷在更新,所以當消費者拿完商品要離開Amazon Go的時候,通過通道時存貨轉換(inventory transition)的動作就瞬間完成了,系統會在依據物品識別碼清單以消費者設定的付款方式收取費用,無須再排隊結帳,這也是Amazon Go主打的最大亮點。專利說明書中也提到另一種實施例是存貨轉換可延遲約15分鐘,也就是說MHF不會在消費者經過轉換區時馬上進行存貨轉換,假設消費者在延遲時間中重返商店換貨,那物品識別碼清單會繼續更新。

延伸思考以及專利申請難題

(1) 例外狀況的處理
雖然Amazon已經在專利說明書中設想了許多可能會發生的問題及解決方式,但使用者行為有時是難以預料的,例如:如果消費者是一對情侶,A拿了一瓶可樂,但叫B拿回去放,這時候系統有辦法準確的從A的物品識別碼清單移除可樂嗎?

再設想一個比較極端的狀況,如果有心人士想要測試Amazon Go的可信度分數的演算法,進商店時在背包放了一瓶喝完的可樂空瓶但是裝滿了自來水,從架上拿了一瓶新的可樂後把裝滿水的可樂放回去,系統是否有辦法辨識出這瓶被掉包的可樂呢?

(2) 免排隊結帳的真正目的
早期的無人商店最主要的目的是節省人事開銷,但我相信Amazon Go的建置及營運成本絕對高於多顧幾個店員來加快結帳速度,所以可合理推測Amazon的免排隊結帳絕對是醉翁之意不在酒。

Amazon是電商起家的,其對於消費者在網路商店的消費者行為模式分析是箇中翹楚,但線上消費所能記錄的東西遠多於實體店消費,例如網路商店甚至能記錄到消費者的滑鼠在頁面上某處所停留的時間,而目前實體店大多只能從銷售量來推估消費者行為與習慣,所以Amazon Go實際的目的應是想要在線下商店進行線上商店才能做到的大數據(Big Data)分析。由於每個消費者從進門到離開的位置、時間等都完整的被系統紀錄下來,換句話說,每個消費者從進入Amazon Go就化身為一個滑鼠指標,行為模式就能被Amazon掌控。

就某個角度來說,Amazon是以一種聰明的方式達成物聯網(Internet of Things)的概念。目前的物聯網架構中,感應器大多得設置在終端產品或是元件上,但透過影像辨識等多種技術之結合,免去了為每件商品都建置感應元件這項相對繁雜的手續。

(3) Alice rejection
至本文截稿前,13/928,345與14/495,818都是尚未核准的專利,345專利的狀態是收到Final Office Action而818專利則是準備審查中。345專利的claim主體是整個系統,其中的指令包括前文提到的辨識進入的使用者、辨識拿取或放置之商品、更新物品識別碼清單等流程

圖4. 《Claim Rejections -35 USC § 101》

資料來源: USPTO

這裡先不談345專利遇到的先前技術,在審查員發的二份Office Action中,都收到專利適格性(35 U.S.C 101)之核駁,也就是最近令許多申請人頭痛的Alice rejection,審查員以現行的二階段分析方式認定345專利的claim是指向抽象概念且並未顯著超過該抽象概念。這類的核駁並非無解,但若申請人沒有適應地更改claim撰寫方式或是提出具有說服力的進步說明,可能難以通過USPTO的專利審查。

註釋

 

作者: 蘇之勤
現任: 北美智權專利研發部專利工程研究組研究員
學歷: 政治大學科技管理研究所碩士
交通大學材料與工程學系學士
經歷: 法律事務所專利工程師

 

Facebook 在北美智權報粉絲團上追踪我們       

 





感謝您閱讀「北美智權報」,歡迎分享智權報連結。如果您對北美智權電子報內容有任何建議或欲獲得授權,請洽:Editorial@naipo.com
本電子報所登載之文章皆受著作權保護,未經本公司授權, 請勿轉載!
© 北美智權股份有限公司 & 北美聯合專利商標事務所 版權所有     234新北市永和區福和路389號五樓 TEL:+886-2-8923-7350