Johnny Lee on MultiTouch with Wii

john.jpg

Johnny Lee,如果你在 Google 上面打入這個名字第一個跑出來的連結就是這個人的個人網站。他因為利用 Wii 創造了 MultiTouch 以及虛擬實境 (VR) 而聞名。看到 Johnny 充滿喜氣的臉,以及同樣是個創意無限的科學家,讓我想到了 Paprika 這部電影裡面的時田。

Johnny Lee 利用 Wii 來創造了追蹤手指頭以及實踐了 Multi-Touch 的 screen。這個最大的貢獻當然就是能夠把 Wii 拿來當作 Multi-touch 玩,也可以利用 Wiimote 來達成像是關鍵報告中的 Motion Glove。其中背後的原理非常的簡單,利用到的就是一個觀念而已: IR LED 以及只能接受 IR LED 波段的 webcam。

在這邊我們稍微簡述一下 Wii 遙感的背後原理。

基本上 Wii 的 Sensor Bar 裡面是有個 10 個 IR LED,左右各五個。而 Wiimote 上面則是有一個圖像感測器,我們姑且把它想成是一個 webcam, 而在 Wiimote 的前方有一個看起來黑黑的蓋子則是負責過濾到其他的可見光源讓 Wiimote 裡面的圖像感應器只能接收到 IR 的光。

wii.jpg

因此,利用 Wiimote 上面的 camera 所偵測到的 IR LED 的位置,以及接收到的亮度,可以大致上來判斷 Wiimote 在 3D 空間中的位置。所以,Johnny 是怎麼利用 Wii 來達成追蹤手指頭的效果呢? 非常簡單。現在,我們已經知道 Wiimote 是可以接受 IR LED 光源的接受器。因此,我們就把 Wiimote 當成 IR Webcam 就是了,讓 Wiimote 來偵測所偵測到的 IR 光源即可。達到這件事情,Johnny 用了一個 IR LED 陣列,並將這個 IR LED 陣列對著操作者投光。

wii-finger.jpg

如上圖所示,在 IR LED 陣列中間插入 Wiimote 當作接收器。當 IR 的光打在人的身上時,會反射部分的 IR 光回去,而由於手指頭在身體的前面,因此反射回去的光會比較多。但是即使如此效果也不會太好,因此,為了解決這個問題,可以在手指上面套上一個高反射的亮片。如此一來,手指頭所反射回去的光就會比身體其他部分所反射回去的 IR 光源還要多。經過一下圖片上面的處理,就可以辨認出手指頭的位置了 (因為反射光源較多)。當然,如果在手指頭上面直接套上 IR LED 的話,效果會是最好。

同樣的道理也應用於 Johnny 的第二個 Wii Project以及第三個 Project。 所以,這樣子的原理神奇嗎? 其實不神奇,但是有創意的地方是跟 Wii 結合而已。而根據 Wiimote 所開出的 API 最多只支援四個手把,因此也就是說 Multi-Touch 只支援了四個觸控點。因此,如果枝到了背後的原理是不是能玩的花招就更多了? 沒錯。為什麼一定要用 Wiimote?  多麻煩,乾脆自己做一個 IR Webcam (其實不難做,我已經做過了,改天寫一下教學),然後自己寫一個偵測程式不就 ok 了? 沒錯,你想到了,Johnny 也想到了。

所以 Johnny 最新的計畫可摺疊式螢幕就是利用這個概念。

在影片當中,我們可以看到在紙板的角落,或是在扇子的角落上面都裝有著 IR LED,利用這個標記出的 IR LED 位置,我們就可以利用一些圖學的概念把整個平面給重建出來了。然後手指的追蹤,也是利用在手的尖端上面套上面套上一個 IR LED。所以,光是 IR LED 跟一個 IR Webcam 就可以創造出如此神奇的應用。如果要再往前推的話,Jeff Han 的 Multi-Touch Screen 就是利用 IR LED 加上一個 IR Webcam 就做成了 (其實還要有一個全反射的介質),有機會再跟大家介紹 Jeff Han 的 FTIR 的實作。

最後,大家有著最大的誤解就是以為 Johnny 靠著 Wii 拿到了博士,其實,Johnny 在 Projector 跟 Interaction 這個領域浸淫了很久。我發現他不但上過 SIGGRAPH,除此之外,也是 UIST 上面的常客。SIGGRAPH 是圖學界的最高論壇,UIST 是互動 UI 的頂尖論壇。

另外標頭的圖片的 Johnny 拿著的東西是他自己製作的 “窮人的 Steadycam“。因為我們拿著攝影機拍東西時常常會有手震,而動則上千美金的 Steadycam 可不是一般人可以負荷的。所以,Johnny Lee 告訴大家,如何利用 14美金來製作 Steadycam,當然,這也是他自己搞興趣的,還蠻有趣的。

4 Responses to “Johnny Lee on MultiTouch with Wii”

  1. » vgod on Multi-Touch Says:

    [...] 最近在它的 Blog 介紹了如何簡單 DIY Multitouch,vgod 的目標是把 Johnny Lee 的 Project 移植到 Mac 上面去。非常酷,看起來完全 Work! 其實 DIY MultiTouch [...]

  2. » DIY Surface Table (I): NUI & 實作的總類 Says:

    [...] 也可以參考 Johnny Lee 的方式來把 Wii 當成 Multitocuh Device 來用,但是

  3. » MMDays - Mr. Monday - DIY Surface Table (I): NUI & 實作的總類 Says:

    [...] 也可以參考 Johnny Lee 的方式來把 Wii 當成多點觸控 (Multitouch) 儀器來用,但是

  4. Steven Wang Says:

    Hi Sir/Madam,
    We are planning to implement the multitouch technology to a giant screen + table in our retail space. After reading your posts, we found them very helpful. Would you mind to provide us your contact detail so we can inquire a bit more information? Thanks!
    Steven

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Connecting to %s


Follow

Get every new post delivered to your Inbox.