能預約餐廳的 Duplex 沒說自己是 AI，這會是人工智慧的道德困境嗎？ |
作者 愛范兒 | 發布日期 2018 年 11 月 28 日 13:05 | 分類 AI 人工智慧 , Google |
最近遭受道德困境的不只是基因編輯，還有人工智慧。在今年夏天的 Google I/O 大會上，Google 向大眾展示了一項名為 Duplex 的 AI 新功能──代替你預約理髮或餐廳訂位。
這項功能之所以這麼受人關注和讓人激動，最大的原因是接近以假亂真讓 AI 用自然語言和人類交流，而人類甚至完全沒意識到電話另一頭並不是真人，而是 Google 的 AI。
最近，這個服務終於在 Pixel 用戶群組小範圍測試了。根據 VentureBeat 報導，目前 Google 正緩慢推送這項服務，不是直接正式開放，目前只在「精選城市」中的 Pixel「精選用戶」測試，凡是支援這個服務的人上輩子大概都是被選召的孩子吧。
此外。這個服務目前功能也非常有限──哪怕跟 Google I/O 的展示版比。因為目前測試並不支援理髮預訂（Google I/O 專門展示一段預約理髮的影片），只集中在餐廳預訂，此外，一些餐廳也因一些不明原因無法支援。
向大眾開放 Duplex 是非常好的事，我們終能親自檢驗人工智慧領域的佼佼者究竟達到何種地步。但最近一些測試，Google Duplex 卻讓人產生擔憂，當然這不是說它在智慧方面超出大眾預計，而是整個對話過程，Duplex 都沒有告訴對方自己只是 AI 服務。
當 Duplex 預約時只告訴對方「這個電話來自 Google，並可能會被記錄」，僅此而已，之後它就按部就班預約餐廳，並在處理完成後掛斷電話。
（Source：影片截圖）
這顯然跟之前的宣傳不符，The Verge 表示，Google 今年 6 月 YouTube 的宣傳影片，Duplex 會清楚表示是人工智慧服務，表示這通電話是透過 Google Assistant 打來並為客戶預訂。
對於為何會出現不同的處理，The Verge 表示根據熟悉早期測試的人士說，這個測試並不完全由 AI 構成，即一部分來自 Google 員工，其他部分是 Google 的 AI。所以 Google 沒有透露人工智慧助理的資訊。
顯然，人和 AI 的界線被模糊了，因為 Duplex 聽起來和真人非常接近，它有停頓、會有各式各樣語調和語氣詞。但對大眾來說，這測試會理解為完全使用 AI 進行，而在人和 AI 的對話中，人們非常需要 AI 表明自己的身分。
Venturebeat 表示 Google 需要找到完美的平衡：
準確而智慧，透明而誠實。
另外，Google 也在部落格展示 Duplex 如何工作的。
Google 表示，這是一項透過手機來執行「真實世界」任務的新技術，核心就是面對自然語言的挑戰：自然語言難以理解，自然行為難以建模，需要快速處理以及使用恰當的語調進行自然語言發聲，都是難點所在。
Google 也明確表示透明度是重要的部分，Google 需要明確告知意圖而對方理解前後文，未來幾個月 Google 會在這方面繼續調整。
（Source：Google）
而讓 Google Duplex 的對話聽起來很自然要歸功於遞迴神經網路（RNN），為了應對這些挑戰採用 TensorFlow Extended（TFX）構建。為了提高精準度，Google 還透過匿名電話的會話數據在資料庫訓練 Duplex 的遞迴神經網路；他們還為每個場景專門對理解模型進行了訓練，最後透過理解、互動和時間完成 Duplex「口語」的進步。
最後 Google 表示，Google Duplex 朝著像人類和他人互動一樣與技術互動邁出了一步，自然語言與人工智慧的交流在特定場景成為現實。Google 希望這些技術進步最終有助於改善人們與電腦日常互動的體驗。
但就像開頭說的，與真人界線的模糊更需要 AI 先驗明正身，而不是裝作和真人無異，這對人類來說是一件很重要的事，或說需要這種儀式感。隨著技術演化前進，AI 可能很快就在大部分語音領域達到接近人類的水準，屆時關於人工智慧的倫理問題，將更直白地擺到桌上。
從結果講，人類並不願意和與真人幾近無異的 AI 對話，這會給我們不安全感，類似的事情其實也發生在外貌，著名的恐怖谷理論看來不僅可用在外貌，其實語音也有相似狀況。
Oxford Internet Institute 的數位道德實驗室博士 Thomas King 就直接表示，Google 這項測試其實就是騙局，假定人類和 AI 已無法區分，那對總機來說，會認為自己一直在和一群機器對話（所以總機也換成 AI 不就好了？），他還能保持和以前一樣的溝通方式嗎？沒有禮貌和更粗魯是不是也沒關係？哪怕接到一通真人的電話，但這種想法或許已在他腦中揮之不去了。
對人類來說，如何思考人與科技的關係已是日常話題，我們也不缺乏相關科幻電影的想像，比如阿諾·史瓦辛格主演的《魔鬼複製人》就討論人與複製人的倫理衝突，2004 年《機械公敵》把艾西莫夫三定律帶進大眾視野，電影《雲端情人》則進一步探討人類和人工智慧的情感問題。
但等到 Duplex 把人類與人工智慧的關係在現實中擺出來時，人類可能才發現自己有多麼敏感和自我保護。對 AI 沒有標明身分這件事，我們已衍生出很多問題和想法，在人與人工智慧產生聯繫的過程中，雙方的地位、責任及更多事都會變得難以認定。
某些時候，如果我們忽略一些 Bug，其實電腦是比人類更完美的形態，它們能確實反映出你的行為和如實給你要的結果，但隨著人工智慧模擬真人越來越像，我們可能更容易和 AI 產生矛盾和摩擦，導致與預期結果不符或受到其他損失。
因為，人類就是如此不完美的生物啊。
（本文由 愛范兒 授權轉載；首圖來源：shutterstock）
留言
張貼留言