Duplex太逼真嚇壞人，Google將讓AI語音助理表明「我是機器人」

Google本周在Google I/O開發者大會上展示足以以假亂真的 AI語音機器人科技Duplex 引發批評，周四Google表示之後會讓Duplex自我揭露身份。

Duplex是集合Google自然語言理解、深度學習以及語音合成（text to speech）的研究成果。本周二在Google I/O 開幕演說中，執行長Sundar Pichai展示了數段由Google Assistant打電話給店家預訂餐廳及髮型設計師的錄音。Duplex為基礎的Assistant只表示是代「客戶」訂位，聲音幾與人類無異，不但能與店員來回對話、協調時間，還能在句子中適切加入「嗯…」、「呃哼」、「哦」等語助詞，成功在對方毫無察覺情況下完成預約。

Google展示以假亂真的Duplex語音助理技術（影片35分鐘開始）：

然而Duplex幾可亂真的表現嚇壞不少人，也引起批評聲浪。有人認為AI和人類聲音應該要加以區隔，就像刻意在無色無味的瓦斯中加入臭味，科技評論家Stewart Brand也指出合成聲音應該就聽起來是合成的，任何以假亂真的事物將破壞信任，而當沒有信任就會引發失序。

This sounds right. The synthetic voice of synthetic intelligence should sound synthetic.

Successful spoofing of any kind destroys trust.

When trust is gone, what remains becomes vicious fast. https://t.co/pnh2y45Z6k

— Stewart Brand (@stewartbrand) 2018年5月9日

Zeynep Tufekci也表示Duplex不但沒有揭露自己的身份，還加入類似人聲的語助詞，引起現場參加者一片歡呼，這場景「十分駭人」。他批評矽谷科技業者已經道德迷失、恣意妄為，完全沒有學到教訓。

Google Assistant making calls pretending to be human not only without disclosing that it's a bot, but adding "ummm" and "aaah" to deceive the human on the other end with the room cheering it... horrifying. Silicon Valley is ethically lost, rudderless and has not learned a thing.

— zeynep tufekci (@zeynep) 2018年5月9日

Google也有所回應。周四Google對CNET表示，從一開始Google就聲明科技的透明度是很重要的，Google將為Duplex加入自我揭露的功能，確保Duplex系統「適當表明身份」（appropriately identified）。Google還表示本周的展示只是Duplex的初期研發成果，Google也樂意參考外部意見。

Google預計今年夏天將開始早期測試Duplex。