術(shù)和產(chǎn)品上取得很大進(jìn)展，但在自然語(yǔ)言理解、算法魯棒性、領(lǐng)域外的泛化能力等方面也面臨新的挑戰(zhàn)?！斑@些挑戰(zhàn)隨著技術(shù)的迭代、產(chǎn)品的發(fā)展，會(huì)變得越來(lái)越多?！?/span>
語(yǔ)音助手也要有價(jià)值觀
隨著智能語(yǔ)音助手更多滲透到我們的生活中，安全和隱私問(wèn)題開(kāi)始逐漸成為人工智能發(fā)展過(guò)程中的一大關(guān)注焦點(diǎn)，比如我們?cè)诩依锔嬖V家人銀行卡密碼的時(shí)候，會(huì)不會(huì)被手機(jī)上的智能助手或家里的智能音箱偷聽(tīng)到？
對(duì)此，黃民烈認(rèn)為，從技術(shù)上來(lái)講，最難的是智能助手得知道什么樣的信息屬于隱私，聽(tīng)到是一回事兒，最關(guān)鍵的是會(huì)不會(huì)說(shuō)出來(lái)，什么樣的信息能說(shuō)，什么樣的信息不能說(shuō)，這才是最根本的地方。
“人在講任何話的時(shí)候可能知道潛在的后果是什么，會(huì)帶來(lái)什么樣的影響，但機(jī)器人它不知道，這也涉及到各種常識(shí)，相關(guān)研究是很重要的事情?！秉S民烈說(shuō)到，這可以通過(guò)技術(shù)的手段來(lái)實(shí)現(xiàn)。
由安全和隱私而引發(fā)的信任問(wèn)題可能會(huì)成為阻礙智能語(yǔ)音助手進(jìn)一步發(fā)展的絆腳石。咨詢(xún)公司埃森哲曾經(jīng)發(fā)布的一項(xiàng)調(diào)研顯示，從國(guó)內(nèi)受訪者來(lái)看，安全顧慮（45%）、設(shè)備未能理解用戶(hù)需求（42%）以及隱私問(wèn)題（40%）是三大最主要的擔(dān)憂。此外，有34%的中國(guó)消費(fèi)者表示，他們不知道哪些個(gè)人數(shù)據(jù)為智能語(yǔ)音助手所用，透明度有待提高。
一般來(lái)說(shuō)，要想使得智能語(yǔ)音助手達(dá)到更好的體驗(yàn)，就意味著需要獲取用戶(hù)更多的信息，或讓渡自己更多的權(quán)利，如何把握這個(gè)邊界非常重要。
李笛在分享中就提到了常見(jiàn)的Long-termmemory（長(zhǎng)期記憶網(wǎng)絡(luò)，一種算法，可以記住長(zhǎng)時(shí)間段的信息）問(wèn)題，將其放到產(chǎn)品中來(lái)，就會(huì)涉及到AI倫理問(wèn)題——是不是允許對(duì)用戶(hù)進(jìn)行畫(huà)像？是不是能夠記錄或者嘗試分析用戶(hù)各方面的特點(diǎn)？
他表示，AI倫理還處于非常早期的階段，但從某種程度上來(lái)講，智能語(yǔ)音助手需要了解到的信息不用那么多，就可以做到和人之間是很好的朋友關(guān)系。但實(shí)際情況是用戶(hù)會(huì)恐慌，企業(yè)也會(huì)恐慌。他認(rèn)為，人和智能語(yǔ)音助手要想達(dá)到很默契的狀態(tài)，Long-term memory不需要特別多。
黃民烈從技術(shù)上就智能語(yǔ)音助手的人性化體驗(yàn)和法律倫理的邊界進(jìn)行了分析。他認(rèn)為，這涉及到兩個(gè)關(guān)鍵點(diǎn)，一是個(gè)性化，其本質(zhì)是把助手的能力跟用戶(hù)的個(gè)人信息、偏好、愛(ài)好做匹配；二是真正好的智能助手應(yīng)該具有持續(xù)學(xué)習(xí)的能力，在跟人交互的過(guò)程中能夠聽(tīng)從人類(lèi)指令，可以從人的反饋中不斷學(xué)習(xí)，自動(dòng)地去積累知識(shí)，讓它的能力持續(xù)躍升。
“這就涉及到很多價(jià)值判斷，得知道什么東西學(xué)，什么東西不學(xué)，其實(shí)就是要給機(jī)器人一個(gè)正確的價(jià)值觀?！秉S民烈表示，但這個(gè)價(jià)值觀是什么非常復(fù)雜，跟文化、地域都有關(guān)系，還需要去探索。