全球疫情對AI機器人自動化產品發展的影響/Bastiane Huang

新冠肺炎敲響警鐘,也提醒所有AI機器人和無人駕駛公司停止開發「華而不實」的功能展示,而要專注發展真正為使用者帶來價值、不需人工干預,也可以全天24小時自動運作的實用AI解決方案。

受到疫情影響,全球數百萬人被迫在家工作。零售商努力維持正常供應,而緊張的消費者也正想盡辦法,從各種管道購買衛生紙之類的各種民生必需品。

在全球公司及政府疲於奔命的狀況下,中國電商巨頭京東開始在武漢測試自動送貨機器人,測試每天24小時運作的自動化倉庫,來因應激增的需求。

突然間,機器AI自動化所需要的,不僅僅是概念的驗證;它們不能再依賴現場工程師支援突發狀況,而必須能夠自行在各種現實環境中獨立工作。

這一次的疫情,不僅讓原本已經走向自動化的未來提早成真,也暴露了AI創業領域長期存在的問題:太多讓人眼花撩亂的科技展示和話題炒作,讓人很難正確判斷產業真正的發展趨勢。

我們需要在以下三個方面推動改變:

1. 重新思考指標

隨著我們在現實世界中採用更多自主AI機器,諸如速度、成功率等傳統指標,已經不能反映全部的情況;我們需要透過「可靠度指標」(robustness metrics),來全面衡量「系統在不確定狀況下的可靠性」。例如送貨機器人平均在送貨幾次之後,才需要人為介入來確保成功送達?

我們需要更多的工具和產業標準,來評估各種未知狀態下的整體系統性能;因為現實生活不同於實驗室,是完全不可預測的。

即使送貨機器人可以達到每小時6公里的最高前進速度,但如果在沒有人工支援的狀況下,就無法獨立完成單次送貨,那麼事實上並沒有為用戶創造多少價值。

DevOps」(開發維運)這個詞在幾年前出現,可以說是「開發」、「測試」、「維運」三者的結合;它的目的在於縮短軟體開發週期、確保高品質的軟體產出。

與一般軟體工程相比,AI人工智慧或ML機器學習的產業成熟程度要低得多;根據調查,有高達87%的ML專案在投入生產之前,就已經宣告失敗。

然而,最近我們開始看到「MLOps」或「AIOps」(ML/AI加上「開發維運」)的出現;這代表著ML/AI從學術研究變成實際產品的重要轉變。

這樣的改變需要更多心態調整:

不只看最先端ML研究,也專注於品質管理和軟體工程。

並不是說兩者不能兼顧,而是到目前為止,多數公司往往專注於前者,而忽略對開發實用產品可能更重要的後者。

2. 重新設計錯誤處理與用戶體驗

無人駕駛公司Starsky最近宣布解散的新聞提醒我們,離Level 5完全自主的自動化解決方案還有一段距離。

這並不代表AI機器人不能給人類帶來價值;正如我在前文中提到的,即使人類仍需要處理15%的突發狀況,公司依然可以降低大量的勞動力和整合成本。

https://tuna.press/?p=12814&hilite=%27bastiane%27

https://medium.com/@Bastiane/%E6%8F%AD%E7%A7%98%E9%9B%BB%E5%95%86%E9%BE%8D%E9%A0%AD%E4%BA%9E%E9%A6%AC%E9%81%9C%E4%B8%8D%E6%83%B3%E8%AE%93%E4%BD%A0%E7%9F%A5%E9%81%93%E7%9A%84%E8%87%AA%E5%8B%95%E5%8C%96%E7%AD%96%E7%95%A5-57f5bc14eaf7

然而,目前許多AI 公司專注於開發自動系統,而忽略了短期之內人類與機器需要共處的事實;所以現在必須徹底思考交接任務、溝通錯誤訊息等實際需求,讓人和機器之間的互動可以更加順利。

尤其因為AI產品的不確定性比一般軟體產品更高、演算法又缺乏透明度,因此更需要重新思考用戶體驗。例如,是否可以顯示模型預測的信心水準,或是將預測定位為建議、而非最終決策,來近一步獲得使用者的信任?

同時,我們也需要將錯誤分級、設計相應的應對機制、優先減少致命錯誤;並確保機器在發生重大錯誤而停止工作時,我們能快速回應、並且遠端排除故障。

其中最困難的部分是「識別未知錯誤」,也就是看出系統先前無法檢測的錯誤;因此,進行雙向溝通、允許用戶回報錯誤、或是選擇回覆先前的設定,也是非常重要的。

3. 重新定義人機互動方式

新冠病毒疫情迫使更多公司更快接受自動化方案、並且轉向雲端;而未來每一位遠端工程師需要操作的機器人,也將會越來越多。

從每人控制五台保全機器人,變成每人控制十台機器人時,我們是否擁有正確的工具和感知技術,能即時將所有相關資訊傳遞給決策者?每個機器人上是否有足夠的感測器來提供完整的資訊圖像?

今天,我們多數依靠平板電腦之類設備上的「觸覺輸入」來控制機器;但未來資訊量飆升、回應時間縮短的狀況下,我們是否應該考慮觸覺以外的人機介面,例如語音、VR/AR、甚至腦波介面等等?

同時,我們也需要決定誰有「最終決策權」:既然機器變得越來越聰明,最後決定是不是一定要由人類來做?

例如,誰應該控制無人車?汽車本身、人類安全司機、遠程監控的作業人員、還是乘客本身?在不同情況下又有什麼差異?還是應該由人類和機器共同做出加權判斷?這些決定中的道德含義是什麼?操作介面能否支援多步驟共同決策?

https://tuna.press/?p=13899

結語

最後的問題是,我們如何設計以人為本的AI,以確保自動化機器使我們的生活更美好,而不是更糟?

我們如何建立一個人類與機器的混合團隊,達成更好的成果,並且讓人類和機器相互學習

需要我們回答的問題還很多,而且當前的疫情正迫使我們更快回答。如果這些AI公司能夠專注於上面概述的三個領域,我們將能夠更好、更快得出關鍵結論,以確保我們朝著正確的自動化方向前進。