全球疫情對AI機器人自動化產品發展的影響／Bastiane Huang

新冠肺炎敲響警鐘，也提醒所有AI機器人和無人駕駛公司停止開發「華而不實」的功能展示，而要專注發展真正為使用者帶來價值、不需人工干預，也可以全天24小時自動運作的實用AI解決方案。

受到疫情影響，全球數百萬人被迫在家工作。零售商努力維持正常供應，而緊張的消費者也正想盡辦法，從各種管道購買衛生紙之類的各種民生必需品。

在全球公司及政府疲於奔命的狀況下，中國電商巨頭京東開始在武漢測試自動送貨機器人，測試每天24小時運作的自動化倉庫，來因應激增的需求。

突然間，機器AI自動化所需要的，不僅僅是概念的驗證；它們不能再依賴現場工程師支援突發狀況，而必須能夠自行在各種現實環境中獨立工作。

這一次的疫情，不僅讓原本已經走向自動化的未來提早成真，也暴露了AI創業領域長期存在的問題：太多讓人眼花撩亂的科技展示和話題炒作，讓人很難正確判斷產業真正的發展趨勢。

我們需要在以下三個方面推動改變：

1. 重新思考指標

隨著我們在現實世界中採用更多自主AI機器，諸如速度、成功率等傳統指標，已經不能反映全部的情況；我們需要透過「可靠度指標」（robustness metrics），來全面衡量「系統在不確定狀況下的可靠性」。例如送貨機器人平均在送貨幾次之後，才需要人為介入來確保成功送達？

我們需要更多的工具和產業標準，來評估各種未知狀態下的整體系統性能；因為現實生活不同於實驗室，是完全不可預測的。

即使送貨機器人可以達到每小時6公里的最高前進速度，但如果在沒有人工支援的狀況下，就無法獨立完成單次送貨，那麼事實上並沒有為用戶創造多少價值。

「DevOps」（開發維運）這個詞在幾年前出現，可以說是「開發」、「測試」、「維運」三者的結合；它的目的在於縮短軟體開發週期、確保高品質的軟體產出。

與一般軟體工程相比，AI人工智慧或ML機器學習的產業成熟程度要低得多；根據調查，有高達87%的ML專案在投入生產之前，就已經宣告失敗。

然而，最近我們開始看到「MLOps」或「AIOps」（ML/AI加上「開發維運」）的出現；這代表著ML/AI從學術研究變成實際產品的重要轉變。

這樣的改變需要更多心態調整：

不只看最先端ML研究，也專注於品質管理和軟體工程。

並不是說兩者不能兼顧，而是到目前為止，多數公司往往專注於前者，而忽略對開發實用產品可能更重要的後者。

2. 重新設計錯誤處理與用戶體驗

無人駕駛公司Starsky最近宣布解散的新聞提醒我們，離Level 5完全自主的自動化解決方案還有一段距離。

這並不代表AI機器人不能給人類帶來價值；正如我在前文中提到的，即使人類仍需要處理15%的突發狀況，公司依然可以降低大量的勞動力和整合成本。

https://tuna.press/?p=12814&hilite=%27bastiane%27

https://medium.com/@Bastiane/%E6%8F%AD%E7%A7%98%E9%9B%BB%E5%95%86%E9%BE%8D%E9%A0%AD%E4%BA%9E%E9%A6%AC%E9%81%9C%E4%B8%8D%E6%83%B3%E8%AE%93%E4%BD%A0%E7%9F%A5%E9%81%93%E7%9A%84%E8%87%AA%E5%8B%95%E5%8C%96%E7%AD%96%E7%95%A5-57f5bc14eaf7

然而，目前許多AI 公司專注於開發自動系統，而忽略了短期之內人類與機器需要共處的事實；所以現在必須徹底思考交接任務、溝通錯誤訊息等實際需求，讓人和機器之間的互動可以更加順利。

尤其因為AI產品的不確定性比一般軟體產品更高、演算法又缺乏透明度，因此更需要重新思考用戶體驗。例如，是否可以顯示模型預測的信心水準，或是將預測定位為建議、而非最終決策，來近一步獲得使用者的信任？

同時，我們也需要將錯誤分級、設計相應的應對機制、優先減少致命錯誤；並確保機器在發生重大錯誤而停止工作時，我們能快速回應、並且遠端排除故障。

其中最困難的部分是「識別未知錯誤」，也就是看出系統先前無法檢測的錯誤；因此，進行雙向溝通、允許用戶回報錯誤、或是選擇回覆先前的設定，也是非常重要的。

3. 重新定義人機互動方式

新冠病毒疫情迫使更多公司更快接受自動化方案、並且轉向雲端；而未來每一位遠端工程師需要操作的機器人，也將會越來越多。

從每人控制五台保全機器人，變成每人控制十台機器人時，我們是否擁有正確的工具和感知技術，能即時將所有相關資訊傳遞給決策者？每個機器人上是否有足夠的感測器來提供完整的資訊圖像？

今天，我們多數依靠平板電腦之類設備上的「觸覺輸入」來控制機器；但未來資訊量飆升、回應時間縮短的狀況下，我們是否應該考慮觸覺以外的人機介面，例如語音、VR/AR、甚至腦波介面等等？

同時，我們也需要決定誰有「最終決策權」：既然機器變得越來越聰明，最後決定是不是一定要由人類來做？

例如，誰應該控制無人車？汽車本身、人類安全司機、遠程監控的作業人員、還是乘客本身？在不同情況下又有什麼差異？還是應該由人類和機器共同做出加權判斷？這些決定中的道德含義是什麼？操作介面能否支援多步驟共同決策？

https://tuna.press/?p=13899

結語

最後的問題是，我們如何設計以人為本的AI，以確保自動化機器使我們的生活更美好，而不是更糟？

我們如何建立一個人類與機器的混合團隊，達成更好的成果，並且讓人類和機器相互學習？

需要我們回答的問題還很多，而且當前的疫情正迫使我們更快回答。如果這些AI公司能夠專注於上面概述的三個領域，我們將能夠更好、更快得出關鍵結論，以確保我們朝著正確的自動化方向前進。