因應 AI 對使用行為的改變:在做使用者研究時,不得不注意的六個議題

AI 時代的服務設計研究筆記——當使用者從「操作者」變成「委託人」

因應 AI 對使用行為的改變:使用者研究不得不注意的六個議題

AI 出現,大幅度改變人類行為,相信大家都知道了,但有一些數據正透露一些消息,這也是在做使用者研究的夥伴,不得不注意的事情。

在一份 KPMG 報告(橫跨 47 國、48,000 人的全球調查):

83%認為使用人工智慧將帶來廣泛的好處
66%經常使用 AI
66%依賴 AI 的產出,卻不評估其準確性
56%的員工,已經因為用 AI 在工作上犯過錯
70%認為有必要對 AI 進行監管
46%願意信任 AI信任仍然是一個關鍵挑戰。我評估,在某些領域可能更低

方便性、效率(還有人類的惰性),是 AI 用量很大的原因;但也因著惰性,就懶得驗證,導致錯誤變多,接下來就造就了信任度的危機。這篇想整理的,是面對這樣的行為轉變,服務設計在做使用者研究時,不得不注意的六個議題。

這篇你會看到:

  • 從數據看 AI 時代真實的使用行為:用得多、信得少、還不驗證
  • 醫療現場的縮影:有責任,卻無權力
  • Job to be Done 沒有過時——變的是「僱用」的對象
  • 三題問使用者:委託範圍、信任與驗證、人的邊界
  • 三題問營運端:可接受錯誤率、責任歸屬、工作流壓縮
  • Persona 與旅程圖,需要跟上的描述維度

用得多、信得少、還不驗證,造就了信任危機

數據來看,我認為:方便性、效率(還有人類的惰性),是 AI 用量很大的原因,但也因著惰性,就懶得驗證(特別是內容產出速度快)、導致錯誤多,那接下來就造就了信任度的危機。

因此,最近我經常在一些場合都會面臨,AI 的誕生,大幅度解決了過去想做但做不到的事情,卻也製造了過去不存在的問題:AI 給的答案,到底可不可以相信?出了問題,誰負責?

醫療現場已經真實上演。臨床醫師被要求為「AI 輔助的決策」負責,卻對工具怎麼被打造、驗證、部署毫無控制權——有責任,無權力。

結果是:多數臨床 AI 工具在導入 72 小時內,被醫師默默棄用。不是開會決議不用,是大家安靜地繞過它。

任務沒有變,變的是「僱用」的對象

服務設計常用 Job to be Done:搞清楚這個人到底要完成什麼事。

這個概念在 AI 時代沒有過時——人們的任務是穩定的,人們十年前需要找資料、出計畫,十年後還是需要。

真正變了的是:過去我們「如何僱用」工具來完成任務(以前,軟體幫我打字,報告是我寫的);現在 AI 被僱用來「直接完成」任務(它直接把報告寫完)。國外把這個轉變稱為 Service-as-Software:賣的不再是工具,而是完成的工作。

使用者的角色,從「操作者」變成了「委託人」。

操作者在意好不好用;

委託人在意的是:敢不敢交給你、怎麼知道你做對了;更甚者,若是像醫療健康的 AI 診斷工具,給使用者的時候,還會被問做錯了算誰的。

所以,研究的議題必須擴充。原本的「任務」探索都還必須存在,但要加六個問題:三題給使用者,三題給營運端。

給使用者
  • 1委託範圍你願意放手到哪裡?哪一段堅持自己來?
  • 2信任與驗證有哪些條件出現,你才敢信賴、使用?
  • 3人的邊界什麼時候,你希望出現的是「人」?
給營運端
  • 4可接受錯誤率能容忍它錯在哪、錯多少?
  • 5責任歸屬出了問題,誰敢簽名?
  • 6工作流壓縮這段工作消失後,角色怎麼重組?

給使用者的三題

一、委託範圍:你願意放手到哪裡?

同一個任務,每個人的界線不一樣:要特別注意受訪者什麼時候希望 AI「只提建議、不動手執行」,什麼時候能接受全自動。

這條線就是服務該設計的線。

二、信任與驗證:有哪些條件出現,你才敢信賴、使用?

國外的研究,有一句話說得很好:

「信任不是在一切順利時建立的。是在 AI 出錯、資料很亂、使用者趕時間,但產品仍然讓人感到安全的時刻建立的。」

他們把信任拆成五個可研究的特性:

可預測猜得到它會怎麼做
可讀懂它為什麼這樣做
可控能引導它
可逆錯了能撤銷
有界線知道它的極限

三、人的邊界:什麼時候你希望出現的是「人」?

通常是出錯的時候、例外的時候、有情緒的時候、要有人負責的時候。這條邊界,就是未來服務在發展時,「人」需要出現的位置。

問營運端的三題

四、可接受錯誤率:能容忍它錯在哪、錯多少?

評估可接受錯誤的兩個構面

構面一AI 的決策邏輯是否有模糊地帶、有爭議?詐欺偵測能全自動,是因為決策明確、錯了會上報人工;相對的,AI 策略助理常失敗,是因為決策模糊、管理層對「好」沒共識
構面二失敗的成本多高?是否具備可逆性錯誤能不能撤銷?撤銷的成本高,人就不敢委託

五、責任歸屬:出了問題,誰敢簽名?

要研究的不是「AI 做了什麼」,而是「AI 取代了哪個決策、這個決策原本是誰的、錯誤的代價誰負責」。

沒有人敢簽核的流程,就是會卡住的流程。

研究時把「簽名的人」找出來,聽他的顧慮。(我想以後要簽名的工作,還是會存在的,因為需要有人畫押。)

六、工作流壓縮:這段工作消失後,角色怎麼重組?

AI 對工作流的影響不是加速,是消除,甚至某些環節直接不見。

原本做的工作,當 AI 取代,是被架空?還是角色重組。

如果角色沒有重新設計,抵抗就會出現,而且往往以「這個 AI 不好用」的形式出現。

而在導入之前,還有更前面的一層要問:這件事到底該不該自動化。這個部分我另外寫過一篇——便宜 AI 正在結束:自動化之前,先問清楚 5 件事,可以搭配著看。

最後,Persona 的描述維度,也會需要跟上

Persona 要加上委託人的維度:風險承受度、信任門檻、驗證習慣。

涉及到 AI 使用的旅程圖,可能會改為「委託旅程」:

STEP 1交辦

STEP 2監工

STEP 3驗收

STEP 4信任升級或降級

結語:從「好用」到「敢用且會被使用」

任務是穩定的,解法在換代。但在 AI 帶來的行為劇烈轉變,服務設計的研究議題,也需要因應迭代。

下次在討論 AI 使用的議題、或產品服務跟 AI 有關,建議可以把六題放進訪綱檢查一遍:

  • 1委託範圍、信任驗證、人的邊界問使用者
  • 2容錯標準、責任歸屬、角色重組問營運端

六題都有答案,你設計的就不只是「好用」的 AI 服務,而是「敢用且會被使用」的 AI 服務。

如果你的組織正在導入 AI,想檢視這六題在你們的場景長什麼樣子,歡迎留言聊聊^^。

參考來源

把 ESG 從報告書做進營運

每週一封,ESG × 服務設計的實務洞察。不濫發信件,隨時可取消訂閱。

mikewu
mikewu
文章: 40