
AI Safety2026-10-03
WIRED AI
AI 排班頻出包 護理師怒:這已是病人安全問題
WIRED 報導,一家大型醫療集團與一間放射線網路採用的 AI 排班軟體頻頻出錯,護理師與員工直言這已經成了病人安全問題。這些機構找來 Palantir 協助簡化排班流程,但第一線人員描述實際狀況是班表兜不攏、派班令人困惑,規則僵化到無法反映臨床現場的真實需求,結果是 burnout、挫折感,以及對這些原本該幫忙的工具失去信任。
醫療排班從來不是單純的最佳化問題。它必須考慮執照、專科、疲勞程度、工會規定、臨時請假、病人嚴重度,以及資深護理師靠經驗累積、用來讓單位順利運轉的各種「不成文知識」。當 AI 系統把這些因素當成可以互換的變數,就可能排出紙面上很有效率、實務上卻不安全也不公平的班表。護理師可能被排到近期沒什麼經驗的單位,或是某些區域人手不足、其他區域卻人力過剩。
這則故事點出企業導入 AI 常見的失敗模式:在缺乏第一線工作者參與的情況下,自動化複雜的人類工作流程。高層往往著眼於節省成本與行政效率,前線員工則得即時收拾殘局。這種落差會侵蝕士氣、逼走有經驗的員工,也可能埋下難以察覺、直到出事才浮現的風險。
解方未必是放棄 AI 排班。更好的系統可以把演算法規劃與透明化的限制條件、容易操作的例外覆寫機制,以及護理師與主管的持續回饋結合起來。供應商與醫院高層也應該誠實說明工具的極限,並追蹤與安全相關的結果,而不是只看排班滿足率。
更廣泛的教訓是:在攸關人命的工作現場,AI 必須把第一線工作者當成合作夥伴來設計,而不是由上而下強推、要他們被動接受。