Sorveglianza algoritmica e triage: quando l’AI decide che la tua salute è un task da ottimizzare
Speriamo solo che l’algoritmo non decida che il tuo battito cardiaco accelerato sia solo un ‘bug di sistema’ da ignorare durante la notte. Se pensate che il monitoraggio dei KPI in ufficio sia un incubo, provate a immaginare di gestire i casi di triage e le chiamate d’emergenza sapendo che ogni tua parola, ogni secondo di esitazione e ogni tua interazione viene pesata da un sistema di sorveglianza automatizzato. È esattamente quello che sta succedendo nelle strutture di Kaiser Permanente, e no, non è la trama di un episodio di ‘Black Mirror’ scritto da un consulente McKinsey in cerca di promozione. Le infermiere che si occupano di triage e consulenza stanno alzando la voce: l’integrazione di sistemi di AI e strumenti di monitoraggio sul posto di lavoro non sta rendendo il loro lavoro più fluido, ma lo sta rendendo decisamente peggiore. Il problema non è la tecnologia in sé — noi che amiamo smontare ogni cosa sappiamo che un buon tool può fare miracoli — ma il modo in cui viene implementata. Qui non parliamo di un assistente che ti aiuta a scrivere codice più pulito, ma di un occhio digitale che osserva tutto per misurare la ‘performance’, spesso a scapito della qualità dell’assistenza ai pazienti. Il cuore del problema è il classico pattern che vediamo sempre più spesso: usare la tecnologia per trasformare professionisti umani in semplici nodi di un processo standardizzato. Quando un sistema di sorveglianza punta solo a ottimizzare i tempi di risposta o a minimizzare i costi, la componente empatica e decisionale — quella che fa la differenza tra un paziente che guarisce e uno che finisce nel database dei casi critici — viene sacrificata sull’altare dell’efficienza algoritmica. Certo, siamo in Italia e probabilmente la gestione della sanità da noi segue logiche decisamente diverse (e spesso altrettanto caotiche), ma il rischio di un ‘copy-paste’ di queste logiche di controllo è reale. Se iniziamo a pensare che la gestione dei dati sanitari debba servire solo a generare dashboard per il management invece che a supportare chi è in prima linea, abbiamo perso in partenza. In definitiva, è la solita storia: l’hype tecnologico che si scontra con la realtà operativa. Quando l’automazione smette di essere un supporto e diventa un cappio, non è innovazione, è solo un modo più sofisticato per gestire il burnout tramite automazione del controllo. E onestamente, dopo anni di passiamo la vita a cercare di debuggare sistemi, non abbiamo proprio bisogno di un altro supervisore che non sa nemmeno cos’è un errore di logica. Source: Kaiser nurses say AI, workplace surveillance are making their jobs, care worse