I Llm, come ChatGPT, Claude e Gemini, sono modelli generativi capaci di produrre testi complessi da semplici prompt. Sono oggetto di intensa sperimentazione per sintetizzare cartelle cliniche, tradurre referti in linguaggio accessibile o preparare materiali educativi. Tuttavia, rischi intrinseci come le "allucinazioni" (generazione di fatti falsi ma plausibili) e sicurezza dei dati personali richiedono cautela. Una revisione su eClinicalMedicine nel 2024 di Schubert et al. sottolinea che l'uso sicuro richiede una nuova "AI literacy": i professionisti della salute devono comprendere i limiti dei modelli probabilistici, riconoscere i bias nei dati di addestramento e valutare criticamente l'affidabilità delle risposte.
Esiste un preoccupante "gap di competenze": l'adozione commerciale di chatbot corre più veloce della formazione professionale. È urgente definire competenze minime per l'uso clinico dell'IA, integrare moduli nei corsi di laurea e educazione continua, chiarendo opportunità, limiti e responsabilità legali dei professionisti. L'EU AI Act funge da guida e vincolo: richiede tracciabilità dei dati, gestione del rischio, documentazione tecnica a disposizione delle autorità e la possibilità tecnica di override (disattivazione o correzione) da parte di personale qualificato. Studi metodologici recenti raccomandano l'uso di "etichette di sistema" (model cards) che specifichino chiaramente per quali popolazioni il modello è stato validato e in quali contesti il suo uso è sconsigliato.
Per il nutrizionista, l'uso di assistenti basati su Llm per suggerire schemi dietetici o protocolli di integrazione non può mai essere passivo. Le raccomandazioni della macchina devono essere verificate rispetto alle linee guida, contestualizzate sulla fisiopatologia del paziente e documentate come parte di un processo decisionale di cui il professionista assume piena responsabilità. Dall’altro lato, per il paziente, il rischio è confondere strumenti generativi IA con dispositivi medici certificati.
In conclusione, l'uso dei Llm porterà benefici reali solo in un quadro di governance chiaro: formazione continua dei professionisti, rispetto dell'EU AI Act e centralità insostituibile del giudizio clinico umano.
Bibliografia e fonti
- Parlamento europeo e Consiglio. Regolamento (UE) 2024/1689 che stabilisce norme armonizzate sull'intelligenza artificiale (Artificial Intelligence Act). GU L 2024/1689 del 12.7.2024. https://eur-lex.europa.eu/legal-content/IT/ALL/?uri=CELEX:32024R1689
- European Commission. Artificial Intelligence in healthcare. DG Health and Food Safety Public Health Portal. https://op.europa.eu/en/publication-detail/-/publication/9ddf7bf8-62bf-11f0-bf4e-01aa75ed71a1/language-en#
- Schubert T, Oosterlinck T, et al. AI education for clinicians. eClinicalMedicine. 2024;79:102968. doi:10.1016/j.eclinm.2024.102968. https://www.thelancet.com/journals/eclinm/article/PIIS2589-5370(24)00547-9/fulltext
- Labkoff S, et al. Toward a responsible future: recommendations for AI-enabled clinical decision support. J Am Med Inform Assoc. 2024;31(11):2730–2739. doi:10.1093/jamia/ocae209. https://pubmed.ncbi.nlm.nih.gov/39325508/
- Garvey KV, et al. The Potential and the Imperative: the Gap in AI-Related Clinical Competencies and the Need to Close It. Med Sci Educ. 2021;31(6):2055–2060. doi:10.1007/s40670-021-01377-w. https://pubmed.ncbi.nlm.nih.gov/34956712/
- Pupic N, et al. An evidence-based approach to artificial intelligence education for medical students: A systematic review. PLOS Digit Health. 2023;2(11):e0000255. doi:10.1371/journal.pdig.0000255. https://pubmed.ncbi.nlm.nih.gov/38011214/
Alessandro Drago, consulente scientifico