Modulo 4

Modulo 4
Intelligenza Artificiale Generativa, Chatbot e Regolamentazione nell’Innovazione Biomedica

Per fornire ai professionisti dell’area biomedica e sanitaria una comprensione strutturata e applicativa dell’intelligenza artificiale generativa (GAI) è necessario partire dai suoi fondamenti, illustrando definizione e principi base della stessa, terminando con esempi di output generativi in medicina e nella ricerca biologica. È opportuno inoltre introdurre i chatbot, descrivendone la progettazione e l’implementazione nel mondo sanitario, nonché il supporto che sono in grado di fornire alla ricerca biomedica. Nell’ottica di mantenere un approccio concreto è fondamentale discutere dei rischi e dei limiti tecnici dell’IA generativa, ed infine dare uno sguardo all’etica e alla legislazione dell’IA generativa nei dispositivi medici.
 

Contenuti

1. Fondamenti dell’Intelligenza Artificiale Generativa
   • Definizione e principi base della GAI: differenze con Machine Learning (ML) e Deep Learning (DL) tradizionali
   • Architettura dei modelli LLM (es. GPT, Med-PaLM, BioGPT)
   • Introduzione al Prompt Engineering: tecniche per la costruzione efficace e sicura delle istruzioni
   • Esempi di output generativi in medicina e ricerca biologica: referti sintetici, scrittura assistita, sintesi della letteratura
2. Chatbot in contesto clinico e di laboratorio
   • Progettazione e implementazione dei chatbot in sanità: triage, anamnesi automatica, assistenza al paziente
   • Supporto alla ricerca biomedica: generazione di protocolli, supporto alla peer review, validazione automatizzata
3. Rischi e limiti tecnici dell’IA generativa
   • Allucinazioni semantiche e sintattiche: rischi di contenuti non validati o non verificabili
   • Falsi positivi/negativi nei sistemi conversazionali: implicazioni cliniche e necessità di soglie decisionali
   • Prompt injection e jailbreaking: vulnerabilità nei sistemi aperti
   • Logging, tracciabilità e auditabilità: requisiti per sistemi integrati in contesti regolati
   • Inadeguatezza dei modelli generalisti in domini specialistici: importanza del fine-tuning e testing in ambienti simulati 
4. Etica e legislazione dell’IA generativa nei dispositivi medici
   • Quadro normativo europeo: “AI Act” e classificazione dei sistemi ad alto rischio
   • Norme applicabili ai software medicali basati su AI (Regolamento MDR, regolamento europeo generale sulla protezione dei dati-GDPR)
   • Ruoli e responsabilità: medico, sviluppatore, ente regolatore
   • Principi etici: trasparenza, equità, sicurezza, accountability e protezione dei diritti fondamentali

Competenze attese a fine modulo

  •  Comprendere i principi di funzionamento dei modelli GAI e chatbot
  •  Saper progettare un flusso interattivo sicuro ed efficace in ambito biomedico
  •  Valutare rischi operativi, tecnici e normativi legati all’uso di sistemi generativi
  •  Sviluppare una visione critica e responsabile rispetto all’introduzione di AI in contesti biomedici regolamentati
 

Obiettivi formativi

•  Comprendere il funzionamento dei modelli generativi e Large Language Model (LLM)
•  Acquisire competenze di prompt engineering applicate alla salute
•  Esplorare applicazioni cliniche e di laboratorio di chatbot intelligenti
•  Analizzare rischi, vulnerabilità e limiti tecnici
•  Conoscere il quadro normativo (AI Act, MDR, GDPR) e i principi etici

Contenuti

1.  Fondamenti dell’IA generativa e prompt engineering
2.  Chatbot e assistenti intelligenti per medicina e biotecnologie
3.  Rischi tecnici: hallucinations, falsi positivi, prompt injection
4.  Auditabilità, tracciabilità e supervisione dei contenuti generati
5.  Legislazione europea e dispositivi medici intelligenti (AI Act, MDR)
6.  Etica dell’innovazione tecnologica in ambito sanitario

Attività pratica: Tavola rotonda con Società Scientifiche rappresentanti del mondo medico, biotecnologico e ingegneristico 

Titolo: Confronto multisciplinare sulle applicazioni di IA e nuove tecnologie real-life studiate, proposte e validate da parte delle società scientifiche e delle istituzioni competenti in materia

Obiettivo operativo: Redigere un documento dello stato dell’arte delle diverse posizioni delle società scientifiche, delle Istituzioni di riferimento e delle associazioni coinvolte.

Step pratici:
1.    Domande e risposte tra i diversi rappresentanti delle società scientifiche e non
2.    

Strumenti: linee guida, raccomandazioni, infografiche, position-paper, normative vigenti

Output finale: discussione in plenaria e sintesi del confronto con produzione di un documento dello stato dell’arte sulle nuove tecnologie e sui soggetti coinvolti