Le misure di sicurezza dei chatbot AI non prevengono la disinformazione sanitaria

Roma –  Nonostante le misure di sicurezza implementate, i principali chatbot basati su modelli linguistici di intelligenza artificiale, come GPT-4o, Gemini 1.5 Pro e altri, possono essere facilmente ingannati per diffondere disinformazione sanitaria. Lo rivela uno studio condotto da un gruppo di ricercatori della Flinders University, in Australia, riportato su Annals of Internal Medicine. Questi chatbot sono ormai molto diffusi e spesso utilizzati per fornire informazioni anche in ambito sanitario. In particolare, i ricercatori hanno creato versioni “personalizzate” dei chatbot, programmati per rispondere in modo errato e autorevole a domande su temi delicati come la sicurezza dei vaccini o l’HIV. secondo i risultati, l’88% delle risposte generate dai chatbot personalizzati conteneva disinformazione sanitaria. Quattro chatbot, quali GPT-4o, Gemini 1.5 Pro, Llama 3.2-90B Vision e Grok Beta, hanno fornito disinformazione a tutte le domande testate, mentre Claude 3.5 Sonnet ha mostrato una parziale resistenza, rispondendo con disinformazione solo al 40% delle domande. In un’analisi separata dell’OpenAI GPT Store, sono stati identificati tre GPT pubblici calibrati per produrre disinformazione sanitaria, che hanno generato risposte errate al 97% delle domande. I risultati suggeriscono che, nonostante le misure di sicurezza, gli LLM rimangono vulnerabili all’uso improprio e possono essere sfruttati per diffondere disinformazione sanitaria. Gli autori sottolineano la necessità di rafforzare i sistemi di sicurezza e monitoraggio, soprattutto in ambito sanitario, per evitare conseguenze dannose su larga scala.(30Science.com)