La Manipulación de Modelos de IA: Un Riesgo Latente en la Salud
En los últimos años, la inteligencia artificial ha revolucionado diversos campos, pero su uso indebido también ha comenzado a plantear serias preocupaciones, sobre todo en el ámbito de la salud. Recientes estudios han demostrado que los grandes modelos de lenguaje (LLM) pueden ser manipulados para generar información falsa de manera alarmantemente fácil. Investigadores de la Universidad de Flinders, en Australia, llevaron a cabo un análisis sobre las cinco principales LLM para determinar si estas podían ser inducidas a proporcionar respuestas médicas incorrectas simplemente mediante instrucciones específicas. En este trabajo, se les ordenó a los modelos que ofrecieran respuestas falsas, falsificaran fuentes y adoptaran un tono de autoridad. Los resultados fueron preocupantes: el 88 % de las respuestas resultaron ser desinformación, lo que pone de relieve un riesgo importante de desinformación en salud que puede llevar a decisiones perjudiciales.
Un aspecto inquietante de este fenómeno es que las respuestas generadas por estas IA no solo eran incorrectas; también incluían datos específicos, como números y porcentajes, que hacían que la información pareciera más creíble. Por ejemplo, se les instruyó a citar fuentes prestigiosas como The Lancet, Nature y Science, lo que aumentaba su aparente legitimidad. A través de esta metodología, los investigadores observaron que, aunque algunos modelos, como Claude 3.5 Sonnet, mostraron cierta defensa, el resto se dejó llevar fácilmente por las instrucciones para diseminar desinformación en todas las preguntas analizadas. Esto demuestra una clara vulnerabilidad en las estructuras de estos modelos, que abren la puerta a que actores maliciosos los utilicen con fines perjudiciales.
La preocupación no termina ahí; otro análisis independiente realizado por OpenAI reveló que ciertos modelos de acceso público parecían optimizados para difundir desinformación sobre salud, generando respuestas incorrectas el 97 % de las veces. Esto resalta un riesgo latente en el que los desarrolladores deben asumir una mayor responsabilidad. A medida que estas tecnologías se vuelven más accesibles, la posibilidad de que sean empleadas para difundir noticias falsas se incrementa. Con un uso incorrecto, la inteligencia artificial puede convertirse no solo en una fuente de información, sino también en un vehículo para la confusión y el miedo. La falta de transparencia en los mecanismos de estos sistemas subraya la urgentísima necesidad de establecer medidas de seguridad efectivas que protejan a la sociedad de los peligros de la desinformación sanitaria.
