Con el ambicioso objetivo de luchar contra los daños que suponen los contenidos falsos en redes sociales Y sitios de noticiasLos científicos de datos son creativos.
Mientras todavía estaban en sus ruedas de entrenamiento, los modelos de lenguaje grandes (LLM) utilizados para crear chatbots como ChatGPT son reclutados para detectar noticias falsas. Con una mejor detección, los sistemas de verificación de noticias falsas mediante IA pueden advertir y, en última instancia, frustrar los daños graves causados por las noticias falsas. falsificaciones profundas, propaganda, teorias de conspiracion Y desinformación.
Las herramientas de inteligencia artificial de nivel superior personalizarán la detección de contenido falso y nos protegerán contra él. Para este salto definitivo hacia la IA centrada en el usuario, la ciencia de datos debe recurrir a las ciencias del comportamiento y la neurociencia.
Un trabajo reciente sugiere que podríamos No siempre lo sé conscientemente que nos enfrentamos a noticias falsas. La neurociencia ayuda a descubrir lo que sucede inconscientemente. Biomarcadores como frecuencia cardiaca, movimientos oculares Y actividad cerebral) parecen cambiar sutilmente en respuesta al contenido real y falso. En otras palabras, estos biomarcadores pueden ser “pistas” que indiquen si hemos sido engañados o no.
Por ejemplo, cuando los humanos miramos caras, los datos de seguimiento ocular muestran que buscamos velocidades de parpadeo y cambios en el color de la piel causado por la circulación sanguínea. Si dichos elementos parecen antinaturales, puede ayudarnos a decidir que se trata de un deepfake. Este conocimiento puede darle una ventaja a la IA: podemos entrenarla para que imite lo que buscan los humanos, entre otras cosas.
La personalización de un verificador de noticias falsas con IA toma forma utilizando los resultados de datos del movimiento del ojo humano Y actividad eléctrica del cerebro que muestra qué tipos de contenido falso tienen el mayor impacto neuronal, psicológico y emocional, y para quien.
Conocer nuestros intereses específicos, personalidad y reacciones emocionalesun sistema de verificación de datos de IA podría detectar y anticipar qué contenido desencadenaría la reacción más grave en nosotros. Esto podría ayudar a determinar cuándo se está engañando a la gente y qué tipo de material engaña a la gente más fácilmente.
Contrarrestar el daño
Luego viene la personalización de garantías. Para protegernos del daño de las noticias falsas, también debemos construir sistemas capaces de intervenir, una especie de Contramedida digital a las noticias falsas.. Hay varias formas de hacerlo, como etiquetas de advertencia, enlaces a contenido creíble validado por expertos e incluso pedir a las personas que intenten considerar diferentes perspectivas al leer algo.
Nuestro propio verificador personalizado de noticias falsas con IA podría diseñarse para brindarnos a cada uno de nosotros una de estas contramedidas. para revertir los daños del contenido falso en línea.
Esta tecnología ya se está probando. Investigadores estadounidenses estudiaron cómo interactúan las personas con un verificador personalizado de noticias falsas con IA para publicaciones en redes sociales. Aprendió a reducir el número de publicaciones en un servicio de noticias a la que creía que era verdadera. Como prueba de conceptoOtro estudio que utilizó publicaciones en redes sociales adaptó contenido de noticias adicional a cada publicación en los medios para alentar a los usuarios a ver perspectivas alternativas.
Detección precisa de noticias falsas
Pero ya sea que todo esto suene impresionante o distópico, antes de dejarnos llevar, tal vez valga la pena hacer algunas preguntas básicas.
Gran parte, si no todo, del trabajo sobre noticias falsas, deepfakes, desinformación Y desinformación destaca el mismo problema al que se enfrentaría cualquier detector de mentiras.
Hay muchos tipos de detectores de mentiras, no sólo la prueba del polígrafo. Algunos dependen exclusivamente del análisis lingüístico. Otros son sistemas diseñados para leer los rostros de las personas para detectar si están dejando escapar microemociones que delatan que están mintiendo. De manera similar, existen sistemas de inteligencia artificial diseñados para detectar si un rostro es genuino o profundamente falso.
Antes de que comience la detección, todos debemos ponernos de acuerdo sobre cómo es una mentira si queremos detectarla. De hecho, en investigación del engaño muestra que puede ser más fácil porque puedes decirle a la gente cuándo mentir y cuándo decir la verdad. Y entonces tienes una manera de conocer la verdad fundamental frente a ti. entrenar a un humano o un máquina marcan la diferencia, porque tienen ejemplos en los que basar su juicio.
Saber qué tan bueno es un detector de mentiras experto depende de la frecuencia con la que dice una mentira cuando la hay (acierto). Pero también, que no suelen confundir a alguien diciendo la verdad cuando en realidad estaba mintiendo (fallando). Esto significa que necesitan saber la verdad cuando la ven (rechazo correcto) y no acusar a alguien de mentir cuando está diciendo la verdad (falsa alarma). Esto se refiere a la detección de señales, y la misma lógica se aplica a detección de noticias falsas que puedes ver en el diagrama a continuación.
Para que un sistema de inteligencia artificial que detecte noticias falsas sea extremadamente preciso, el número de aciertos debe ser muy alto (digamos, 90 %) y, por lo tanto, los errores serán muy bajos (digamos, 10 %), y las falsas alarmas deben permanecer bajas (digamos, 90 %). digamos 10%). %), lo que significa que las noticias reales no califican como falsas. Si nos recomiendan un sistema de verificación de hechos humano o de inteligencia artificial basado en la detección de señales, podremos comprender mejor su eficacia.
Es probable que haya casos, como se informó en un reciente investigacióndonde el contenido de las noticias puede no ser completamente falso o completamente cierto, pero sí parcialmente exacto. Lo sabemos porque la velocidad de los ciclos de noticias significa que lo que se considera exacto en un momento puede serlo más adelante. demostrar ser inexacto, o viceversa. Por lo tanto, un sistema de verificación de noticias falsas tiene mucho trabajo por delante.
Si supiéramos de antemano qué es una noticia falsa y qué es real, ¿qué precisión tendrían los biomarcadores al indicar inconscientemente qué es qué? La respuesta no es mucho. Actividad neuronal es más a menudo lo mismo cuando nos encontramos con noticias reales y falsas.
Cuando se trata de estudios de seguimiento ocular, vale la pena saber que existen diferentes tipos de datos recopilados a partir de técnicas de seguimiento ocular (por ejemplo, el tiempo que nuestro ojo se fija en un objeto, la frecuencia con la que nuestro ojo se mueve a través de una escena visual). ).
Así, dependiendo de lo que se analice, algunos estudios muestran que prestamos más atención al ver contenido falso, mientras que otros muestran el opuesto.
¿Ya llegamos?
Los sistemas de detección de noticias falsas con IA disponibles en el mercado ya están utilizando conocimientos de las ciencias del comportamiento para ayudar informar y advertirnos contra noticias falsas contenido. Por lo tanto, no será difícil que los mismos sistemas de inteligencia artificial comiencen a aparecer en nuestras fuentes de noticias con protecciones personalizadas para nuestro perfil de usuario único. El problema de todo esto es que aún nos queda mucho trabajo por hacer para saber qué funciona, pero también para verificar si queremos eso.
En el peor de los casos, vemos las noticias falsas como un problema en línea sólo como una excusa para resolverlo usando AI. Pero el contenido falso e inexacto está en todas partes y se está discutiendo. desconectado. No solo eso, no creemos en todas las noticias falsas por defecto, a veces las usamos en discusiones para ilustrar malas ideas.
En el mejor de los casos, la ciencia de datos y la ciencia del comportamiento confían en la magnitud de los diversos daños que podrían causar las noticias falsas. Pero incluso entonces, las aplicaciones de la IA combinadas con la magia científica podrían seguir siendo sustitutos muy pobres de soluciones menos sofisticadas pero más efectivas.
Magda Osmánprofesor de impacto político, universidad de leeds
Este artículo se republica desde la conversacion bajo licencia Creative Commons. Lea el artículo original.
