La startup británica Surf Security ha lanzado una versión beta de lo que afirma ser el primer navegador del mundo con una funcionalidad integrada diseñada para detectar deepfakes generados por IA.
La herramienta, disponible a través del navegador de Surf o como una extensión, puede detectar con hasta un 98% de precisión si la persona con la que estás interactuando en línea es un ser humano real o una imitación de IA, indicó la empresa.
Esta empresa de ciberseguridad con sede en Londres utiliza tecnología de redes neuronales de “grado militar” para detectar deepfakes. El sistema utiliza modelos espaciales de estado, que detectan clones generados por IA en todos los idiomas y acentos mediante el análisis de fotogramas de audio en busca de inconsistencias.
«Para maximizar su eficacia, nos centramos en la precisión y la velocidad», dijo Ziv Yankowitz, director tecnológico de Surf Security. La red neuronal de la herramienta se entrena utilizando deepfakes creados por las principales plataformas de clonación de voz de IA, dijo.
Seminario web: ADN de unicornio: el plan para el éxito a escala
¿Qué se necesita para construir un unicornio? El 19 de noviembre a las 15:00 CET, los líderes de las empresas unicornio revelarán la mentalidad, las estrategias y el pensamiento innovador que impulsaron a sus empresas a la cima.
El sistema tiene una función de reducción de ruido de fondo incorporada para aclarar el audio antes de procesarlo. «Puede detectar audio deepfake en menos de dos segundos», dijo Yankowitz.
La nueva función está disponible para archivos de audio, incluidos vídeos en línea o software de comunicación como WhatsApp, Slack, Zoom o Google Meet. Simplemente presione un botón y el sistema verificará si el audio (grabado o en vivo) es auténtico o generado por IA. Surf dijo que también agregará detección de imágenes por IA al conjunto de herramientas del navegador en el futuro.
Los deepfakes son un problema creciente
Los deepfakes, que utilizan inteligencia artificial para crear archivos de audio o vídeo falsos y convincentes, representan una amenaza creciente.
Esta misma semana, los investigadores de la BBC descubrieron Clips de audio deepfake de David Attenborough este sonido es indistinguible de la propia voz del famoso presentador. Varios sitios web y canales de YouTube están utilizando deepfake para obligarlo a decir cosas (sobre Rusia, sobre las elecciones estadounidenses) que nunca dijo.
Esto es sólo la punta de un desagradable iceberg. Se utilizaron deepfakes para permitir fraude a gran escalaincitar al malestar político mediante noticias falsasy destruir reputaciones creando contenido falso o dañino.
Surf dijo que lanzó el nuevo detector de deepfake para ayudar a proteger a empresas, medios, policías y militares de todo el mundo del creciente riesgo de clonación de IA.
Sin embargo, la lucha contra los deepfakes es una batalla continua entre humanos que usan máquinas con fines beneficiosos y otros humanos que usan máquinas con fines nefastos.
«El software de clonación de voz con IA es cada día mejor», admitió Yankowitz. “Entonces, como toda ciberseguridad, estamos comprometidos a ganar una carrera armamentista en constante evolución. »
Surf planea lanzar la versión completa de su detector de deepfake a principios del próximo año.
