El director de seguridad de Binance, Jimmy Su, ha revelado que la tecnología deepfake está siendo utilizada por estafadores criptográficos para eludir los procesos de verificación de clientes en intercambios como Binance. Los deepfakes son productos de herramientas de inteligencia artificial que emplean el aprendizaje automático para crear contenidos audiovisuales convincentes, falsamente atribuidos a una persona. Si bien esta tecnología tiene usos legítimos, su abuso para estafas y engaños es una creciente preocupación.
Su explica que los estafadores recopilan imágenes normales de sus víctimas en línea y, utilizando herramientas deepfake, generan videos que les permiten superar las verificaciones de seguridad. Lo alarmante es que estas herramientas han evolucionado tanto que pueden responder correctamente a instrucciones de audio en tiempo real, diseñadas para comprobar si el solicitante es un humano. Por ejemplo, algunas verificaciones requieren que el usuario parpadee o mueva la cabeza en ciertas direcciones, y los deepfakes actuales pueden ejecutar estos comandos sin problemas.
A pesar de esta sofisticación, Su destaca que los videos falsos aún no han alcanzado el nivel en el que pueden engañar a un operador humano experimentado. Existen ciertos detalles que pueden ser detectados por el ojo humano, como el movimiento incorrecto de la cabeza. Sin embargo, advierte que con el tiempo, la inteligencia artificial superará estas limitaciones, lo que plantea una preocupación constante en la confiabilidad de los medios visuales.
Este problema no es nuevo para Binance, ya que en agosto de 2022, su director de comunicaciones, Patrick Hillmann, advirtió sobre un equipo de piratería sofisticado que utilizaba deepfakes de entrevistas anteriores y apariciones televisivas de Hillmann. Estas versiones falsas se emplearon en reuniones virtuales con equipos de proyectos criptográficos, ofreciendo la oportunidad de listar sus activos en Binance a cambio de un pago.
Ante esta amenaza, Su reconoce que combatir los ataques de deepfake es un desafío difícil. Incluso si pueden controlar sus propios videos, existen videos que no están bajo su propiedad. Por lo tanto, la educación del usuario es crucial en este contexto. Binance tiene previsto lanzar una serie de publicaciones de blog destinadas a educar a los usuarios sobre la gestión de riesgos, y ya utiliza algoritmos de inteligencia artificial y aprendizaje automático para detectar patrones de inicio de sesión y transacciones inusuales, así como cualquier otra actividad anómala en su plataforma.
El avance de la tecnología deepfake plantea serias preocupaciones en la seguridad de los intercambios criptográficos. Si bien Binance y otros actores de la industria están tomando medidas para combatir esta amenaza, la evolución constante de los deepfakes exige una mayor conciencia por parte de los usuarios y una vigilancia continua en la detección de contenido falso. La educación y la implementación de tecnologías de detección avanzadas serán fundamentales para mantener la integridad y confiabilidad de estos espacios digitales en constante evolución.