La inteligencia artificial (IA) se ha convertido en la nueva herramienta favorita de los ciberdelincuentes, y no es para menos. Según la firma de ciberseguridad SlashNext, las formas de cometer delitos en línea están adquiriendo un nivel de sofisticación sin precedentes gracias a la aplicación de la IA. Su último informe señala que el crecimiento de la ciberdelincuencia respaldada por IA ha sido impulsado por el desarrollo y la difusión de herramientas en la darkweb como WormGPT y FraudGPT. Este último es capaz de crear páginas web de estafa de phishing, generar código malicioso, diseñar herramientas de hacking y redactar cartas de fraude.
Durante su investigación, el equipo de SlashNext contactó a un vendedor de estos nefastos productos, un individuo conocido como CanadianKingpin12. Este individuo les presentó a FraudGPT y, sorprendentemente, anunció que pronto llegarán al mercado nuevos chatbots de IA llamados DarkBart y DarkBert. Estos bots tendrán acceso a internet, estarán integrados con la tecnología de reconocimiento de imágenes de Google, Google Lens, y podrán enviar tanto texto como imágenes.
La empresa de inteligencia de datos S2W originalmente diseñó DarkBert como una herramienta legítima para combatir el cibercrimen. Sin embargo, se ha utilizado para propósitos criminales. Según CanadianKingpin12, DarkBert puede ayudar en ataques avanzados de ingeniería social, explotar vulnerabilidades en sistemas informáticos y distribuir otros tipos de malware, incluido el ransomware. David Schwed, director de operaciones de la empresa de seguridad blockchain Halborn, afirmó que mientras las herramientas como ChatGPT tienen salvaguardias para protegerse contra usos ilegales o maliciosos, los productos como WormGPT y FraudGPT no los tienen.
Debido a violaciones de políticas en foros de la «clear net», CanadianKingpin12 tuvo que mover sus operaciones a aplicaciones de mensajería encriptadas. La clear net, también conocida como web superficial, se refiere a la parte de Internet accesible a través de motores de búsqueda. En contraste, la darknet no está indexada por motores de búsqueda y los sitios web de la darknet no suelen ser localizables a través de Google. A pesar de su asociación con la ciberdelincuencia, la darknet también es utilizada por periodistas y disidentes políticos para proteger su identidad y su privacidad.
La rápida evolución de la IA en el ciberdelincuencia obliga a las empresas a mantenerse en constante actualización. SlashNext recomienda a las empresas ser proactivas en su formación en ciberseguridad e implementar medidas mejoradas de verificación de correo electrónico. Sin embargo, el informe de la empresa de seguridad web Immunefi advierte que los expertos en ciberseguridad no están teniendo mucho éxito al utilizar la IA para combatir la ciberdelincuencia. Según su informe, el 64% de los expertos encuestados afirmaron que el chatbot de OpenAI proporcionaba una «precisión limitada», y el 61% dijo que carecía de conocimientos especializados para identificar exploits. Esta realidad no hace más que enfatizar la creciente amenaza que la IA maliciosa representa para la seguridad en línea.
