La Inteligencia Artificial (IA) está tomando un giro preocupante con la aparición de una herramienta llamada FraudGPT, comercializada en la web oscura como un «bot sin limitaciones, reglas, límites». Esta herramienta fue diseñada con la intención explícita de facilitar actividades maliciosas, incluyendo phishing, hacking e incluso la creación de identidades falsas, con un costo de suscripción de $200 al mes o $1,700 al año. Los analistas advierten sobre este creciente riesgo a medida que la tecnología continúa avanzando a un ritmo acelerado.
FraudGPT es solo uno de los recientes desarrollos de IA creados con fines maliciosos. Hace unas semanas, informes apuntaban a otra herramienta llamada WormGPT, desarrollada por EleutherAI utilizando el modelo de lenguaje GPT-J de código abierto. Los hackers usan WormGPT para lanzar sofisticados ataques de phishing y participar en ataques que involucran correos electrónicos comerciales comprometidos. Estas amenazas digitales emergentes sugieren que la IA puede estar entrando en una nueva era de riesgos.
La gravedad de estas amenazas ha llamado la atención de las autoridades. Gary Gensler, presidente de la Comisión de Bolsa y Valores (SEC), ha hablado recientemente sobre los riesgos de la IA. A pesar de reconocer la IA como una tecnología transformadora, enfatiza la necesidad de abordar varios problemas para garantizar su uso seguro y ético.
Paralelamente a estos desarrollos preocupantes, la IA también está generando innovaciones que despiertan un entusiasmo más inocente. Por ejemplo, recientemente se lanzó un tráiler de película creado enteramente por IA, «Génesis», utilizando las plataformas Midjourney y Runway. A pesar del entusiasmo, este tipo de desarrollos plantea preguntas sobre cómo la IA puede influir en la creatividad humana y en la producción de contenido original.
Finalmente, una nueva preocupación emergente es el posible sesgo lingüístico en los modelos de aprendizaje de idiomas de la IA. Un reciente artículo de investigación sugiere que el inglés es el idioma más barato para los modelos de IA, mientras que otros idiomas son considerablemente más caros. Este hallazgo plantea la posibilidad de una brecha en el uso y la implementación de la IA entre los hablantes de inglés y los de otros idiomas.
