El avance de la Inteligencia Artificial (IA) está revolucionando múltiples sectores, pero también ha abierto una puerta peligrosa para la ciberdelincuencia. Mientras que herramientas como ChatGPT han implementado barreras para evitar usos malintencionados, modelos más recientes como DeepSeek y Qwen, parecen ofrecer menos restricciones, convirtiéndose en el nuevo recurso predilecto de los ciberdelincuentes. La facilidad con la que pueden ser manipulados para generar contenido fraudulento o diseñar herramientas maliciosas está generando un nuevo reto para la seguridad digital y la protección de datos.

 

Jailbreaking: eludiendo las restricciones de la IA

Durante los últimos años, el sector de la ciberseguridad ha observado cómo los actores malintencionados han buscado constantemente formas de explotar las capacidades de la IA. Anteriormente, modelos como ChatGPT fueron utilizados para generar correos electrónicos de phishing, redactar códigos maliciosos y mejorar tácticas de ingeniería social. Sin embargo, con el endurecimiento de sus restricciones, los ciberdelincuentes han encontrado en DeepSeek y Qwen un nuevo campo de acción.

Estos modelos han sido adoptados rápidamente por atacantes con distintos niveles de experiencia. Especialmente preocupante es el acceso que ofrecen a individuos con poca o ninguna formación técnica, facilitando la proliferación de estafas, fraudes y ciberestafas. No es necesario ser un hacker experimentado para aprovechar las capacidades de estas herramientas, lo que multiplica el riesgo de ataques masivos.

Uno de los métodos más utilizados por los ciberdelincuentes es el jailbreaking, una técnica que permite manipular los modelos de IA para evitar sus limitaciones y generar respuestas sin censura. En foros de la Dark Web y en redes privadas se difunden detalladas guías sobre cómo modificar estos sistemas para que proporcionen contenido ilícito, como instrucciones para desarrollar malware, esquemas de fraude financiero y técnicas de phishing avanzadas.

Entre los métodos más usados se encuentran el enfoque “Haz ahora cualquier cosa”, que permite generar respuestas sin restricciones, y estrategias más complejas como la manipulación de parámetros internos de los modelos. Con estas técnicas, los atacantes logran que la IA responda de manera permisiva a solicitudes que, en condiciones normales, estarían bloqueadas.

El problema no es solo que estos métodos existan, sino que se están volviendo cada vez más accesibles y eficientes. Esto permite que más actores malintencionados puedan crear herramientas automatizadas para el fraude y la ciberestafa sin apenas esfuerzo, reduciendo la barrera de entrada al mundo de la ciberdelincuencia.

Los ciberdelincuentes no se detienen en la creación de malware. También han encontrado en la IA un aliado para vulnerar sistemas de protección bancarios y facilitar estafas y fraudes  financieros. Así, los atacantes han desarrollado estrategias para eludir los sistemas antifraude implementados por las entidades financieras.

Los foros clandestinos están plagados de discusiones sobre cómo estos modelos pueden optimizar ataques contra sistemas de verificación, generar respuestas que engañen a algoritmos de detección y crear programas automatizados para el robo de datos. Además, algunos grupos criminales han comenzado a utilizar una combinación de ChatGPT, Qwen y DeepSeek para mejorar la calidad de sus fraudes, desde la redacción de correos electrónicos convincentes hasta la optimización de scripts para ataques a gran escala.

 

No hay control sobre la IA

Uno de los factores más preocupantes de esta tendencia es la falta de control sobre el desarrollo y la implementación de estos modelos. Aunque algunas empresas han tomado medidas para evitar el uso indebido de la IA, muchas otras carecen de mecanismos efectivos de regulación. Además, las versiones no censuradas de estos modelos ya circulan en la red, lo que hace que la amenaza sea aún más difícil de contener.

El uso de IA para fines maliciosos no es una posibilidad lejana, sino una realidad palpable que está evolucionando a un ritmo vertiginoso. La proliferación de modelos accesibles con restricciones mínimas está facilitando el camino a la ciberdelincuencia, y si no se toman medidas adecuadas, podríamos enfrentarnos a una crisis de seguridad digital sin precedentes a nivel mundial.

Es imprescindible que tanto empresas como usuarios estén al tanto de estos riesgos y adopten estrategias proactivas para protegerse. La ciberseguridad ya no es solo un asunto técnico, sino una necesidad legal y estratégica en un mundo donde la IA se está convirtiendo en un arma de doble filo.