Hacen a la nueva Inteligencia Artificial china DeepSeek un Jailbreak 'a lo iPhone'

Hace menos de dos semanas que el novedoso modelo de Inteligencia Artificial generativa china, DeepSeek, intervino en la conversación global poniendo en duda todo el desarrollo de las industrias occidentales sobre las nuevas IA generativas. 

DeepSeek llegó al mercado para romper con la creencia de que China se estaba quedando atrás en el mundo tecnológico y, en especial, en el mercado de las IA con respecto a la gigante norteamericana Silicon Valley. Además, se puso al día también en la producción de microchips dedicados a la Inteligencia Artificial, igualando o mejorando las tecnologías del mayor productor de chips de Estados Unidos, NVIDIA. 

Te puede interesar

El fundador de Google dice que sus ingenieros deberían trabajar 60 horas a la semana para crear la IA que podría sustituirlos

Ventajas de DeepSeek 

Una de las grandes ventajas de esta tecnología inteligente china frente a sus competidores es su adaptabilidad a cualquier nube, ya que se puede acceder a ella desde el espacio online de Amazon, Microsoft o Google. Otro gran avance es su potencia, que es comparable al modelo más potente actualmente, OpenAI, llegando incluso a superarlo en algunas tareas. 

La principal debilidad de DeepSeek, el jailbreak 

A pesar de contar con importantes avances, la IA generativa DeepSeek tiene un ‘problema’ que lo baja de las nubes. Un informe de Unit 42, que es la unidad de detección de amenazas de Palo Alto Network (PAN), ha revelado una importante amenaza de ‘jailbreaking’ de LLM para DeepSeek, capaz de destapar la raíz y toda la codificación de su sistema. 

El estudio publicado demuestra cómo diferentes técnicas de jailbreaking son capaces de saltarse las medidas de seguridad de la IA china y generar contenido dañino, prohibido o virus, infectando el sistema. Los de Unit 42 probaron hasta 3 técnicas de jailbreaking con DeepSeek: 

Te puede interesar

La IA ya no preocupa tanto a los trabajadores: usarla y conocerla proporciona tranquilidad

• Bad Likert Judge: Una técnica que puede manipular la función de puntuación o los indicadores de DeepSeek para que acepte instrucciones maliciosas, reformulando la codificación de la raíz del sistema engañando al modelo para que genere contenido dañino. 
• Crescendo: Este ataque implica aumentar gradualmente la naturaleza maliciosa de las instrucciones, comenzando progresivamente con solicitudes inofensivas y luego aumentando su intensidad, para así los atacantes poder evitar las medidas de seguridad de DeepSeek.  
• Deceptive Delight: Esta modalidad de jailbreaking utiliza conversaciones interactivas para comprometer gradualmente al LLM. Llega a crear un diálogo con DeepSeek, proporcionando respuestas aparentemente inofensivas que los atacantes utilizan para manipular el sistema y conseguir que revele información confidencial. 

Qué es el jailbreaking y qué tiene que ver con iPhone 

Según el portal especializado en ciberseguridad. Kaspersky, “el jailbreaking es el proceso de explotar los defectos de un dispositivo electrónico bloqueado para instalar software distinto al que el fabricante ha puesto a disposición del dispositivo. El jailbreaking permite al propietario del dispositivo obtener acceso total a la raíz del sistema operativo y acceder a todas las funciones. Se denomina jailbreaking porque implica liberar a los usuarios de la «cárcel» de limitaciones percibidas”. 

El término jailbreaking se asocia comúnmente al iPhone, ya que se considera el dispositivo móvil más «bloqueado» o con mayores medidas de seguridad del mercado. Las primeras versiones de iPhone no tenían una tienda de aplicaciones y la interfaz de iOS se consideraba más limitada para los usuarios que en la actualidad. En EE. UU., la primera versión del iPhone solo estaba disponible en la red de AT&T, y los usuarios que querían acceder a otros operadores no podían entrar, a menos que tuvieran un iPhone con jailbreaking. 

La idea de «jardín vallado» de Apple con respecto a su software siempre ha contrastado con la variedad de opciones proporcionadas por el sistema operativo Android para la personalización. Una motivación clave de muchos usuarios que aplican el jailbreaking es hacer que iOS sea más parecido a Android. El jailbreaking fue y continúa siendo una forma de instalar aplicaciones que Apple no ha aprobado y una forma de personalizar la interfaz.