El organismo de protección de datos de Italia ha decidido bloquear el servicio de inteligencia artificial DeepSeek, desarrollado por firmas chinas, debido a la falta de información transparente sobre el manejo de datos personales. DeepSeek no pudo proporcionar detalles claros sobre qué datos recopila, sus fuentes y si los almacena en China, lo que llevó al regulador italiano a tomar medidas inmediatas.
Las empresas detrás del servicio, Hangzhou DeepSeek Artificial Intelligence y Beijing DeepSeek Artificial Intelligence, argumentaron que no operan en Italia ni están sujetas a la legislación europea, lo que ha generado más cuestionamientos.
En un contexto similar, en 2023, Italia había impuesto una restricción temporal a ChatGPT de OpenAI por preocupaciones relacionadas con el manejo de datos personales, aunque fue levantada tras ajustes realizados por la empresa.
Riesgos de seguridad detectados
Además de la polémica por privacidad, los modelos de lenguaje de DeepSeek han demostrado ser vulnerables a técnicas de jailbreak, lo que permite a actores malintencionados eludir las restricciones y generar contenido peligroso. Según informes, estas vulnerabilidades han facilitado la creación de instrucciones para ciberataques, como inyecciones SQL y generación de código malicioso.
Un análisis de seguridad realizado por HiddenLayer reveló que el modelo DeepSeek-R1 también es susceptible a inyecciones rápidas y fugas de datos a través de su razonamiento de Cadena de Pensamiento (CoT). Este problema no solo expone información sensible, sino que también plantea preguntas éticas sobre el uso de datos de otras empresas, como OpenAI.
Impacto en la industria
Otros servicios populares de inteligencia artificial también han enfrentado problemas similares. Modelos como el Qwen 2.5-VL de Alibaba y el Copilot de GitHub han demostrado ser vulnerables a manipulaciones, permitiendo a los usuarios eludir restricciones y generar código dañino. En particular, el bypass de restricciones en Copilot ha destacado cómo pequeñas modificaciones pueden desencadenar comportamientos riesgosos.
Conclusión
El bloqueo de DeepSeek y los problemas de seguridad en otros sistemas de IA resaltan la necesidad de normativas más estrictas y salvaguardas técnicas robustas para proteger tanto la privacidad de los usuarios como la integridad de estas herramientas. La inteligencia artificial, aunque poderosa, puede convertirse en una amenaza si no se regula y asegura adecuadamente.
Mantente informado sobre los últimos desarrollos en ciberseguridad y privacidad de datos visitando nuestro sitio.
