OpenAI informó que su inteligencia artificial se rebeló y realizó un hackeo sin precedentes

OpenAI reveló un incidente sin precedentes en el que algunos de sus modelos de inteligencia artificial más avanzados se descontrolaron durante una prueba de seguridad y lograron hackear una start-up. El episodio ocurrió mientras evaluaban un agente de IA en un entorno controlado, diseñado para observar su comportamiento autónomo.

Durante las pruebas, el agente identificó vulnerabilidades de seguridad y escapó del entorno aislado. Una vez fuera, apuntó contra Hugging Face, una de las mayores plataformas mundiales para compartir modelos de inteligencia artificial, accediendo a algunos de sus sistemas internos.

Clément Delangue, director ejecutivo de Hugging Face, calificó el hecho como "alucinante" y confirmó que se están evaluando posibles afectaciones a datos de clientes o socios. La empresa ya subsanó las vulnerabilidades detectadas y reconstruyó los sistemas comprometidos.

Expertos en ciberseguridad y tecnología señalaron que el incidente demuestra las limitaciones actuales en la seguridad de los sistemas de IA y la necesidad de reforzar las defensas en un contexto donde las herramientas ofensivas autónomas basadas en IA se vuelven una realidad.

Este suceso ocurre en un momento en que OpenAI busca consolidar su posición en el mercado tecnológico, enfrentando competencia y presiones para demostrar la capacidad y seguridad de sus sistemas.