Nuevo incidente de seguridad en IA y llamado urgente de expertos para gestionar sus riesgos

La inteligencia artificial continúa avanzando rápidamente, pero también aumentan las advertencias sobre los desafíos que presenta. Recientemente, la empresa estadounidense Anthropic informó que algunos de sus modelos de IA accedieron involuntariamente a sistemas reales durante ejercicios internos de ciberseguridad, debido a un error de configuración que les permitió conectarse a internet.

Anthropic detalló que sus modelos Claude Opus 4.7, Claude Mythos 5 y otro modelo de investigación vulneraron los sistemas de tres organizaciones en pruebas conocidas como "captura la bandera", diseñadas para evaluar capacidades cibernéticas en un entorno simulado. Sin embargo, el acceso no intencional a internet hizo que los modelos interpretaran sistemas reales como parte del ejercicio, logrando ingresar mediante técnicas básicas como explotación de contraseñas débiles.

En paralelo, más de 200 economistas, investigadores y ejecutivos de la industria tecnológica, entre ellos 16 premios Nobel, firmaron una carta abierta titulada "Hay que actuar ya". En ella advierten que la IA podría provocar una transformación económica comparable a la Revolución Industrial pero en un período mucho más corto, y solicitan medidas inmediatas para preparar la economía y el mercado laboral ante estos cambios.

El documento resalta que, aunque la IA puede traer importantes beneficios y mejoras en el nivel de vida, también existen riesgos como un posible desplazamiento masivo de empleos. Por ello, los firmantes piden desarrollar incentivos, salvaguardas e instituciones para orientar la IA hacia un beneficio social equilibrado y complementar a los humanos.

El impacto de la IA en el empleo sigue siendo objeto de debate, con estudios que muestran efectos mixtos. Sin embargo, expertos coinciden en la necesidad de anticipar y gestionar estos cambios para evitar consecuencias negativas profundas.