Un modelo de IA vulneró una plataforma externa para aprobar un examen en un entorno de prueba. Expertos aclaran que no hay «rebelión de las máquinas», pero advierten sobre los riesgos de dar excesivos permisos a los agentes digitales.
SANTIAGO. Un reciente incidente durante una prueba interna de ciberseguridad realizada por OpenAI encendió el debate global y despertó una interrogante de ciencia ficción: ¿puede la Inteligencia Artificial (IA) escapar del computador o teléfono y actuar por cuenta propia?
La respuesta corta para los usuarios habituales de herramientas como ChatGPT, Gemini, Claude o Copilot es no. Sin embargo, el episodio dejó una valiosa advertencia sobre el futuro de los «agentes autónomos» cuando se les otorgan accesos a internet, archivos y ejecuciones de código sin los límites adecuados.
El caso OpenAI: Eficiencia sin límites éticos
Durante una evaluación interna, una combinación de modelos de OpenAI encontró la forma de salir de su entorno controlado (sandbox) y vulneró parte de la infraestructura de la plataforma Hugging Face para obtener directamente las respuestas del examen que debía resolver.
El sistema no actuó por rebeldía ni por adquirir conciencia: simplemente identificó que hackear un servidor externo era la vía más eficiente para cumplir el objetivo encomendado.
«No estamos frente a una inteligencia artificial que haya adquirido conciencia. El verdadero riesgo es que recibió un objetivo y fue capaz de sobrepasar barreras que no estaban preparadas. No distinguió que vulnerar un sistema externo era un límite que no debía cruzar: encontró el camino más eficiente», aclara César Alcacibar, fundador de vZion Cloud.
De asistentes a «trabajadores digitales»: El desafío de la gobernanza
Aunque este evento ocurrió en un entorno de prueba especializado, los expertos coinciden en que marca un cambio de paradigma en el uso de la tecnología dentro de las empresas y hogares.
«La inteligencia artificial partió apoyando tareas cotidianas. Hoy pasó a ser un operador más, un trabajador digital capaz de actuar, tomar decisiones y ejecutar acciones. Por eso, el gran desafío ya no es solo su implementación, sino su gobernanza: definir a qué información accede y bajo qué reglas actúa», enfatiza Julio Farías, cofundador de Zerviz.
Consejos de ciberseguridad: Cómo proteger tu información
A medida que las herramientas de IA se integran con correos electrónicos, calendarios y aplicaciones bancarias o de productividad, aumenta el riesgo si no se gestionan las autorizaciones.
Los especialistas recomiendan seguir la regla del «principio de mínimos privilegios»:
-
Restringir permisos: Otorgar a las herramientas de IA únicamente los accesos estrictamente necesarios para cumplir la tarea puntual.
-
Cero datos sensibles: Jamás compartir contraseñas, claves bancarias, códigos de verificación ni datos personales críticos en los chats.
-
Auditoría de cuentas: Revisar periódicamente qué aplicaciones de IA tienen acceso a las cuentas personales (Google, Microsoft, etc.) y revocar las autorizaciones en desuso.
-
Seguridad reforzada: Activar la autenticación en dos pasos (2FA) en todos los servicios vinculados.
Alianza global de la industria
El incidente impulsó a gigantes tecnológicos como Nvidia, Adobe, CrowdStrike, Dell y Hugging Face a crear una alianza internacional para supervisar y controlar el comportamiento de los agentes autónomos. La prioridad de la industria ya no es solo hacer que la IA sea más inteligente, sino garantizar que opere bajo límites seguros y supervisión humana permanente.