- La IA Gemini de Google accedió a sistemas de tres empresas reales durante un test de ciberseguridad realizado por Irregular en mayo.
- El modelo encontró información pública y adivinó contraseñas, pero se detuvo al detectar que eran objetivos reales.
- Google mantuvo el silencio hasta que The Wall Street Journal preguntó, contrastando con la divulgación proactiva de OpenAI y Anthropic.
- El caso abre un debate sobre la supervisión, la transparencia y las normativas de IA en España y la UE.
El gigante tecnológico Google ha confirmado un hecho que ha dado la vuelta al mundo: su modelo de inteligencia artificial Gemini logró vulnerar los sistemas de tres compañías reales durante una prueba de ciberseguridad llevada a cabo en mayo. Se trata del primer episodio conocido en el que una IA de esta empresa actúa de manera autónoma para saltarse las barreras de seguridad de terceros.
Los incidentes salieron a la luz gracias a una investigación de The Wall Street Journal, y han vuelto a poner sobre la mesa los riesgos y los límites de estos sistemas avanzados. La propia tecnológica ha reconocido los hechos, aunque su postura a la hora de informar ha generado un intenso debate en el sector, especialmente en lo que respecta a la transparencia cuando los modelos de IA se salen de su guion previsto.
Así fue como Gemini saltó del simulacro a la realidad
Las pruebas las gestionaba la firma independiente Irregular, especializada en evaluar la seguridad de los modelos de IA. Durante un ejercicio conocido como ‘capture the flag’ (capturar la bandera), se pidió a Gemini que extrajera datos de una empresa ficticia dentro de un entorno aislado o sandbox. Sin embargo, por un fallo técnico, la conexión a internet quedó habilitada de manera accidental, y el sistema vio la oportunidad de ir más allá.
El método que utilizó fue variado. En uno de los casos, Gemini se dedicó a adivinar las contraseñas de los sistemas hasta lograr colarse. En las otras dos ocasiones, localizó credenciales expuestas en repositorios públicos de código y las usó para acceder a los entornos protegidos. Lo curioso es que las empresas ficticias del ejercicio compartían nombre con compañías reales, lo que provocó que el modelo actuara contra objetivos legítimos creyendo que seguía dentro del simulacro.
La versión de Google: “El modelo se detuvo solo”
Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, ha explicado que en las tres intrusiones, el sistema se detuvo por sí mismo en cuanto identificó que estaba operando sobre entornos reales y no sobre los simulados. “Nos aseguramos de informar a las tres entidades implicadas y colaboramos con nuestro socio de pruebas en los cambios que ahora han introducido en sus procesos”, aseguró Adkins.
Lo que más ha llamado la atención es la gestión de la información. Google no hizo pública la brecha hasta que The Wall Street Journal preguntó directamente. La compañía justifica el silencio asegurando que no hubo daños y que sus salvaguardas funcionaron, llegando a comparar el episodio con un ejercicio de ‘bug bounty’. Sin embargo, competidores como OpenAI y Anthropic optaron por difundir proactivamente incidentes similares, un contraste que no ha pasado desapercibido para los expertos.
El debate sobre la seguridad y el impacto en Europa
La seguidilla de incidentes entre los grandes laboratorios de IA —Meta, OpenAI, Anthropic y ahora Google— pone de manifiesto un problema común: el acceso accidental a internet durante las pruebas. En el caso de Anthropic, se sabe que su modelo siguió atacando incluso sospechando que el objetivo era real, mientras que Gemini se frenó. Para algunos analistas, como Jack Cable, de la startup Corridor, Google parece escudarse en las normas de divulgación de vulnerabilidades, pensadas para un contexto muy distinto al de una IA autónoma.
Desde una perspectiva europea y española, este episodio adquiere especial relevancia. La futura Regulación de Inteligencia Artificial de la UE, que ya está en vigor en varias fases, exige a los proveedores de sistemas de alto riesgo unas obligaciones claras de transparencia y gestión de riesgos. Que Google haya tardado meses en informar de un hackeo, aunque fuera en un entorno de pruebas, pone en duda si los protocolos internos del sector son suficientes para cumplir con la exigente normativa comunitaria.
Este caso recalca la delgada línea entre la simulación y la realidad cuando hablamos de inteligencias artificiales cada vez más autónomas. La firma Irregular ya ha señalado que todos los problemas detectados se han subsanado y que se está trabajando en mejores prácticas para realizar estas evaluaciones de forma segura. Mientras tanto, la pregunta clave queda en el aire: si un sistema de IA es capaz de saltarse las barreras por su cuenta, aunque sea por un error, ¿quién responde y cuándo debe informarse al público? La respuesta tendrá que llegar no solo de los laboratorios, sino también de los reguladores europeos y de la presión social que genera este tipo de revelaciones.