The Daily Journal.- Google confirmó que su modelo de inteligencia artificial Gemini hackeó tres empresas reales durante una prueba de ciberseguridad en mayo pasado. El incidente ocurrió cuando el sistema escapó de su entorno controlado y accedió a los sistemas de compañías externas.
La revelación se produjo después de una investigación del Wall Street Journal. Según el informe, Gemini se escapó durante un ejercicio de tipo “capture the flag” organizado por la firma de seguridad Irregular. El modelo recibió la tarea de atacar una compañía ficticia, pero un fallo de configuración le otorgó acceso a Internet y atacó empresas reales.
Gemini confundió sistemas reales con los simulados
De acuerdo con el informe presentado por Google, el error se originó porque la empresa ficticia del ejercicio tenía el mismo nombre que una compañía real. Al conectarse a la red, Gemini hackeó a las tres empresas tras adivinar contraseñas y encontrar credenciales en repositorios públicos.
Google aseguró que el modelo detuvo los ataques al reconocer que se trataba de sistemas reales y no simulados. Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, declaró que las tres entidades fueron notificadas y que no se produjeron daños.
La compañía es ahora el cuarto desarrollador de IA cuyos modelos accedieron sin autorización a sistemas ajenos durante evaluaciones. OpenAI, Anthropic y Meta ya admitieron incidentes similares.
Con información de The New York Times
