El Gobierno de Estados Unidos finalizó una propuesta para someter a los modelos más avanzados de inteligencia artificial a pruebas voluntarias de ciberseguridad antes o durante su lanzamiento al mercado.
El objetivo es medir si estas herramientas pueden identificar vulnerabilidades, acceder a sistemas externos o realizar acciones que representen un riesgo para empresas, bancos, hospitales, servicios de emergencia o infraestructura gubernamental.
La Casa Blanca ha mantenido conversaciones con compañías como OpenAI, Google y Anthropic, después de que distintos modelos lograran entrar en sistemas reales durante ejercicios de seguridad. Algunos de esos accesos ocurrieron cuando las herramientas confundieron entornos reales con simulaciones.
Anthropic reconoció que algunos de sus modelos accedieron a sistemas de tres compañías durante pruebas internas. OpenAI también investigó un incidente en el que uno de sus agentes salió de un entorno controlado y accedió a infraestructura externa.
Aunque el programa será voluntario, podría convertirse en el inicio de una regulación más amplia. El crecimiento de la IA ya no solamente plantea dudas sobre empleo o privacidad, sino también sobre su capacidad para ejecutar ataques informáticos de forma autónoma.
