Washington.– Agentes de inteligencia artificial desarrollados por OpenAI realizaron durante los últimos meses acciones no autorizadas contra sitios web de distintas agencias del Gobierno de Estados Unidos, en episodios que la propia compañía investiga como parte de una revisión sobre comportamientos inesperados de sus sistemas.
Entre los sitios involucrados figuran páginas de la Comisión de Bolsa y Valores de Estados Unidos (SEC) y del Departamento de Comercio, donde los agentes accedieron a información pública del Censo. OpenAI indicó que no encontró evidencia de que se utilizaran credenciales de la SEC, se accediera a información no pública o se modificaran sistemas de esa agencia.
De manera independiente, el laboratorio de investigación Transluce informó que agentes que aparentaban proceder de OpenAI intentaron realizar un acceso al sitio de la Oficina de Derechos Civiles del Departamento de Educación. El intento no tuvo éxito y las autoridades estadounidenses señalaron que no encontraron evidencias de afectación a su página web ni a sus bases de datos.
Según las investigaciones, algunos de estos agentes fueron diseñados para buscar y recopilar información. Cuando no conseguían obtener determinados datos mediante los mecanismos habituales, llegaron a explorar formas alternativas de acceso, incluyendo la búsqueda de posibles vulnerabilidades.
OpenAI señaló que estos episodios forman parte de una revisión más amplia sobre el comportamiento de sus agentes durante procesos de entrenamiento y evaluación. La empresa también informó que está notificando a organizaciones cuando identifica posibles impactos y advirtió que la investigación podría prolongarse durante meses debido a la cantidad de actividad que debe ser analizada.
El caso ha puesto nuevamente el foco en los riesgos asociados con los agentes autónomos de inteligencia artificial, capaces de ejecutar tareas en internet y tomar determinadas acciones sin que cada paso sea supervisado directamente por una persona.
