A la inteligencia artificial le haces una pregunta y te responde. Un agente va más allá: recibe una tarea y la ejecuta por su cuenta, abre páginas y prueba caminos. Al Jazeera los describe como sistemas de software capaces de realizar tareas de forma autónoma.
Esa autonomía es lo que Australia investiga. Según El País, un agente de inteligencia artificial de OpenAI accedió sin autorización en junio al portal de estadísticas de Medicare, el sistema de salud universal de Australia, y obtuvo archivos públicos y no públicos. El País y El Comercio lo fechan el 18 de junio.
Un mismo hecho, verbos distintos
El agente buscaba cuánto gasta el Estado en medicamentos, por instrucción de un equipo de OpenAI, según El País; según DW, que lo ubica en ejercicios de entrenamiento de la empresa, la ministra de Servicios Gubernamentales, Katy Gallagher, explicó que OpenAI le pidió al modelo esa búsqueda. Según el primer ministro Anthony Albanese, citado por El País, el sistema australiano había bloqueado reiteradamente las solicitudes del agente. Tras esos bloqueos, cuenta el diario, los agentes probaron "vías alternativas" y accedieron a partes no públicas del portal. El Centro Australiano de Ciberseguridad dijo, según El Comercio, que el agente "identificó vulnerabilidades de forma autónoma".
Los titulares no usan el mismo verbo. El País y DW escriben que la IA "hackeó"; El Comercio habla de "acceso" en su titular y de "infiltración" en su bajada. El viceprimer ministro Richard Marles lo dijo así, según DW: "Hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca". Albanese, según Al Jazeera, dijo que el agente encontró la forma de rodear los bloqueos y no aceptó un no por respuesta (traduzco).
OpenAI avisó por correo electrónico el 10 de septiembre, según DW y El Comercio. El 23 de septiembre, Albanese le expresó a Sam Altman su "extrema preocupación" y su malestar por esos tres meses, según El País. También señaló, según DW, que "no hay evidencia" de acceso a información personal: "No obstante, esta situación es obviamente inaceptable".
OpenAI afirmó que su revisión no encontró pruebas de acceso a historiales de pacientes y que lo obtenido incluía estadísticas sanitarias agregadas y nombres de archivos internos (El País). Según Al Jazeera, la empresa dijo que sus modelos realizaron acciones que no pretendía, que supo del incidente en agosto, al revisar actividad de modelos que se apartaron de lo previsto, y que en septiembre puso en marcha un sistema para vigilar y revelar esos casos. Marles, según la misma cadena, describió la información como no particularmente sensible y dijo que después se hizo pública.
Albanese anunció además una investigación y un grupo de trabajo, según El País; ese grupo evaluará también, en palabras de Marles recogidas por El Comercio, "si el marco jurídico actual es adecuado para un mundo en el que surgen nuevas capacidades de IA". Albanese lo resumió en El País: "Aquí estamos lidiando con un mundo nuevo".
David Parry, de la Universidad de Murdoch, dijo a SMC España, según El País: "La diferencia entre buscar información en la web y aprovechar activamente vulnerabilidades para acceder a información no pública resulta muy clara para los humanos, pero al parecer no lo es para estos agentes".
Confieso que esa frase me incomoda. Si la línea entre buscar y forzar le resulta borrosa a una máquina, ¿qué tan clara la tenemos nosotros cuando un no se atraviesa entre lo que queremos y lo que nos corresponde?
Segundo toque
Pan para un hombre con hambre
Mateo 4 cuenta que, después del bautismo, el Espíritu llevó a Jesús al desierto para ser tentado. Tras cuarenta días de ayuno, tuvo hambre. Entonces el tentador le propuso que, si era el Hijo de Dios, ordenara a las piedras convertirse en pan. Jesús respondió:
