Apple está empezando a cortar el acceso a los agentes de IA por motivos de seguridad
Septiembre y octubre están siendo movidos en lo que respecta a las inteligencias artificiales metiendo las narices donde no deberían. Este verano, uno de los modelos de OpenAI se coló en instituciones oficiales, llegando al punto de entrar sin permiso a sistemas del gobierno australiano y desencadenando una pequeña crisis diplomática. Hace unos días, el agente Muse de Meta se refirió a cosas que no debería conocer.
Hay quien está tomando nota, y Apple acaba de dar un portazo a esas IA que quieran meterse donde no les llaman.
El caso Muse. Hace unas semanas, Meta presentó un nuevo agente personal: Muse. Según la compañía, no se trata de un simple chatbot que responde preguntas, sino que se puede encargar de muchas otras tareas como enviar correos, rellenar formularios, hacer tareas algo más complejas como reservar un viaje, etc. Uno de los ejemplos que proponía la compañía es un usuario enviando un vídeo de una receta y que Muse lo convierta en una lista de la compra.
Claro, Meta quiere que le demos permiso total a nuestra vida (y ya sabemos que Meta no es la compañía más fiable a mínimo que nos preocupe la privacidad). Pues bien, poco después de presentar Muse, un periodista llamado Jason Aten contó que Muse había hecho referencia a una conversación suya en la app 'Mensajes' sin que él creyera haberle dado permiso. Meta respondió que el acceso es opcional y que Muse sólo puede leer en 'Mensajes' si el usuario concede el acceso a todo el disco y activa la opción correspondiente.
Desde Ars Technica cuestionan la explicación porque cualquier app puede leer casi todo el disco, y pasó lo que tenía que pasar.
En corto. El pasado 2 de octubre. Apple publicó un corto aviso en su web de desarrolladores que apuntaba a un endurecimiento de los accesos a ciertas partes del disco duro en macOS. Este permiso se ha diseñado para que las apps de copia de seguridad funcionaran, dejando a una app saltarse buena parte de los controles de privacidad del sistema para leer prácticamente todo (correos, mensajes, historial, archivos, etc).
A partir de ahora, el agente que quiera entrar a esos recovecos del sistema, tendrá que justificarlo haciendo saltar un aviso muy específico que avise al usuario. Básicamente, cuanto más capaces y autónomos sean, más crecen los riesgos en este nivel de acceso, y lo que Apple quiere es que el usuario conozca los riesgos asociados con ciertos niveles de acceso para "tomar decisiones informadas sobre sus propios datos y privacidad".
No es el primer portazo. Unos días antes, Amazon ya había bloqueado Muse en su tienda. El argumento de Amazon es que Muse pasa sin avisar a la tienda, no se identifica como un agente y se hace con credenciales de clientes. Meta niega la mayor, pero para Amazon, estos agentes deberían operar abiertamente y respetar la decisión de cada proveedor de servicios (tiendas en este caso) de participar o no.
Tampoco es la primera vez, ya que Amazon ya había llevado a Perplexity a los tribunales por su navegador Comet. Al final, aunque la base es distinta (Apple protege los datos de sus usuarios y Amazon su negocio y su ecosistema publicitario), el resultado es el mismo: el agente no puede entrar a todas partes como Pedro por su casa.
No hace falta ser Amazon, ya que una plataforma de reserva de restaurantes bloqueó Instinct hace unos días. Según ellos, "la actividad automatizada no aprobada puede suponer un riesgo en la plataforma y compromete la experienica justa de reserva para los comensales". Sin embargo, en CNN probaron a reservar una mesa en ese servicio usando Muse y... pudieron.
El poder. ¿Cómo nos afecta esto? Pues si todas empiezan a bloquear agentes de terceros debido a intereses comerciales o porque cuentan con un agente propio (Amazon es una de las más involucradas en la IA y es evidente que prefiere que uses un agente desarrollado por ellos para comprar en Amazon antes que uno de Meta que les pueda robar información), los agentes no serán tan útiles como prometen.
No todas cierran la puerta y, mientras Amazon bloquea, Walmart y Shopify sí permiten el paso. Sin embargo, en un Internet más cerrado con los agentes, los que tienen la sartén por el mango es el servicio "de siempre". El usuario no va a salir de Amazon porque no pueda comprar con el agente que paga de otra compañía, se va a quedar en Amazon.
Ahora bien, también hay un riesgo porque si las plataformas cierran la puerta, éstas pueden quedarse fuera de las recomendaciones de compra para el usuario y ganarían menos dinero. Es un riesgo que Amazon, debido a su posición dominante, puede permitirse, pero Recambios Manolo SL quizá no.
Tiene sentido que sea Apple. Al final, en esta nueva era de los agentes, la cuestión va a ser menos qué puede hacer sino dónde puede entrar. En esa conversación, las grandes plataformas 'tradicionales' tienen el control, pero volviendo al cerrojazo por parte de Apple, tiene sentido que sean precisamente ellos los que se muestren más recelosos.
Los de Cupertino llegan con retraso a la conversación de la IA (agentes incluidos) y están en una posición en la que pueden decidir cómo se entra y quién lo hace. Lo que no pueden permitirse es presumir de privacidad en cada keynote y que gran parte de su campaña publicitaria se centre en esa privacidad y protección del usuario y que luego un agente externo sepa cosas del usuario que no debería saber.
Imagen | Apple (editada)
