“Tu lavadora está sujeta a más reglas de seguridad que la IA”: Brad Smith, presidente de Microsoft, pide frenar el Salvaje Oeste de la IA

Brad Smith, presidente de Microsoft, ha prestado declaración recientemente sobre cómo está el panorama de la IA en términos de regulación. La cosa no está para tirar cohetes, y el propio Smith sostiene que hasta un cartón de leche tiene más protocolos de seguridad que los mayores sistemas de IA más potentes del mundo (que por otra parte, no es un punto tan polémico teniendo en cuenta que es algo que ingerimos en nuestro día a día). Smith pide normas globales precisamente en un momento en que la Casa Blanca prefiere que la industria se autorregule.

Choque frontal. Smith representa una de las posiciones más importantes de una de las empresas más profundamente involucradas en la IA. Microsoft opera infraestructura de IA, además de ser accionista de OpenAI. Así que su petición sitúa a la empresa en desacuerdo con la postura del presidente Donald Trump, quien declaraba que el sector debería regularse a sí mismo para que las empresas estadounidenses no pierdan terreno en la carrera de la IA frente a China.

Lo que dice. En declaraciones al podcast Big Boss Interview de la BBC, Smith contaba que "ahora mismo, tu lavadora está sujeta a más normas de seguridad que la IA", añadiendo además que cada cartón de leche en un supermercado está sujeto a normas de seguridad e inspección. Describió la IA tanto como una "herramienta como un arma" y dijo que la tecnología está avanzando "más rápido que la velocidad de la seguridad".

Lo que quiere. Smith estableció tres medidas:

• Un freno de emergencia. Permitiría a las empresas pausar o ralentizar un sistema de IA que se descontrole. Smith afirmaba durante la entrevista que debería aplicarse a los sistemas que controlan dispositivos autónomos o infraestructuras críticas, y recaer en las empresas que ejecutan los modelos y la infraestructura de nube que hay detrás de ellos. Es una medida a la que el propio Satya Nadella, CEO de Microsoft, hizo referencia también recientemente.
• Informes de incidentes obligatorios. Si un agente de IA descontrolado o deshonesto entra furtivamente en un sistema, se debe avisar a la "víctima", de forma muy similar a como ya se exige a las organizaciones notificar a sus clientes cuando ha habido una brecha de seguridad.
• Aprobación independiente antes del lanzamiento. Smith califica esta medida como la más importante, insistiendo en que los evaluadores del gobierno examinarían los modelos de frontera antes de que lleguen al público, como ya ocurre con productos como los aviones comerciales de pasajeros.

"Sabemos cómo hacer esto para otros productos", dijo Smith. "Deberíamos aprovechar ese conocimiento y pensar en cómo aplicarlo a la IA".

Por qué el Reino Unido. Smith argumentaba que Gran Bretaña está en la mejor posición para liderar en materia de normas globales debido a su Instituto de Seguridad de la IA (AISI, por sus siglas en inglés), creado bajo el mandato del ex primer ministro Rishi Sunak.

Según el medio Politico, la Casa Blanca supuestamente pidió el mes pasado a Anthropic y OpenAI que no pusieran a disposición de los evaluadores británicos sus nuevos modelos. El lunes, el AISI confirmó que todavía puede acceder y probar los últimos modelos, según cuenta TechCrunch.

La vía voluntaria. A finales del mes pasado, Trump reunió en la Casa Blanca a los líderes de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google. En esta reunión, buena parte de las empresas firmaron un documento “moralmente vinculante”, según el propio Trump, en el que las empresas acordaron trabajar con auditores independientes para comprobar que sus sistemas funcionan sin comportamientos erráticos. Microsoft no firmó en ese momento.

Smith dijo que aplaude la declaración y que Microsoft está "encantado de firmarla". Pero la calificó como "un buen paso, es un paso necesario. Pero ya no creo que sea suficiente". La debilidad de la autorregulación, argumenta, radica en que "las buenas empresas harán lo que se les pide", mientras que "de las que hay que preocuparse es de las empresas que no son tan responsables".

Imagen de portada | Microsoft