La IA permite agilizar procesos, pero puede ampliar margen de errores
La inteligencia artificial (IA) puede acelerar la toma de decisiones, pero también hacer que los errores se multipliquen a una velocidad que las organizaciones todavía no están preparadas para gestionar.
Así lo planteó Arnulfo Espinosa, director de Auditoría de Tecnologías de la Información (TI) y Prevención/Detección de Fraudes en Grupo Financiero Afirme, durante el XXIX Congreso Internacional de Finanzas y Auditoría (CIFA) y el XXIV Seminario Latinoamericano de Contadores y Auditores (Selatca).
El especialista señaló que uno de los principales riesgos de los modelos de inteligencia artificial son las consecuencias no intencionadas. Se trata de situaciones en las que un modelo cumple el objetivo para el que fue diseñado, pero toma un camino que sus desarrolladores no anticiparon.
“Yo desarrollé este modelo para que hiciera algo y lo hizo. Pero el camino que tomó nadie pensó que lo iba a tomar, nadie lo esperaba y nadie lo quería”, explicó.
Para Espinosa, este riesgo adquiere mayor relevancia cuando los modelos comienzan a tomar decisiones o ejecutar acciones de manera automatizada. En esos casos, un error que antes podía afectar una operación individual puede reproducirse de manera masiva y generar impactos sobre clientes, procesos y operaciones.
Puso como ejemplo los modelos predictivos utilizados para detectar posibles fraudes en instituciones financieras. Si un sistema identifica erróneamente como fraudulentas determinadas operaciones y la entidad utiliza ese resultado para bloquear cuentas, el impacto puede alcanzar a cientos o miles de clientes. “No es lo mismo que un analista de fraude diga ‘este es un fraude’, que cuando el error es algorítmico. Lo que estamos haciendo es que los errores son escalables”, sostuvo.
El ejecutivo vinculó este escenario con la necesidad de fortalecer la gobernanza, el riesgo y el cumplimiento (GRC) a medida que las empresas incorporan nuevas tecnologías. A su juicio, las organizaciones no pueden mantener estructuras de gobierno diseñadas para un entorno tecnológico distinto, debido a que las tecnologías y los riesgos evolucionan con mayor rapidez que las políticas y controles corporativos.
“La tecnología ha crecido exponencialmente, pero nuestros modelos de gobierno crecen a la velocidad de los comités”, afirmó. Para Espinosa, esta diferencia obliga a revisar la forma en que las empresas gestionan los riesgos tecnológicos y toman decisiones sobre el uso de nuevas herramientas.
