Aprende cómo gestionar riesgos de la IA

En esta sesión Juan Camilo Torres, experto en riesgos ISMS, nos enseña las ventajas y desventajas sobre el uso de la ia, la importancia de la Gestión de Riesgos en IA, nos comparte el caso de uso Finsol y cómo gestionamos los riesgos.

Introducción

En la última década, hemos visto un crecimiento exponencial en el uso de la IA en diversos sectores, desde la salud y la educación hasta la industria y los servicios financieros. Esta tecnología no solo ha transformado la forma en que trabajamos y vivimos, sino que también ha planteado una serie de desafíos y riesgos que debemos abordar. La inteligencia artificial tiene el potencial de mejorar la eficiencia y la toma de decisiones, pero también puede llevar a consecuencias no deseadas si no se gestiona adecuadamente.

Ventajas y desventajas sobre el uso de IA

Ventajas

• Eficiencia y Productividad
• Toma de Decisiones Basada en Datos
• Reduce el error humano
• Potencia la creatividad
• Automatiza los procesos

Desventajas

• La posibilidad de su uso con fines maliciosos
• Dependencia Tecnológica
• Riesgos de Seguridad y Privacidad

Importancia de la Gestión de Riesgos en IA

• Impacto en la Toma de Decisiones: La IA puede influir en decisiones críticas que afectan a la estrategia empresarial, la operativa diaria y la satisfacción del cliente. Los errores en la IA pueden tener repercusiones significativas.
• Regulaciones y Normativas: El creciente enfoque en la regulación de la IA (como la propuesta de la UE sobre IA) requiere que las organizaciones sean más conscientes de los riesgos asociados con su uso, tanto éticos como legales.
• Confianza del Cliente: La falta de gestión adecuada de riesgos puede afectar la confianza del cliente en los productos o servicios basados en IA, afectando la reputación de la organización.
• Seguridad de Datos: La IA a menudo requiere el manejo de grandes volúmenes de datos, lo que plantea riesgos de privacidad y seguridad que deben ser gestionados adecuadamente.

Caso de uso FinSol

La empresa Finsol desea implementar en la organización un proyecto de automatización para el área de servicio al cliente donde se realice la recepción de documentos y verificación de identidad de los clientes que desean consultar o acceder a cualquiera de los servicios que presta el Banco.

Finsol - Contexto

Presentaremos a Banco FinSol empresa Colombiana, una entidad financiera de tamaño medio con una alta exposición a riesgos de cumplimiento, particularmente en áreas de prevención del lavado de activos (PLA) y privacidad de datos, debido a su enfoque en préstamos e inversiones para pymes. 

Se posiciona como un banco digital orientado a brindar servicios financieros accesibles y eficientes a pequeños y medianos emprendedores y consumidores. Con una base de clientes en crecimiento, enfocándose principalmente en el mercado local y regional. Ofreciendo productos como cuentas de ahorro, préstamos personales y empresariales, y servicios de inversión.

FinSol cuenta con una estructura organizativa que incluye departamentos de cumplimiento, gestión de riesgos y atención al cliente, asegurando un enfoque integral en la operación.

Finsol - Identificación de Riesgos

• Riesgos operacionales: Errores en la verificación de identidad
• Riesgos de cumplimiento (Regulatorios y de Privacidad de Datos): Protección de datos personales (Reglamento de Protección de Datos Personales - Ley 1581 de 2012)
• Riesgos financieros: Costos de implementación y mantenimiento

Amplía tu conocimiento con este ebook 👇