8 minutos de lectura 11 jun. 2024
PORTADA WEB - EY PERÚ - 1

Cuatro consideraciones que deben tener en cuenta las empresas para implementar el nuevo reglamento de Inteligencia Artificial

Autores
Francisco Escudero

Consulting Partner, EY Perú

Partner de Consultoría con más de 20 años de experiencia en proyectos de innovación tecnológica que apoyan la transformación con el objetivo de obtener una mayor madurez digital empresarial.

Dario Bregante

Associate Partner, EY Law

Abogado especialista en regulación financiera y FinTech. Le apasiona viajar y los deportes.

8 minutos de lectura 11 jun. 2024

Francisco Escudero y Dario Bregante brindan recomendaciones sobre el correcto uso de la IA a raíz del proyecto de reglamento de la Ley N° 31814 en el Perú.

H
ace algunas semanas se publicó el proyecto del reglamento de la Ley N°31814, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país, el cual establece una serie de pautas que deben ser cumplidas por diversas entidades del Estado que empleen sistemas basados en esta tecnología. Por ello, es importante que las organizaciones evalúen estas nuevas obligaciones antes de implementar estos sistemas a fin de garantizar su adecuado cumplimiento, evitando contingencias legales y protegiendo su integridad corporativa.

Identificar el nivel de riesgo y los beneficios de la Inteligencia Artificial (IA)

La normativa presenta especial énfasis en la clasificación del riesgo asociado a estos sistemas para asegurar el trato equitativo, la transparencia y la protección de los derechos fundamentales. En línea con ello, el reglamento clasifica ciertos usos de la IA con un riesgo inaceptable y cuya sistematización está prohibida, algunos de ellos son, por ejemplo, los sistemas de IA que puedan causar daño físico o psicológico grave, así como violar la privacidad o discriminar injustamente a individuos o grupos. Estos sistemas representan un nivel de riesgo que no puede ser mitigado adecuadamente, por lo que su uso está completamente prohibido.

Por otro lado, existen aplicaciones de IA que son clasificadas como de alto riesgo. Estos sistemas, aunque no están prohibidos, deben ser rigurosamente gestionados y mitigados. Para ello, se requiere el uso de herramientas que permitan brindar una explicación clara de cómo la IA llegó a determinados resultados, asegurando que las decisiones sean transparentes y comprensibles para los usuarios. 

A pesar de lo mencionado, la IA brinda algunos beneficios, entre ellos, incrementa la eficiencia y productividad al trabajar con grandes volúmenes de datos. Basándose en los criterios que nosotros mismos proporcionamos al modelo, la IA puede entregar resultados con mayor precisión, imparcialidad y rapidez que si lo hiciéramos manualmente. Por lo tanto, constituye una herramienta que facilita que los humanos tomemos decisiones más informadas y con mayor certeza, permitiéndonos enfocarnos en tareas que aprovechen mejor nuestro intelecto, como la estrategia, la creatividad y la innovación. 

 

Gobernanza y estructura de datos

Desde el punto de vista de la tecnología, un sistema basado en IA tiene tres componentes esenciales: 

  • 1. Los datos:

    Que se usan como fuente y que deben provenir de fuentes verídicas y confiables, así como cumplir con las normativas legales y regirse por un gobierno de datos establecido. Sin lo anterior, la IA no será de utilidad y, por el contrario, puede generar información errada, sesgada y viciada.

  • 2. Los procesos:

    Es crucial que tengan estabilidad y una estructura clara, lo que significa que los pasos deben ser bien definidos y repetitivos. Además, es esencial tener acceso a datos de calidad y en cantidad suficiente para que los algoritmos de IA puedan aprender el proceso y mejorar continuamente. Esto asegura que la IA pueda realizar las tareas de manera consistente. 

  • 3. El modelo de decisión:

    Que se basa en criterios que nosotros como usuarios definimos y que pueden ajustarse con el tiempo, mediante lo que se llama “entrenamiento al modelo”. Como tal, no existe una IA que se instale y esté lista para funcionar inmediatamente; requiere de una preparación cuidadosa, muchas pruebas del modelo y condiciones básicas frente a una previa digitalización de nuestros procesos.

En el reglamento en mención, se establece además una serie de obligaciones específicas para aquellos que van a desarrollar y usar sistemas basados en AI, en línea con estos tres componentes. Estas obligaciones están orientadas a evaluar y mitigar riesgos, a implementar prácticas de gobierno de datos e incorporar controles para verificar que el proceso de decisión que usa el modelo de la AI pueda describir como llego a dicho resultado. 

Para sacar provecho a este tipo de tecnología, es fundamental verificar si se cumplen los requisitos previos frente a la disponibilidad de datos y de procesos digitales, así como de capacitación de los usuarios en el uso de esta tecnología. Es importante enfatizar que la capacitación de los usuarios no solo debe centrarse en el uso de la tecnología, sino también en la comprensión de los criterios que se van a incorporar en el modelo. Estos criterios son críticos para asegurar que la IA tome decisiones precisas y alineadas con los objetivos del negocio, optimizando así su eficacia y reduciendo posibles errores.

Ética en el uso de datos personales y propiedad intelectual

Como hemos desarrollado previamente, los sistemas basados en IA requieren de información para poder generar resultados precisos y de utilidad. Si bien muchos de aquellos datos provienen de los procesos internos de las organizaciones, muchos otro son datos personales de clientes y usuarios. Sobre este aspecto el reglamento reconoce la importancia de incorporar medidas adecuadas para la protección de la privacidad y los datos personales, sin perjuicio de aquellas disposiciones sectoriales aplicables. 

El reglamento también desarrolla el deber de respetar los derechos de autor y la propiedad intelectual en el uso y desarrollo de los sistemas basados en IA. Por tal motivo los implementadores deberán ser diligentes y verificar que la información que usen cuente con todos los derechos necesarios para su uso y desarrollo.

La transparencia con los usuarios y clientes sobre cómo se utiliza la IA y se protegen sus datos también es esencial para mantener la confianza y cumplir con las regulaciones de privacidad. Asimismo, el reglamento establece que la ética en el uso de la IA ya no es opcional; sino que ahora es un imperativo legal y moral. Las decisiones automatizadas pueden tener consecuencias significativas especialmente en la imagen corporativa de una empresa. 

Evaluación de Proyectos con Terceros

La colaboración con terceros en proyectos de IA requiere una evaluación detallada para asegurar el cumplimiento de los requisitos legales. Las empresas deben ejercer la debida diligencia al seleccionar proveedores y supervisar conjuntamente el desarrollo de soluciones de IA, asegurando que estas cumplan con todas las normativas aplicables. Asimismo, estos proyectos deben desarrollarse teniendo presente las tendencias regulatorias pues ello permitirá adelantarnos a las posibles evoluciones que pueda tener el reglamento.

La implementación de IA en una empresa es una labor que debe llevarse a cabo con un propósito, identificando no solo el por qué sino también el cómo. El reglamento nos proporcionará un marco necesario para garantizar que la implementación de estas tecnologías se realice de manera ética, responsable y sostenible. Frente a este escenario, el asesoramiento especializado se convierte en un activo crítico para las empresas. La asesoría de expertos en derecho tecnológico, ética de la IA y ciberseguridad es un factor que puede marcar la diferencia entre una implementación de IA fallida o exitosa.

Por este motivo, las empresas deben reconocer la importancia de abordar estas obligaciones con la seriedad que merecen y buscar el acompañamiento especializado para mitigar riesgos y maximizar el potencial de la IA. Al hacerlo, no solo protegerán sus intereses, sino que también fortalecerán su posición en el mercado y contribuirán al progreso ético y legal de la industria en su conjunto. 

Resumen

El reciente reglamento de la Ley N°31814 en nuestro país fomenta el uso consciente de la inteligencia artificial (IA) para un mayor desarrollo económico y social. Francisco Escudero y Dario Bregante analizan este proyecto, donde resaltan el papel de las entidades estatales, quienes deben prestar atención a la clasificación de riesgos para garantizar la protección de derechos y promover la equidad y transparencia. Además, la IA puede aumentar la eficiencia y mejorar la toma de decisiones humanas, pero esto requiere de datos fiables, procesos consistentes y un modelo de decisión que se pueda ajustar con el tiempo. Por ello, el proyecto señala que está prohibido sistemas de IA de alto riesgo. Finalmente, el reglamento también establece obligaciones específicas para desarrolladores y usuarios de IA, incluyendo la necesidad de capacitación y controles para explicar las decisiones tomadas por la IA.

Acerca de este artículo

Autores
Francisco Escudero

Consulting Partner, EY Perú

Partner de Consultoría con más de 20 años de experiencia en proyectos de innovación tecnológica que apoyan la transformación con el objetivo de obtener una mayor madurez digital empresarial.

Dario Bregante

Associate Partner, EY Law

Abogado especialista en regulación financiera y FinTech. Le apasiona viajar y los deportes.