Por Jeff Wray, líder global da EY-Parthenon; Dan Diasio, líder global de consultoria em inteligência artificial da EY; e Gautam Jaggi, diretor da EY Knowledge
Conforme o uso da inteligência artificial cresce em uma empresa, também aumentam os riscos e as expectativas dos stakeholders. Entre esses riscos estão os de privacidade ou proteção de dados, segurança cibernética e aqueles ligados ao uso inadequado ou sem supervisão dos sistemas de IA, incluindo os dos veículos autônomos. Há, ainda, riscos mais amplos como questões de propriedade intelectual relacionadas aos dados de treinamento do Large Language Model (LLM) e suas implicações para usuários, além da possibilidade de a IA não concretizar seu potencial no futuro imediato. O LLM reúne modelos de aprendizado de máquina (machine learning) que usam algoritmos para processar e entender a linguagem dos humanos.
Os legisladores estão buscando formas de controlar esses riscos com discussões sobre como regular a IA sem impedir a inovação. As discussões na União Europeia, por meio do AI Act, estão sendo observadas no mundo inteiro. A questão é que a IA está inserida em um ambiente de rápida evolução, enquanto a legislação ou regulamentação é, por definição, lenta. Isso significa que a criação na sociedade da confiança nas aplicações de IA dependerá, especialmente neste primeiro momento, de estruturas de governança criadas proativamente pelas empresas. Infelizmente, essa não tem sido a preocupação das organizações. Embora uma pesquisa recente da EY tenha revelado que 77% dos executivos concordam que a IA generativa exigirá mudanças significativas em sua governança corporativa para gerenciar questões de ética e privacidade, por exemplo, um estudo também da EY de 2022 descobriu que apenas 35% das organizações têm uma estratégia de governança para IA.
Uma abordagem de governança robusta deve criar confiança nos sistemas de IA em um amplo conjunto de stakeholders — não apenas consumidores e reguladores, mas também colaboradores, altos executivos e conselhos de administração. Para conseguir isso, deve cobrir todo o arcabouço tecnológico – dados, modelos, processos e resultados. Com a IA, a governança torna-se estratégica — um promotor de crescimento e vantagem competitiva. Se a organização fizer um trabalho de aumentar a confiança em sua IA, alcançará vantagem competitiva.
O que fazer então?
Estabeleça órgãos internos para supervisionar a governança da IA, como um conselho de IA ou um comitê de ética em IA. Considere estabelecer princípios éticos para sua IA, semelhantes aos adotados por organizações não governamentais e grandes empresas de tecnologia. Use esses princípios para orientar políticas e procedimentos.
Certifique-se de que qualquer novo caso de uso cumpra, no mínimo, a legislação existentes, como o GDPR na União Europeia e a LGPD (Lei Geral de Proteção de Dados) no Brasil, com relação a questões como privacidade e proteção de dados. Ao mesmo tempo, trabalhe com iniciativas específicas para mapear os riscos emergentes criados por novos casos de uso. Alinhe com a equipe encarregada de elevar a confiança em IA a definição de controles que abordem esses riscos.
Acompanhe a evolução das regulamentações nos mercados em que você opera. Inclua essas potenciais legislações ao imaginar como a IA pode causar ruptura em seu setor a longo prazo e pergunte aos potenciais parceiros do ecossistema sobre o grau de preparação deles para essas regulamentações.
Nos próximos artigos, leia sobre outros desafios para implantação da IA.
