Como você pode preparar a IA de hoje para os regulamentos de amanhã?
A inteligência artificial (IA) emergiu como um agente-chave de transformação, criando oportunidades para maior percepção e eficiência em todos os setores. biofarmacêutica não é exceção.
Nosso cliente, uma empresa biofarmacêutica global, já havia realizado uma auditoria interna de IA para avaliar a maturidade de seus processos nesse campo emergente, o que ajudou a identificar uma série de lacunas. O mais problemático era a ausência de uma estrutura de governança de IA.
A empresa entendeu que preencher essa lacuna seria uma etapa vital para atingir um estado maduro mais cedo ou mais tarde, permitindo aproveitar simultaneamente as oportunidades da IA e mitigar com sucesso os riscos que abrangem domínios técnicos, sociais e éticos - incluindo viés de tomada de decisão e violações de privacidade.
Posteriormente, nosso cliente desenvolveu uma estrutura abrangente de governança de IA, adotando princípios responsáveis de IA, como transparência, justiça e centralização no ser humano.
“Temos uma responsabilidade coletiva de gerenciar o risco de IA. Nossos princípios éticos de IA são uma parte importante de nossa estratégia de gerenciamento de riscos de IA e ajudam a maximizar os benefícios da IA”, explica o CIO da empresa biofarmacêutica.
No entanto, a liderança exigiu garantia de que estava indo na direção certa e foi em busca de um parceiro independente.
Os times EY trabalharam com o cliente em uma revisão de sua governança de IA, com o objetivo de apoiar o negócio na manutenção de seus valores organizacionais sem impedir a inovação. “Como somos amplamente orientados por valores, queríamos garantir que tanto as pessoas quanto as máquinas vivessem esses valores”, diz o líder de governança de IA da empresa biofarmacêutica.
Como somos amplamente orientados por valores, queríamos garantir que tanto as pessoas quanto as máquinas vivessem esses valores.
Quando a biofarmacêutica iniciou sua jornada há alguns anos, a governança da IA era um território amplamente desconhecido no setor, oferecendo poucos exemplos a seguir.
Além do mais, na época, a União Europeia (UE) estava prestes a revelar seu tão esperado rascunho de regulamentos de IA. Uma vez promulgada, a resultante Lei de Inteligência Artificial (IA) da UE - a primeira regulamentação abrangente de IA do mundo - colocará a responsabilidade pela governança da tecnologia no nível do conselho.
Várias outras nações líderes e organizações internacionais também desenvolveram suas próprias abordagens regulatórias em torno da IA, com as quais a biofarmacêutica pode ter que cumprir.
Em última análise, o cliente precisava saber como preparar sua IA de hoje para a regulamentação de amanhã.
Uma revisão independente detalhada da governança de IA
Parte de um conjunto mais amplo de ferramentas, técnicas e capacitadores da EY projetados para auxiliar no desenvolvimento e uso responsável da IA, a estrutura global de IA responsável é um conjunto flexível de princípios orientadores e ações práticas.
As equipes multidisciplinares da EY, compostas por especialistas em ética digital, profissionais de risco de TI, cientistas de dados e recursos específicos, aproveitaram a estrutura global de IA responsável para avaliar os princípios de IA da biofarmacêutica, bem como eles foram implementados e compreendidos em toda a empresa.
Sobrepusemos a estrutura global de IA responsável no modelo que o cliente já havia criado, entrevistando os principais stakeholders e revisando documentação relevante.
“Investimos tempo para entender o ambiente do cliente, e nossa experiência em governança de IA significa que também fomos capazes de fazer as perguntas certas no momento certo”, diz Catriona Campbell, Diretora de Tecnologia e Inovação de Clientes da EY UKI.
Avaliamos com que sucesso o negócio mitigou os riscos da IA ao longo de seu ciclo de vida, desde a identificação do problema até a modelagem, implantação e monitoramento contínuo.
Para determinar se o cliente desenvolveu e implementou IA de acordo com seus princípios responsáveis de IA, também avaliamos uma amostra dos principais projetos de IA, incluindo previsão, rastreamento de eventos adversos e detecção precoce de doenças.
Nossa análise descobriu que a biofarmacêutica nem sempre gerenciava os riscos específicos de IA do projeto de acordo com seus princípios responsáveis de IA. “A auditoria da EY destacou uma série de lacunas em nossa abordagem, permitindo-nos definir requisitos mínimos para equipes de negócios que trabalham com IA, para as quais já estamos trabalhando”, diz o líder de governança de IA da empresa biofarmacêutica.
A auditoria da EY destacou uma série de lacunas em nossa abordagem, permitindo-nos definir requisitos mínimos para equipes de negócios que trabalham com IA, algo que já estamos trabalhando.
Impulsionando a IA responsável para reduzir o risco para os stakeholders
O cliente foi um dos primeiros a adotar o gerenciamento de risco de IA em seu setor, mas confiamos em sua abordagem e destacamos oportunidades de melhoria.
“A parceria com a EY forneceu validação externa em nossa abordagem e nos deu informações valiosas sobre as áreas em que precisamos de foco adicional”, explica o diretor de informações da empresa biofarmacêutica.
Nossa análise detalhada ajudou a biofarmacêutica a avaliar a necessidade de grandes mudanças em sua abordagem à governança de IA. Isso incluiu uma avaliação de risco de IA aprimorada de terceiros e um novo inventário de IA central - o último dos quais é fundamental para o gerenciamento de risco de IA e a habilitação da conformidade regulatória.
A empresa percebeu que não existe um método único de governança de IA, o que torna o desafio ainda maior para algumas empresas. Por exemplo, empresas mais federadas com autonomia distribuída devem encontrar uma maneira de obter consistência em várias unidades sem uma única autoridade para policiar a governança de IA, enquanto aquelas com controle mais centralizado terão que pensar de maneira diferente.
Também ficou claro que, se uma revisão independente considerar que a governança de IA de uma organização não é adequada para o propósito, a liderança deve estar disposta a fazer as mudanças estruturais necessárias ou estabelecer um conselho de governança para criar um melhor alinhamento.
É essencial que essa revisão seja tão personalizável quanto a estrutura organizacional, a liderança e as responsabilidades de uma empresa são variadas. “Os times EY poderiam trabalhar conosco sobre como uma auditoria deveria ser, combinando o que estávamos fazendo com sua estrutura global de IA responsável e fazendo sua mágica para juntar os pontos”, diz o chefe de pesquisa e desenvolvimento de IA da empresa biofarmacêutica.
Os times EY poderiam trabalhar conosco sobre como uma auditoria deveria ser, combinando o que estávamos fazendo com sua estrutura global de IA responsável e fazendo sua mágica para juntar os pontos.
A ética da IA ainda é jovem, então faz sentido que muitas empresas não tenham os recursos internos necessários para iniciar ou continuar sua jornada.
O suporte de um parceiro independente com a capacidade de adaptar o processo de auditoria agrega valor ao ajudar uma organização a desenvolver processos de governança de IA apropriados para seus negócios, aumentando a probabilidade de conformidade regulatória.
Isso ajudará a posicionar a liderança para proteger os stakeholders, incluindo o público, dos riscos da IA – mantendo os humanos no centro da transformação.
