Supervisão eficaz permite o uso responsável da tecnologia

Tal como as inovações tecnológicas anteriores, a Inteligência Artificial (IA) está transformando os nossos negócios e vidas pessoais de muitas maneiras. Mas o que torna a IA um pouco diferente é a velocidade impressionante que ela vem sendo adotada, o que representa um desafio único para os conselhos de administração na hora de equilibrar os riscos, as oportunidades e as preocupações éticas que surgem juntamente com uma tecnologia emergente – que historicamente tem tido uma governança não tão bem estabelecida.

Em uma mesa redonda recente moderada por Nichole Jordan, sócia da Grant Thornton, um painel de executivos sêniores e membros do conselho tiveram uma discussão prática sobre como promover o uso ético da IA nas organizações que atendem.

Como o conselho pode manter seu papel e, ao mesmo tempo, incentivar o uso responsável da IA pelas empresas?

Socio Chris Smith

“Primeiro, crie espaço em todas as conversas de gerenciamento para perguntar como a IA está conectada à tomada de decisões”, disse Chris Smith, Chief Strategy Officer da Grant Thornton. “Em segundo lugar, introduza uma abordagem sistemática e uma estrutura para que essas conversas se tornem uma recorrente. E terceiro (mas não menos importante), implemente tecnologias seguras de IA para melhoria do desempenho no nível do conselho, a fim de modelar os comportamentos que você gostaria que a administração adotasse.”

“Como a IA representa uma disrupção significativa, é apropriado que os conselhos se aprofundem um pouco mais do que o normal. Quando há uma interrupção massiva que pode ter um impacto tão grande, ainda é necessário ‘confiar, mas verificar um pouco mais profundamente’. ”O cenário está repleto de exemplos de impacto negativo da marca relacionados à IA, destacando a importância de alcançar o alinhamento da ética da IA com a gestão. Podem surgir problemas quando um projeto é avaliado em relação a uma única prioridade e acaba causando riscos invisíveis a outros.

“Se uma empresa planeja implementar IA para melhorar o serviço ao cliente, mas também assumiu um compromisso público para reduzir o consumo de energia, é importante abordar estas prioridades éticas potencialmente conflitantes”, disse Smith. “A energia necessária para alimentar a IA pode criar pontos de tensão para certas empresas com base na filosofia da marca ou no ‘E’ da sua missão ESG.” 

Estabeleça um tom positivo

O amplo alcance potencial e o impacto disruptivo da IA podem ser perturbadores para algumas pessoas, mas os conselhos de administração podem promover um sentimento de confiança estabelecendo um tom positivo.

Ethan sócio “É muito natural nos preocuparmos com novas tecnologias, especialmente aquelas fundamentais que podem ser muito transformadoras”, disse Ethan Rojhani, sócio de Consultoria da Grant Thornton. “A mídia popular pode enfatizar demais o fator medo. Mas, em nossa experiência, o impacto da IA na moral e na cultura dos funcionários tem sido tremendamente positivo.”

O conselho pode ajudar a acalmar os receios, mostrando o seu compromisso com a utilização ética da IA. Não é imperativo ter conhecimentos específicos em IA para conseguir isso, mas os membros do conselho devem ser educados e treinados adequadamente sobre as capacidades e questões éticas relacionadas à tecnologia.

“Há uma enorme diferença entre ser um profissional de IA e ser capaz de supervisionar a governança da IA”, disse Deborah Dunie, CEO da DBD Insights e membro de vários conselhos. “Você não precisa ser um especialista em tecnologia para tomar os tipos de decisões éticas, e tantas outras, que estamos tomando em relação ao cumprimento do plano estratégico.” 

Adote uma estrutura de IA

A utilização de um quadro de governança bem construído para orientar a supervisão da IA pode ajudar os conselhos de administração a adotar uma abordagem minuciosa, que considere todos os aspectos relevantes da tecnologia e evite lacunas potencialmente prejudiciais.

“Intuitivamente, pensamos que lançamos um novo sistema e seremos mais eficientes e eficazes, mas precisamos avaliar o que realmente está acontecendo”, disse Dunie. “É muito importante usar uma boa estrutura. Isso mostra que você está analisando fatores de acesso que são significativos e monitorando resultados como aumento de desempenho ou reputação.” 

Mulher negra mexendo com tecnologia

7 questões importantes para gestão

  • Como você abordou as considerações éticas desta iniciativa de IA?
  • Você considerou os potenciais efeitos de segunda e terceira instâncias da iniciativa?
  • Como você está protegendo os dados de funcionários e clientes do ponto de vista da privacidade?
  • Quais são os processos para auditar o algoritmo de IA a fim de garantir que ele esteja funcionando conforme projetado ou para desligá-lo caso não esteja? (Observe que essa auditoria só é possível para IA projetada internamente e modelos de linguagem grande de código aberto e não para modelos como ChatGPT, cujo algoritmo é fechado e não acessível.)
  • A iniciativa cumpre as leis e regulamentos relativos à ética e justiça da IA, incluindo direitos de propriedade intelectual, tanto nacionais como estrangeiros?
  • Como você está se preparando para a regulamentação que está por vir?
  • Como você manterá o conselho informado sobre o progresso da iniciativa? 

Uma influência estabilizadora

A responsabilidade do conselho de fornecer supervisão em meio ao poder transformacional da IA pode ser desafiadora, mas os conselhos ajudaram a orientar as organizações através de muitas mudanças significativas ao longo dos anos. Da crise do ano 2000 ao advento dos negócios digitais e à pandemia, os conselhos de administração proporcionaram uma influência estabilizadora que manteve as empresas prosperando.

À medida que o futuro se desenrola, acontecimentos e resultados inesperados exigirão ações rápidas e adequadas. Os conselhos que tiverem consenso com a administração sobre o uso ético da IA estarão em melhor posição para fornecer orientações valiosas.

Como a Grant Thornton Brasil pode ajudar?

Conte com nossos especialistas para ajudar nos diversos tópicos relacionados neste artigo sobre Inteligência Artificial e oferecer soluções customizadas utilizando tecnologia forense e a nossa expertise para melhor atender sua organização.