Gowling WLG é cliente do Business Reporter
A IA está a remodelar os negócios, mas a má supervisão pode levar a grandes falhas de governação. Gowling WLG explica os riscos e como os líderes podem permanecer à frente.
A inteligência artificial (IA) está transformando rapidamente o cenário empresarial, prometendo eficiência, inovação e vantagem competitiva. No entanto, à medida que as organizações adoptam estas tecnologias, surge uma questão crítica: poderão os sistemas de IA não controlados desencadear a próxima onda de escândalos e processos judiciais de governação corporativa?
O espectro de riscos de governança
A integração da IA nas funções empresariais essenciais cria novos riscos de governação. Ao contrário da TI tradicional, a IA opera de forma autônoma e muitas vezes opaca, o que pode expor as organizações a danos à reputação, ações regulatórias e ações judiciais de acionistas.
As políticas por si só são insuficientes: as empresas devem gerir proativamente os desafios éticos e operacionais da utilização da IA. D Governo do Reino Unido Agora esperamos que as organizações adotem princípios de “IA responsável” de segurança, transparência, justiça, responsabilidade e remediação.
À medida que a IA molda cada vez mais as decisões que afetam os funcionários, os clientes e a sociedade, os líderes devem olhar além da conformidade para ver se as suas práticas de IA apoiam os valores prometidos às partes interessadas e refletem o impacto social mais amplo da tomada de decisões autónoma.
Seu novo dever fiduciário
As responsabilidades legais e éticas dos gestores estendem-se agora claramente à supervisão da IA. Espera-se que verifiquem o risco do modelo, a interpretabilidade, a evidência dos dados e a responsabilização – o fracasso em qualquer uma destas áreas pode causar danos no mundo real, desde resultados discriminatórios até perdas financeiras. Como a IA funciona desde o RH até às compras, os mecanismos de governação devem ser robustos e atualizados com muito mais frequência do que as tecnologias anteriores.
Se um sistema de IA prejudica as partes interessadas, onde fica a responsabilidade: do desenvolvedor, do conselho ou dos operadores do sistema? E como podem as organizações garantir que a busca pela eficiência não prejudica a justiça, a confiança e os valores que afirmam defender?
Responsabilidade pessoal dos diretores
Os diretores podem enfrentar responsabilidade pessoal por danos algorítmicos, como má gestão financeira ou violações específicas do GDPR? O panorama jurídico está a evoluir, mas mesmo com novas leis, os gestores ainda podem ser responsabilizados se as decisões baseadas na IA levarem à reidentificação, discriminação, negligência ou outros danos.
À medida que os reguladores e os tribunais começam a lidar com as falhas da IA, o risco de exposição pessoal é real e crescente. Algumas apólices de seguro tradicionais de administradores e dirigentes estão agora a introduzir exclusões para riscos relacionados com a IA, deixando os administradores com uma vulnerabilidade potencial significativa.
Governança multidisciplinar
A governança eficaz da IA não pode ser fechada e, como outras tecnologias, não pode ser gerenciada apenas pelo departamento de TI – deve abranger TI, segurança cibernética, RH, coleta e uso de dados, equipes de relações públicas e marketing da empresa, jurídico, compras e operações, com propriedade e responsabilidade claras.
Esta abordagem multidisciplinar é desafiante, exigindo que as empresas reúnam equipas com competências diversas e garantam a aprendizagem contínua. O ritmo de desenvolvimento da IA significa que as mitigações de ontem poderão tornar-se obsoletas amanhã, tornando essencial a colaboração multifuncional.
Clareza, Confiança e Expectativa
A transparência é uma meta contínua no mundo da IA. O que constitui uma divulgação adequada varia entre países, culturas e populações. As empresas devem calibrar a sua abordagem à rotulagem de conteúdos gerados pela IA e à interpretação das decisões orientadas pela IA para satisfazer as expectativas crescentes das partes interessadas.
Para as empresas multinacionais, isto muitas vezes significa cumprir as normas regulamentares mais rigorosas. Atualmente, estas são geralmente normas estabelecidas pela União Europeia, para garantir a conformidade e manter a confiança entre jurisdições, mas as diferenças culturais serão mais difíceis de identificar e acomodar.
Lições do caso
O risco de violação da propriedade intelectual, tanto nos dados de formação como nos resultados da IA, é real e crescente. Casos recentes viz Getty Images vs. IA de estabilidade destaca os perigos da utilização de conteúdos protegidos sem licenças adequadas, enquanto as consultas em curso no Reino Unido sublinham as complexidades de equilibrar a inovação com a proteção dos direitos.
As empresas que desenvolvem IA devem proteger a sua própria investigação e desenvolvimento, assegurando a proteção adequada da propriedade intelectual em todas as jurisdições relevantes. Os gestores precisam, portanto, de políticas e controlos claros para proteger os direitos da sua organização e evitar disputas dispendiosas e transfronteiriças, especialmente dada a natureza global da implantação da IA e da legislação sobre PI.
Gestão de reputação: o custo de cortar custos
A IA oferece oportunidades para reduzir custos, mas não sem riscos para a reputação. Por exemplo, os retalhistas podem poupar dinheiro utilizando imagens de modelos geradas por IA, mas podem enfrentar reações adversas por parte dos consumidores (bem como de sindicatos e associações que representam atores) que as consideram pouco autênticas ou antiéticas.
Da mesma forma, o uso de deepfakes ou atores gerados por IA em marketing e publicidade pode provocar indignação pública e prejudicar a confiança na marca. As marcas precisam pesar os benefícios imediatos de redução de custos da IA em relação aos possíveis danos à reputação a longo prazo.
Aprimoramento para a era da IA
A governação eficaz da IA exige novas competências tanto a nível do conselho como a nível operacional. Os gestores devem desenvolver conhecimentos suficientes em IA para desafiar suposições, compreender os riscos e tomar decisões informadas.
Entretanto, as organizações devem formar equipas com diversas competências técnicas, éticas, legais e operacionais. A terminologia partilhada e uma cultura de aprendizagem contínua são essenciais; Sem eles, mal-entendidos podem levar a decisões inconsistentes e a uma maior exposição.
Evitando os erros da história
A história mostra que os escândalos sistémicos resultam frequentemente de falhas na gestão de riscos – sejam crises financeiras, violações de dados ou recolhas de produtos. A IA apresenta riscos semelhantes: é complexa, rápida e difícil de gerir. D Escândalo de benefícios infantis na HolandaO facto de uma ferramenta de IA ter detetado fraudes erradamente e ter tido consequências terríveis para milhares de famílias mostra a gravidade dos danos.
A reputação profissional também está em jogo, como se pode verificar Quando uma grande empresa de contabilidade devolve honorários ao governo australiano Depois que erros gerados por IA aparecem em um relatório oficial. Portanto, as empresas devem testar os sistemas de IA para os piores cenários e aprender com as falhas do passado.
Principais conclusões para líderes empresariais
- A supervisão da IA é um imperativo da diretoria: os riscos são significativos e evoluem rapidamente
- As responsabilidades legais e éticas incluem agora a IA: os gestores devem ser proativos e vigilantes
- As preocupações ESG são reais: Qual é a resposta da empresa ao impacto ambiental da IA?
- A governação multidisciplinar é essencial: a colaboração entre funções é crítica
- Transparência e conformidade são importantes: siga os mais altos padrões regulatórios
- Os riscos de propriedade intelectual e de reputação são reais: as salvaguardas e as políticas devem ser robustas
- A aprendizagem contínua é essencial: alta eficiência e adaptabilidade para permanecer à frente
- Proteger o investimento na inovação da IA é fundamental: as políticas de PI devem ser revistas para garantir que sejam adequadas à finalidade
Governança proativa para um futuro seguro
A mensagem para os líderes empresariais é clara: a governação proativa da IA é essencial. Implemente estruturas robustas, realize avaliações de risco regulares e procure aconselhamento jurídico para minimizar a exposição e proteger os investimentos. Não espere que as regulamentações se atualizem – a hora de agir é agora.
À medida que a IA remodela a sala de reuniões, o maior risco pode ser não fazer as perguntas certas. O futuro da governança corporativa será definido não apenas pela conformidade, mas pela coragem de liderar com visão, integridade e imaginação.
Para aconselhamento e apoio úteis sobre governança e gestão de riscos, Entre em contato com a equipe de IA da Gowling WLG
Alexandra Brodie, Jocelyn Polley e Patrick Urben, sócios e Dan Smith, diretor jurídico, Golling Wlg
