Por que a Governança é importante?
A Inteligência Artificial deixou de ser uma promessa tecnológica para se tornar o motor de eficiência das empresas. No entanto, implementar IA sem governança é como pilotar um carro de corrida sem freios: o desastre é apenas uma questão de tempo. Sem uma estrutura bem definida, a segurança dos dados, termos de conformidade e reputação está em risco.
Segundo um estudo da SAP em parceria com a Oxford Economics, 8 em cada 10 líderes se preocupam com o uso de ferramentas de IA externas, causando o Shadow AI, e 66% das companhias brasileiras admitem que o uso de Shadow AI ocorre com alguma frequência. (fonte)
Em outra pesquisa, a Abiacom - Associação Brasileira de Inteligência Artificial e E-commerce, relata que 59,1% das empresas ainda não estabeleceram diretrizes formais para o uso da IA. (fonte)
Como mitigar esses problemas?
Com a maturidade da LGPD (Lei Geral de Proteção de Dados) e a evolução das regulamentações de IA, as organizações precisam de uma estrutura clara para gerenciar essa tecnologia. A melhor prática de mercado aponta para a criação de um ecossistema de governança.
A Hcode estudou frameworks de grandes empresas e montou um passo a passo para a criação de uma Governança de IA robusta.
Framework Hcode
Passo 1: O Comitê Executivo (Nível C-Level)
A Visão Estratégica
O Comitê Executivo é a liderança máxima da governança de IA. Ele não entra nas linhas de código, mas dita o escopo e rumo do negócio, define o orçamento e assume a responsabilidade final perante o mercado e os órgãos reguladores (como a ANPD).
- Quem participa: CEO, CTO, CIO, CFO, Legal Director (CLO) e o DPO (Data Protection Officer).
- O que faz:
- Definição do Apetite ao Risco: Determina quais áreas da empresa podem adotar IA e quais limites éticos e regulatórios não podem ser ultrapassados.
- Patrocínio e Alocação de Recursos: Aprova o orçamento para as iniciativas de IA e garante que a governança esteja alinhada aos objetivos de negócio.
- Responsabilidade Legal (Accountability): Responde estrategicamente por eventuais incidentes de privacidade ou vieses discriminatórios gerados pelas ferramentas de IA.
O Comitê Executivo garante que o uso corporativo da IA respeite o princípio da responsabilização e prestação de contas, exigido pela LGPD, chancelando os investimentos em mitigar riscos antes de colocar sistemas em produção.
Passo 2: O Centro de Excelência em IA (CoE de IA)
A Linha de Defesa
Se o C-Level define o destino, o Centro de Excelência (CoE) desenha o mapa e as regras de trânsito. Esta é a camada tática da governança. O CoE não desenvolve os modelos, mas cria a estrutura (frameworks) para que o desenvolvimento aconteça de forma segura, ética e legal.
- Quem participa: Especialistas em Privacidade/LGPD, Engenheiros de Dados Seniores, Profissionais de Compliance, Especialistas em Segurança da Informação e Gestores de Riscos.
- O que faz:
- Criação de Políticas e Diretrizes: Redige o guia de uso aceitável de IA Generativa (ex: o que pode ou não ser inserido no ChatGPT corporativo).
- Avaliação de Impacto (RIPD/AIA): Estrutura o Relatório de Impacto à Proteção de Dados (RIPD) e a Avaliação de Impacto de IA (AIA), analisando riscos de viés, discriminação e vazamento de dados.
- Homologação de Fornecedores: Avalia as políticas de privacidade de LLMs de terceiros (OpenAI, Google, AWS) antes de permitir a integração com os sistemas da empresa.
- Gestão dos Dados: Centraliza e monitora os dados empresarias.
O CoE é o guardião dos princípios da transparência, segurança e não-discriminação. É ele quem garante que as bases de dados usadas para treinar ou alimentar sistemas de IA estejam devidamente higienizadas e amparadas por uma base legal válida.
Passo 3: O Comitê de Excelência de IA (CEIA)
A Linha de Frente
O CEIA é o braço executor, a equipe técnica "mão na massa". Eles recebem as diretrizes e limites estabelecidos pelo CoE e os transformam em soluções tecnológicas reais. É onde a IA ganha vida dentro dos limites da governança.
- Quem participa: Cientistas de Dados, Engenheiros de Machine Learning, Engenheiros de Prompt, Desenvolvedores de Software e Especialistas em Automação (RPA).
- O que faz:
- Desenvolvimento Técnico: Cria e implementa agentes autônomos, integra APIs de grandes modelos de linguagem (LLMs) e constrói fluxos de automação.
- Fine-Tuning e RAG (Retrieval-Augmented Generation): Customiza os modelos de IA com os dados internos da empresa, garantindo que as respostas sejam precisas e contextualizadas.
- Métricas e Monitoramento: Monitora a performance técnica dos modelos para evitar o fenômeno do drift (perda de calibração do modelo com o tempo) e mitigar alucinações.
CEIA aplica o conceito de Privacy by Design e AI by Design. Eles garantem, a nível de código, que dados pessoais sejam anonimizados ou pseudonimizados antes de serem processados por modelos de linguagem, impedindo o vazamento de informações sensíveis via prompts.
| Camada | Papel Principal | Foco Base | Entrega Principal |
|---|---|---|---|
| Comitê Executivo | Estratégico | Negócio e Risco | Visão, Verba e Limites |
| CoE de IA | Tático | Governança e Compliance | Políticas, Frameworks e Auditoria |
| CEIA | Operacional | Tecnologia e Execução | Código, Agentes, LLMs e Soluções |
Referências
Abaixo estão as referências em que baseamos nossa estrutura de Governança de IA:
McKinsey & Company (fonte)
A McKinsey & Company é uma empresa global renomada em consultoria estratégica e operacional. Em seu guia, a escolha de uma equipe pode ser feita de duas formas: expandir uma equipe de Dados ou TI, ou construir uma equipe do zero.
O guia também identifica a gestão dos dados crucial, pois sem essa gestão os projetos de IA não conseguem recuperar e processas as informações necessárias. Segundo a McKinsey & Company, essa gestão deve ser feita pela Centro de Excelência (CoE)IBM (fonte)
A gigante IBM, sugere que a Governança de IA foi feita para fornecer respostas sobre:
Se os modelos de IA estão tomando decisões justas
Se os resultados da IA podem ser explicados e confiáveis
Como os sistemas de IA são supervisionados
Como garantir a supervisão em produção
Todas essas respostas formam a IA Responsável para a IBM, e a partir dessa ideia se desenvolve a Governança de IA.
Os próximos passos são granulares, desde estabelecer o propósito e escopo, até a criação do Conselho de Ética de IA e até Analista de Risco em IA.
Microsoft (fonte)
A Microsoft possui um guia chamado Modelo de Maturidade de Agentes de IA. Apesar de o foco não ser em Governança, esse guia basicamente é a função do Centro de Excelência (CoE). Ele mede a maturidade que sua empresa está hoje e quais recursos são necessários para evoluir em IA. É um guia muito denso e detalhado.
Google (fonte)
A Google possui um mapa chamado SAIF (Secure AI Framework), esse mapa guia tanto a área CoE como a CEIA. A CoE pode utilizar o mapa para determinar O QUE precisa ser protegido. Já a CEIA utiliza o mapa para determinar COMO proteger.
O mapa é dividido em quatro áreas de desenvolvimento: Dados, Infraestrutura, Modelo e Aplicativo. Cada uma dessas áreas possuem suas particularidades e direção.