Prontidão de governança de IA

Cultura, políticas e responsáveis pelo risco de IA.

• GOVERN 1Há uma política escrita de uso de IA, conhecida pelos times e aplicada de fato.
• GOVERN 1.6Existe um inventário das ferramentas de IA em uso, inclusive as adotadas por conta própria pelos times.
• GOVERN 2Cada sistema de IA tem um responsável nomeado, e quem cuida do risco de IA foi treinado para isso.
• GOVERN 3Pessoas de perfis e áreas diferentes participam das decisões sobre IA ao longo do ciclo de vida.
• GOVERN 4A cultura do time permite apontar e discutir riscos de IA.
• GOVERN 5Há um canal para ouvir quem é afetado pelos sistemas de IA, inclusive de fora da empresa.
• GOVERN 6Ferramentas, modelos e dados de terceiros passam por uma regra antes de entrar em uso.

O contexto, os benefícios e os riscos de cada uso.

• MAP 1O contexto de cada uso de IA está documentado: objetivo, usuários, onde roda e o que pode dar errado.
• MAP 2Cada sistema de IA está classificado pela tarefa que faz e pelo método que usa.
• MAP 3Os benefícios e os custos esperados de cada uso foram comparados com uma referência.
• MAP 4Os riscos de componentes de terceiros, como modelos e dados, foram mapeados.
• MAP 5O impacto em pessoas, clientes e na sociedade foi avaliado antes do uso.

Métricas, testes e acompanhamento ao longo do tempo.

• MEASURE 1Há métricas definidas para os riscos de IA identificados, e elas são medidas.
• MEASURE 2Os sistemas de IA são avaliados quanto a confiabilidade, segurança, viés e privacidade.
• MEASURE 3Os riscos são acompanhados ao longo do tempo, não só no lançamento.
• MEASURE 4Há retorno sobre se as métricas medem o que importa, e elas são revistas.

Prioridade, resposta e recuperação.

• MANAGE 1Os riscos medidos são priorizados, e cada um tem uma resposta definida.
• MANAGE 2Há um plano para manter os benefícios e reduzir os impactos negativos, inclusive desligar um sistema se preciso.
• MANAGE 3Os riscos de fornecedores de IA são monitorados e gerenciados.
• MANAGE 4Resposta a incidentes, recuperação e comunicação estão documentadas e são revisadas.