Governança de IA: NIST AI RMF 1.0

Governança de IA é o conjunto de papéis, políticas e controles que uma organização usa para decidir onde aplicar inteligência artificial e como lidar com os riscos que ela traz. Um dos referenciais mais usados é o AI Risk Management Framework (AI RMF 1.0), publicado pelo NIST, dos Estados Unidos, em janeiro de 2023, no documento NIST AI 100-1. O próprio texto se declara voluntário e aplicável a organizações de qualquer porte e setor.

As quatro funções

• GOVERN: cultura, políticas, papéis e responsabilidades para gerir riscos de IA. O documento a descreve como transversal, presente em todas as outras.
• MAP: entender o contexto de cada sistema: para que serve, quem é afetado, que riscos e benefícios traz.
• MEASURE: analisar, avaliar e acompanhar os riscos mapeados com métodos quantitativos e qualitativos.
• MANAGE: priorizar os riscos e agir sobre eles, com recursos e planos de resposta.

Cada função se desdobra em categorias e subcategorias, como a GOVERN 1.6, que trata do inventário de sistemas de IA.

Características de uma IA confiável

O documento lista características que um sistema de IA confiável deve buscar: válido e confiável; seguro; protegido e resiliente; responsável e transparente; explicável e interpretável; com privacidade reforçada; e justo, com vieses nocivos gerenciados.

Como costuma ser usado

O AI RMF não é certificável. É usado como mapa para montar um programa de governança, muitas vezes em conjunto com a ISO/IEC 42001, que é certificável, e com as exigências legais aplicáveis, como o AI Act europeu e a LGPD. O primeiro passo prático costuma ser o inventário contra a Shadow IA.