Pular para o conteúdo

Proposta de novo site por Genesis Innovation Site oficial: kaien.cc

Wiki IA e dados

Shadow IT e Shadow IA

Tecnologia, e agora ferramentas de IA, usadas no trabalho sem conhecimento ou aprovação da área responsável.

Silic e Back, 20142 min de leitura

Fonte

Silic, M.; Back, A. Shadow IT: A view from behind the curtain. Computers & Security, v. 45, 2014.

Shadow IT é o nome dado a sistemas, aplicativos e serviços usados dentro de uma organização sem o conhecimento ou a aprovação da área responsável por tecnologia. Planilhas que viram sistema, aplicativos na nuvem contratados com cartão corporativo e integrações feitas por conta própria são os exemplos clássicos. Mario Silic e Andrea Back estudaram o fenômeno em 2014, na revista Computers & Security, olhando o que de fato estava instalado nas máquinas de uma organização.

A versão com IA

Shadow IA é o mesmo fenômeno aplicado a ferramentas de inteligência artificial: pessoas colando documentos internos num assistente de IA público, automatizando decisões com modelos que ninguém avaliou, ou contratando serviços de IA por conta própria. A motivação costuma ser legítima, ganhar tempo, mas os riscos são específicos: vazamento de dados pessoais ou sigilosos, respostas erradas usadas sem conferência e decisões automatizadas sem dono.

Por que proibir raramente resolve

Quando a ferramenta oficial é lenta ou inexistente, a proibição empurra o uso para fora da vista. O caminho apontado pelos referenciais de governança é tornar o uso visível:

  • Inventário: o NIST AI RMF prevê mecanismos para inventariar os sistemas de IA da organização (GOVERN 1.6).
  • Terceiros: políticas para riscos de software, dados e fornecedores externos (GOVERN 6.1).
  • Alternativa aprovada: oferecer uma ferramenta sancionada, com regras claras de que dado pode entrar.

Ligação com outros verbetes

A governança de IA está detalhada em NIST AI RMF, ISO/IEC 42001 e, para decisões automatizadas sobre pessoas no Brasil, no art. 20 da LGPD.

Fontes

Conhecimento geral compartilhado pela Genesis Innovation. Não substitui a análise de um especialista sobre o seu caso.