Wiki IA e dados
Shadow IT e Shadow IA
Tecnologia, e agora ferramentas de IA, usadas no trabalho sem conhecimento ou aprovação da área responsável.
Fonte
Silic, M.; Back, A. Shadow IT: A view from behind the curtain. Computers & Security, v. 45, 2014.
Shadow IT é o nome dado a sistemas, aplicativos e serviços usados dentro de uma organização sem o conhecimento ou a aprovação da área responsável por tecnologia. Planilhas que viram sistema, aplicativos na nuvem contratados com cartão corporativo e integrações feitas por conta própria são os exemplos clássicos. Mario Silic e Andrea Back estudaram o fenômeno em 2014, na revista Computers & Security, olhando o que de fato estava instalado nas máquinas de uma organização.
A versão com IA
Shadow IA é o mesmo fenômeno aplicado a ferramentas de inteligência artificial: pessoas colando documentos internos num assistente de IA público, automatizando decisões com modelos que ninguém avaliou, ou contratando serviços de IA por conta própria. A motivação costuma ser legítima, ganhar tempo, mas os riscos são específicos: vazamento de dados pessoais ou sigilosos, respostas erradas usadas sem conferência e decisões automatizadas sem dono.
Por que proibir raramente resolve
Quando a ferramenta oficial é lenta ou inexistente, a proibição empurra o uso para fora da vista. O caminho apontado pelos referenciais de governança é tornar o uso visível:
- Inventário: o NIST AI RMF prevê mecanismos para inventariar os sistemas de IA da organização (GOVERN 1.6).
- Terceiros: políticas para riscos de software, dados e fornecedores externos (GOVERN 6.1).
- Alternativa aprovada: oferecer uma ferramenta sancionada, com regras claras de que dado pode entrar.
Ligação com outros verbetes
A governança de IA está detalhada em NIST AI RMF, ISO/IEC 42001 e, para decisões automatizadas sobre pessoas no Brasil, no art. 20 da LGPD.
Fontes
Conhecimento geral compartilhado pela Genesis Innovation. Não substitui a análise de um especialista sobre o seu caso.