Shadow AI - Uso Nao Autorizado de IA por Colaboradores

Categoria: Processos · Por Anderson Chipak · ALC Consultoria

O risco

Colaboradores usam ferramentas de IA como ChatGPT, Claude, Gemini e similares para realizar tarefas profissionais sem autorizacao formal da empresa. Dados confidenciais, dados de clientes, dados financeiros e propriedade intelectual sao compartilhados com LLMs externos sem nenhum controle.

Impacto regulatorio e empresarial

Shadow AI e o equivalente moderno do Shadow IT. Um unico colaborador enviando uma planilha de clientes para o ChatGPT cria: possivel violacao de LGPD (transferencia internacional de dados pessoais sem base legal); violacao de NDA com clientes; risco de o dado ser usado para treinar modelos futuros do fornecedor.

Como identificar na sua empresa

Perguntas de diagnostico: Existe politica de uso de IA aprovada pela lideranca? Os colaboradores sabem o que podem e nao podem enviar para LLMs externos? O setor juridico revisou os termos de uso das principais ferramentas de IA usadas na empresa?

Como mitigar

1. Publicar politica de uso de IA aceitavel. 2. Adotar solucoes de IA corporativas com DPA para dados sensiveis. 3. Treinar colaboradores nas politicas e nos riscos. 4. Monitorar trafego para APIs de IA externas nas redes corporativas.