IA Implantada sem Treinamento dos Usuarios

Categoria: Cultura · Por Anderson Chipak · ALC Consultoria

O risco

Ferramentas de IA sao implantadas e disponibilizadas para colaboradores sem que eles recebam treinamento sobre as limitacoes do sistema, quando nao usar a IA, como validar os outputs e o que fazer quando o resultado parece incorreto.

Impacto regulatorio e empresarial

A ISO 42001 clausula 7 exige que a organizacao garanta que pessoas que afetam o sistema de gestao de IA tenham as competencias necessarias. Sem treinamento: colaboradores nao sabem que LLMs alucinam; nao sabem quais dados nao podem enviar para APIs externas; nao sabem como escalar quando identificam um problema.

Como identificar na sua empresa

Verificar: existe material de treinamento especifico para as ferramentas de IA em uso? Os colaboradores foram treinados formalmente antes de receber acesso? Existe processo de onboarding de IA para novos funcionarios? Quando foi o ultimo treinamento atualizado?

Como mitigar

1. Criar treinamento especifico para cada ferramenta de IA em uso cobrindo: o que o sistema faz, o que ele nao faz, limitacoes conhecidas, o que nao enviar, como reportar erros. 2. Tornar o treinamento obrigatorio antes do acesso a ferramenta. 3. Medir entendimento com quiz.