Modelos de IA podem gerar respostas incorretas ou imprecisas, especialmente em tarefas abertas. Esse risco precisa fazer parte do desenho da solução, e não ser tratado como uma surpresa após a implantação.
Modelos generativos podem produzir respostas plausíveis mesmo quando estão incorretas. O projeto precisa assumir esse comportamento como uma característica conhecida e não como uma exceção impossível.
- limitar o contexto e a tarefa;
- usar fontes de referência quando aplicável;
- validar formatos e regras;
- exigir revisão humana em decisões sensíveis;
- registrar resultados para avaliar qualidade;
- medir erros com casos reais antes de ampliar o uso.
O objetivo não é prometer precisão absoluta, mas construir um fluxo em que a incerteza seja compatível com o risco e possa ser identificada e tratada.
