💡 O que e alucinacao
Alucinacao e quando a IA gera informacao estatisticamente provavel, mas factualmente incorreta. Ela nao "mente" de proposito — ela gera a proxima palavra mais provavel, e as vezes essa sequencia forma algo que parece real mas nao e. A analogia farmacologica e perfeita: todo medicamento tem efeito colateral, toda IA tem alucinacao.
🎯 A analogia farmacologica
Voce nao para de prescrever por causa dos efeitos colaterais. Voce aprende a identifica-los e manejar. Com IA e igual.
- • Voce conhece os efeitos colaterais antes de prescrever
- • Voce monitora sinais de reacao adversa
- • Voce ajusta dose ou troca se necessario
- • Com IA: voce conhece o risco, monitora e ajusta
📊 Tabela Medicamento vs IA
Esta tabela traduz conceitos de farmacologia para conceitos de IA. Voce ja domina a coluna da esquerda — agora so precisa fazer a ponte para a coluna da direita.
💡 Dica Pratica
Assim como voce leria a bula antes de prescrever um medicamento novo, leia o model card (documentacao) de cada ferramenta de IA que usar. Saiba as limitacoes antes de "prescrever" a ferramenta para uma tarefa.
🔍 Como detectar alucinacoes
Detectar alucinacoes e a habilidade numero 1 do medico que usa IA. Sem essa competencia, a ferramenta e perigosa. Com ela, voce extrai o maximo de valor com seguranca.
Peca fontes e citacoes
Sempre peca a IA para citar de onde tirou a informacao. Se ela nao conseguir citar fontes verificaveis, desconfie.
Cheque dados especificos
Numeros, doses, porcentagens e datas sao os alvos mais comuns de alucinacao. Verifique sempre em fontes primarias.
Desconfie de certeza excessiva
Quando a IA responde com 100% de confianca em algo que deveria ter nuances, ligue o alerta. Certeza excessiva e sinal de alucinacao.
Cruze com bases confiaveis
PubMed, UpToDate, guidelines de sociedades. Se a informacao da IA contradiz fontes primarias, a IA esta errada.
🔴 Quando e perigoso
Existem situacoes em que uma alucinacao da IA pode ter consequencias graves para o paciente. Conhecer essas situacoes e criar protocolos de verificacao e essencial.
⚠️ Zona de alto risco — SEMPRE verificar
- ✗ Doses de medicamentos (especialmente pediatricos) — IA erra doses com frequencia
- ✗ Interacoes medicamentosas raras — IA pode inventar ou omitir interacoes
- ✗ Referencias bibliograficas — alta taxa de alucinacao (40-60% podem ser inventadas)
- ✗ Guidelines mais recentes — cutoff de treinamento pode estar desatualizado
- ✗ Dados epidemiologicos especificos — numeros precisos sao frequentemente inventados
📊 Dados de Pesquisa
- 40-60% das referencias bibliograficas citadas por LLMs podem ser parcial ou totalmente inventadas
- Doses pediatricas sao particularmente vulneraveis — erros de 10x nao sao incomuns
- A taxa de alucinacao varia por modelo e por tipo de tarefa — nao e constante
🟢 Quando e aceitavel
Nem toda tarefa exige 100% de precisao. Em contextos de baixo risco onde voce vai revisar o resultado, pequenas imprecisoes sao aceitaveis e nao devem impedir o uso da ferramenta.
✓ Uso seguro (alucinacao toleravel)
- ✓ Rascunhos de notas clinicas (voce revisa)
- ✓ Brainstorming de diagnosticos diferenciais
- ✓ Organizacao de informacoes e ideias
- ✓ Explicacoes para pacientes (revisadas)
✗ Alto risco (alucinacao intoleravel)
- ✗ Doses de medicamentos sem verificar
- ✗ Interacoes medicamentosas aceitas sem checar
- ✗ Referencias citadas sem confirmar no PubMed
- ✗ Guidelines aceitos sem conferir a versao
🧪 Exercicio: 5 artigos no PubMed
Este e o exercicio mais revelador do curso. Ele vai calibrar definitivamente sua confianca na IA e ensinar a importancia da verificacao em uma unica experiencia pratica.
📋 Passo a passo do exercicio
- 1. Escolha um tema da sua especialidade
- 2. Peca a IA: "Cite 5 artigos recentes e relevantes sobre [tema]"
- 3. Copie titulo, autores e journal de cada artigo
- 4. Pesquise cada um no PubMed (pubmed.ncbi.nlm.nih.gov)
- 5. Anote: quantos existem? Quantos tem dados corretos? Quantos sao inventados?
💡 O que esperar
Provavelmente 2-3 de 5 artigos serao parcial ou totalmente inventados. A IA pode combinar autores reais com titulos falsos, ou criar DOIs que nao existem. Este exercicio vale mais que qualquer teoria sobre alucinacao — voce vai sentir na pratica.
📝 Resumo do Modulo
Proximo Modulo:
1.3 - Os 3 tipos de IA que voce vai usar