Alucinação da IA na medicina: por que acontece e como revisar

Alucinação da IA na medicina é quando a ferramenta produz uma informação que parece correta, mas não tem base nos dados que recebeu: uma dose que ninguém prescreveu, um sintoma negado que aparece como presente, o lado errado de uma lesão. Acontece porque a IA gera texto por probabilidade, não por verificação. A defesa é revisar antes de assinar.

Em resumo:

• A IA não sabe o que é verdade. Ela prevê a próxima palavra mais provável e, quando falta informação, tende a completar o padrão.
• Na documentação, os erros mais perigosos são medicamento ou dose trocados, negativa que vira afirmativa, informação que ninguém disse e lateralidade errada.
• Ferramentas que geram o prontuário a partir da transcrição da consulta reduzem o risco, porque cada frase tem uma fonte que você pode conferir.
• O risco nunca chega a zero, e quem assina responde pelo documento.
• Um checklist de 60 segundos, focado nos pontos de maior risco, pega a maior parte dos erros.

O que é alucinação da IA na medicina, em termos simples

Pense num residente muito rápido, que escreve bem e nunca diz "não sei". Quando falta um dado, ele completa com o que costuma aparecer naquele tipo de nota. Na maior parte do tempo, acerta. Às vezes, escreve com toda a confiança algo que não aconteceu.

É isso que se chama de alucinação. O termo vem da pesquisa em inteligência artificial e não indica intenção de enganar. O modelo não mente: ele apenas não tem um mecanismo interno para checar se a frase corresponde ao que houve na consulta.

O perigo está na forma. O texto alucinado tem a mesma gramática, o mesmo tom técnico e a mesma formatação do texto correto. Não há sinal visual de alerta. Por isso a revisão precisa ser deliberada, e não uma leitura de passagem.

Se você está começando a usar essas ferramentas, o guia de uso da inteligência artificial no consultório mostra onde a IA ajuda e onde exige mais cuidado.

Por que a IA alucina?

Os modelos de linguagem de grande porte (LLM, na sigla em inglês) aprendem padrões a partir de enormes volumes de texto. Na hora de escrever, escolhem palavra por palavra a continuação mais provável. Não consultam um banco de fatos nem conferem a resposta com a realidade.

Na documentação clínica, algumas situações favorecem o erro:

• Lacunas na entrada. Se a consulta não tratou do exame físico, o modelo tende a preencher a seção com "sem alterações", porque é o que costuma aparecer em prontuários.
• Áudio imperfeito. Ruído, falas sobrepostas, voz baixa e nomes de medicamentos parecidos geram erros já na transcrição, que depois são resumidos como se fossem fatos.
• O que é mostrado e não dito. "Dói aqui", com o paciente apontando, não carrega o lado nem a região. A IA pode deduzir.
• Contexto confuso. A fala do acompanhante, uma hipótese que você levantou e descartou em voz alta, um comentário sobre outro paciente: tudo isso entra no texto e pode ser mal atribuído.
• Pedido aberto demais. Pedir a um chat "escreva a evolução de um paciente com pneumonia" sem fornecer os dados faz o modelo escrever de memória, com detalhes plausíveis e inventados.

Exemplos típicos de alucinação na documentação clínica

Os exemplos abaixo são hipotéticos, mas representam os padrões de erro que mais importam na rotina do consultório.

Medicamento ou dose trocados

Imagine que você diz "manter losartana 50 mg uma vez ao dia" e a nota sai com 100 mg. Ou que o medicamento vira outro de nome parecido. Pares como hidroxizina e hidralazina, ou prednisona e prednisolona, confundem até humanos, e a transcrição pode errar do mesmo jeito. Unidades também escorregam: mg vira mL, "de 12 em 12 horas" vira "por 12 horas". Outro deslize comum: um medicamento que você suspendeu continua listado como uso contínuo.

Negativa que vira afirmativa

"Nega dor torácica" vira "refere dor torácica". "Está sem febre há três dias" vira "febre há três dias". O paciente diz "achei que era alérgico a dipirona, mas já tomei depois e não tive nada", e a nota registra "alergia a dipirona". A negação costuma ser uma palavra curta, fácil de perder no áudio ou no resumo, e inverte o sentido clínico da frase.

Informação que ninguém disse

É o erro mais traiçoeiro, porque não há o que comparar. Exame físico completo e normal quando você só examinou a orofaringe. "Nega tabagismo e etilismo" sem que a pergunta tenha sido feita. "Orientado retorno em 30 dias" quando o retorno não foi combinado. O colega que atender esse paciente depois vai confiar no registro.

Lateralidade e localização

Dor no joelho direito registrada como esquerdo. Otite no ouvido errado. Nódulo na mama oposta. Epigástrio que vira hipocôndrio direito. Quando o paciente aponta em vez de falar, a ferramenta não tem como saber o lado, e pode escolher um.

Outros deslizes que valem atenção

• Tempo de evolução trocado: três semanas vira três meses.
• Antecedente familiar registrado como pessoal: "minha mãe teve câncer de mama" vira antecedente da paciente.
• Fala do acompanhante atribuída ao paciente.
• Hipótese que você descartou em voz alta aparece como diagnóstico.
• CID-10 sugerido mais específico ou mais grave que o quadro descrito.

Por que ferramentas baseadas na transcrição reduzem o risco

A diferença está na fonte. Quando a IA gera o prontuário a partir da transcrição da consulta, ela trabalha ancorada no que foi dito. Quando você pede um texto a um chat sem fornecer os dados, ela escreve a partir de padrões gerais.

A ancoragem reduz, mas não elimina o problema. A transcrição pode errar um nome de medicamento, e a etapa que transforma a conversa em nota ainda pode inferir algo. A vantagem é que existe onde conferir. No prontuário com IA da Pronova, por exemplo, a consulta é transcrita em tempo real e o prontuário é gerado no formato SOAP ou no modelo da especialidade a partir dessa transcrição; o médico revisa, ajusta e só então assina.

Antes de ligar o microfone, vale conhecer as regras e cuidados para gravar a consulta para o prontuário. E, se você usa assistentes de chat generalistas para redigir textos, veja como usar chats de IA com segurança no dia a dia. Lembre que dados de saúde são dados pessoais sensíveis pela LGPD (Lei 13.709/2018, art. 5º, II), o que pesa na escolha de onde você cola informações de pacientes.

Quem responde se a IA errar no prontuário?

Você. O Código de Ética Médica (Resolução CFM 2.217/2018) estabelece a responsabilidade do médico pelos seus atos, e o prontuário que você assina é ato seu. A assinatura digital com certificado ICP-Brasil, criada pela Medida Provisória 2.200-2/2001, dá validade jurídica ao documento e vincula a autoria a quem assinou.

A IA é ferramenta, como o corretor ortográfico ou o modelo de texto do sistema. Não existe hoje uma regra específica que transfira à ferramenta a responsabilidade pelo conteúdo, e o marco legal da inteligência artificial (PL 2.338/2023) está em discussão no Congresso. Como a responsabilidade em caso de dano depende das circunstâncias, situações concretas pedem análise jurídica própria.

Na prática, isso leva a uma regra simples: nada vai para assinatura sem a sua revisão. A transparência com o paciente também ajuda; há um roteiro de fala e modelo de termo para avisar o paciente sobre o uso de IA.

Checklist de revisão de 60 segundos antes de assinar

Revisar não é reler a nota inteira palavra por palavra. É ir direto aos pontos onde um erro causa dano. A ordem abaixo segue o risco, do maior para o menor.

1. Medicamentos e doses (15 segundos). Confira nome, dose, unidade, via e frequência de cada item. Veja se o que você suspendeu saiu da lista e se o que você iniciou entrou.
2. Alergias e negativas (10 segundos). Procure com os olhos as palavras "nega", "sem" e "ausência". Confirme que cada negativa e cada alergia correspondem ao que o paciente disse.
3. Lateralidade e localização (5 segundos). Direito, esquerdo, bilateral, região anatômica. Todo lado registrado precisa ter sido dito ou examinado por você.
4. Exame físico (10 segundos). Só pode constar o que você examinou. Apague sistemas que aparecem como normais sem ter sido avaliados.
5. Avaliação e CID-10 (10 segundos). Hipóteses descartadas não podem aparecer como diagnóstico. O código sugerido precisa bater com a sua avaliação.
6. Plano e orientações (10 segundos). Exames pedidos, retorno, encaminhamentos e orientações batem com o que foi combinado com o paciente.

Se algo não bater, volte ao trecho da transcrição antes de corrigir. Reescrever de memória pode criar um segundo erro. E revise logo após a consulta, enquanto ela está fresca na sua cabeça.

Erros comuns na hora de revisar

• Assinar em lote no fim do dia. Depois de 20 consultas, você já não lembra se o paciente das 9h negou ou referiu o sintoma.
• Ler só avaliação e plano. Boa parte das alucinações está na anamnese e no exame físico, que alimentam o raciocínio de quem lê depois.
• Confiar no texto porque está bem escrito. Fluência não é sinal de exatidão.
• Corrigir só a receita. Se a dose estava errada na nota e você ajustou apenas a prescrição, o prontuário fica inconsistente com o documento emitido.
• Aceitar o CID-10 sugerido no automático. O código vai para guias e, às vezes, para atestados.

Como diminuir as alucinações antes mesmo da revisão

Pequenos hábitos durante a consulta dão à ferramenta uma base mais clara e encurtam a revisão:

• Verbalize negativas completas: "então você não teve dor no peito", em vez de um "hum" de concordância.
• Diga o lado em voz alta ao examinar: "joelho esquerdo, edema leve, sem derrame".
• Fale dose, unidade e frequência por inteiro ao prescrever.
• Ao descartar uma hipótese, diga que foi descartada.
• Feche a consulta com um resumo falado: queixa, achados, conduta e retorno. Esse trecho vira a âncora da nota.
• Mantenha o microfone perto e reduza ruídos paralelos, como TV ligada ou conversa no corredor.
• Use o modelo da sua especialidade, que já orienta quais campos devem existir.

O que a revisão rápida não cobre

O checklist de 60 segundos cuida da nota da consulta. Algumas situações pedem conferência diferente:

• Resumos de exames. Valores extraídos por IA devem ser comparados com o laudo original, principalmente unidades e valores de referência. O resumo de exames com IA da Pronova extrai os resultados relevantes de laudos anexados e os leva ao prontuário; o laudo continua disponível e é ele a referência na conferência.
• Decisão clínica. A IA organiza o registro, não substitui o seu raciocínio. Para o uso de IA no apoio à decisão, veja como combinar medicina baseada em evidências e IA na decisão clínica.
• A própria ferramenta. Se você corrige os mesmos erros toda semana, o problema pode ser a ferramenta. Pergunte se ela mostra a transcrição, se permite editar tudo antes de assinar e se deixa claro o que é sugestão. Um checklist com 15 perguntas para avaliar ferramentas de IA na saúde ajuda nessa análise.

Próximo passo

Escolha as suas próximas dez consultas com IA e aplique o checklist de 60 segundos em todas, antes de assinar. Anote que tipo de erro aparece com mais frequência. Em pouco tempo você sabe onde a sua ferramenta tropeça e que hábito de fala resolve.

Se quiser ver na prática um escriba que gera o prontuário a partir da transcrição da consulta, faça o Teste Express, uma demonstração de 30 segundos sem cadastro, ou comece o teste grátis de 7 dias e revise as suas próprias notas.