Como avaliar ferramenta de IA na saúde: checklist com 15 perguntas

Para saber como avaliar ferramenta de IA na saúde, verifique sete frentes antes de contratar: onde os dados ficam e são processados, se viram treino de modelos, o contrato de operador exigido pela LGPD, a segurança técnica, a revisão humana obrigatória, o enquadramento regulatório e o plano de saída. As 15 perguntas abaixo organizam essa checagem.

Em resumo:

• Dados de saúde são dados pessoais sensíveis pela LGPD (art. 5º, II). Exija saber onde ficam, quem acessa e se são usados para treinar modelos.
• Peça um contrato que defina a clínica como controladora e o fornecedor como operador, com regras de subcontratação, retenção e incidentes.
• A IA deve entregar um rascunho. O médico revisa e assina, porque a responsabilidade continua sendo dele.
• Teste a ferramenta com casos simulados da sua especialidade, em português, antes de decidir.
• Garanta a saída: exportação completa dos dados em formato legível e eliminação comprovada ao fim do contrato.

Por que avaliar antes de assinar o contrato?

Uma ferramenta de IA clínica lida com o que há de mais sensível no consultório: o áudio da consulta, o prontuário, os exames e os documentos assinados. Depois que os dados dos pacientes entram no sistema, trocar de fornecedor fica caro e trabalhoso. Corrigir um problema de contrato depois de assinado é ainda mais difícil.

Do ponto de vista legal, a clínica ou o médico é o controlador dos dados, ou seja, quem decide para que eles são usados. Se o fornecedor falhar, quem responde primeiro ao paciente é você. O sigilo profissional previsto no Código de Ética Médica (Resolução CFM 2.217/2018) também não se transfere para o fornecedor: ele continua sendo seu dever.

Ainda não há uma lei brasileira específica para IA em vigor. O PL 2.338/2023, o marco legal da inteligência artificial, está em discussão no Congresso. Enquanto isso, valem a LGPD, as normas do CFM e as regras da Anvisa. Para o panorama completo, veja o guia sobre regulamentação da IA na saúde para médicos e gestores.

Checklist: 15 perguntas para avaliar uma ferramenta de IA na saúde

Envie estas perguntas ao fornecedor e peça as respostas por escrito. Respostas vagas, como "seguimos as melhores práticas", não contam como resposta.

Onde os dados ficam e quem pode usá-los? (perguntas 1 a 3)

Muita gente para na primeira metade da resposta. O fornecedor diz que o banco de dados está no Brasil, mas o áudio da consulta pode ser enviado a um modelo de linguagem processado em outro país. A LGPD permite transferência internacional em hipóteses específicas, mas ela precisa estar declarada e ter base legal. Pergunte pelos dois locais: armazenamento e processamento.

O uso para treino é o ponto mais negligenciado. Se o fornecedor usa consultas dos seus pacientes para aprimorar o próprio produto, está usando dados sensíveis para uma finalidade dele, não sua. Isso deve estar proibido no contrato, e não apenas desativado numa tela de configurações que pode mudar. O mesmo raciocínio explica por que colar dados de pacientes em chatbots de uso geral é arriscado, como mostra o artigo sobre dados do paciente no ChatGPT, LGPD e sigilo médico.

Como referência do que pedir: na Pronova, os dados ficam em servidores em território nacional, com criptografia AES-256 e TLS 1.3 e conformidade com a LGPD. Use esse tipo de resposta objetiva como régua para comparar fornecedores.

O contrato cobre o que a LGPD exige? (perguntas 4 e 5)

O tratamento de dados sensíveis segue o art. 11 da LGPD. Na prática, o fornecedor atua como operador: trata os dados em nome da clínica e segundo as instruções dela. Esse papel precisa estar escrito. Um bom contrato ou adendo de tratamento de dados define:

• finalidade do tratamento e proibição de uso para outros fins;
• lista de subcontratados e regra para incluir novos;
• prazo de retenção de áudios, transcrições e documentos;
• obrigações em caso de incidente;
• devolução e eliminação dos dados ao fim do contrato.

A retenção do áudio merece atenção à parte. Em muitos casos, depois que o prontuário é gerado e assinado, não há motivo para manter a gravação. Prefira ferramentas que permitam definir esse prazo. Os cuidados com o aviso ao paciente estão no artigo sobre gravar a consulta médica para o prontuário com IA. Se surgir dúvida sobre a base legal do seu caso específico, ela exige análise jurídica.

Como confirmar a segurança técnica? (perguntas 6 a 8)

Criptografia em trânsito protege os dados enquanto viajam entre o computador e o servidor. Criptografia em repouso protege o que está guardado. Peça os padrões pelo nome. Quem tem segurança madura responde em uma linha.

O controle de acesso define quem vê o quê. Imagine uma clínica com três psiquiatras e duas recepcionistas: a recepção precisa da agenda, não da evolução clínica. Perfis por função e autenticação em dois fatores evitam exposições desnecessárias.

A trilha de auditoria registra cada acesso e alteração. Ela é essencial para apurar um incidente, responder a um questionamento ético e cumprir as exigências de integridade do prontuário eletrônico da Resolução CFM 1.821/2007 e da Lei 13.787/2018. Sem histórico, você não consegue provar quem alterou um documento nem quando.

A ferramenta exige revisão humana antes de o documento valer? (pergunta 9)

Este é um critério eliminatório. A IA pode transcrever errado, omitir uma negativa ("nega dor torácica" virar "dor torácica") ou sugerir um CID inadequado. Como o médico responde pelos documentos que assina, o fluxo correto é: a IA gera um rascunho, o médico revisa, ajusta e assina.

Um exemplo desse desenho é o escriba médico da Pronova: ele transcreve a consulta e gera o prontuário em SOAP ou no modelo da especialidade, com sugestão de CID-10, mas nada é finalizado sem revisão e assinatura do médico. Desconfie de ferramentas que prometem documentos prontos para enviar ao paciente sem essa etapa.

A IA entende português médico? (pergunta 10)

Demonstrações prontas sempre funcionam bem. O que importa é o desempenho na sua rotina. Faça um teste com consultas simuladas, sem dados reais de pacientes, incluindo:

• abreviações e jargões da sua especialidade;
• nomes comerciais e genéricos de medicamentos;
• sotaques diferentes, falas rápidas e ruído de fundo;
• consultas com acompanhante interrompendo.

Meça quanto tempo você leva para corrigir cada prontuário. Se a correção demora mais do que escrever do zero, a ferramenta não serve para você, por mais bonita que seja a interface.

É software como dispositivo médico? (perguntas 11 e 12)

A RDC Anvisa 657/2022 trata da regularização de software como dispositivo médico (SaMD, na sigla em inglês). O que define o enquadramento é a finalidade declarada pelo fabricante. Ferramentas voltadas a documentação e gestão tendem a ficar fora. Já softwares que se propõem a diagnosticar, indicar tratamento ou monitorar pacientes podem se enquadrar.

Peça ao fornecedor a posição por escrito. Se ele se apresenta como SaMD, solicite a comprovação da regularização. Se diz que não é, confira se o marketing combina com isso: uma ferramenta que "detecta doenças" e afirma não precisar de nenhuma regularização merece cautela.

Para os documentos clínicos, a assinatura digital com validade jurídica se apoia na ICP-Brasil, criada pela Medida Provisória 2.200-2/2001. Assinatura por imagem escaneada não tem o mesmo valor.

E se houver incidente ou troca de fornecedor? (perguntas 13 a 15)

A LGPD prevê que o controlador comunique à ANPD e aos titulares incidentes de segurança que possam gerar risco ou dano relevante. Como essa obrigação é sua, você precisa ser avisado rápido. O contrato deve fixar o prazo de aviso do fornecedor, quem é o contato responsável e que informações ele entregará.

Suporte também é segurança. Uma clínica parada porque o sistema caiu numa segunda-feira de agenda cheia precisa de atendimento em português, com canais e prazos definidos.

Por fim, a saída. Pergunte hoje como você leva seus dados embora amanhã: prontuários, documentos, cadastro de pacientes e histórico, em formato aberto e estruturado. Exportar tudo apenas em PDF dificulta a migração. Exija também a confirmação de que os dados serão eliminados depois da devolução.

Como aplicar o checklist em 6 passos

1. Defina o uso. Liste as tarefas da IA (transcrição, documentos, mensagens) e quais dados ela vai tocar.
2. Separe eliminatórios e desejáveis. Revisão humana, contrato de operador e proibição de treino com seus dados costumam ser eliminatórios.
3. Envie as 15 perguntas por escrito. Respostas por escrito viram base para o contrato.
4. Leve o contrato ao jurídico ou ao encarregado de dados. Compare o que foi respondido com o que está assinado.
5. Faça um piloto controlado. Teste com casos simulados e com um ou dois médicos antes de liberar para a equipe.
6. Reavalie periodicamente. Revise o checklist a cada ano ou quando o fornecedor mudar de modelo, subcontratado ou termos.

Para encaixar essa avaliação num cronograma de adoção, veja o plano para implementar IA na clínica em 90 dias.

Erros comuns ao escolher uma ferramenta de IA

• Escolher pela demonstração, sem testar casos da própria especialidade.
• Aceitar termos de uso genéricos no lugar de um contrato de operador.
• Perguntar onde os dados ficam, mas não onde são processados.
• Ignorar a retenção do áudio das consultas.
• Deixar a equipe usar login compartilhado.
• Não perguntar sobre exportação até o dia em que decide trocar de fornecedor.
• Tratar uma certificação de segurança como resposta para todas as perguntas.

Próximo passo

Imprima a tabela, envie as perguntas aos fornecedores que você está considerando e compare as respostas lado a lado. Se você é médico ou gestor de clínica, pode aplicar o mesmo checklist à Pronova: veja o fluxo em 30 segundos no Teste Express, sem cadastro, ou faça o teste grátis de 7 dias com consultas simuladas. Hospitais que precisam de integração com o HIS via HL7 FHIR podem conhecer o plano Enterprise.