Blog

Sistema para consultório de psicologia com IA: o que avaliar

Para avaliar um sistema para consultório de psicologia com IA, olhe menos para a lista de recursos e mais para sete pontos: o que a IA faz de fato, para onde vão os dados, como o paciente consente, como você revisa o texto, o que acontece com o áudio, quanto o sistema explica sobre o próprio funcionamento e quais limites ele assume. Se algum desses pontos não tiver resposta clara, o sistema ainda não está pronto para os seus pacientes.

Por que a IA pede uma avaliação à parte

Num sistema comum, você avalia agenda, prontuário e financeiro. Quando entra a inteligência artificial, surge uma etapa nova: o conteúdo da sessão passa a ser processado por uma ferramenta para virar transcrição, resumo ou rascunho de registro. É justamente o material mais sensível do consultório.

O checklist de decisão cobre a escolha do sistema como um todo. Aqui, o foco é só a parte da IA.

1. O que a IA faz, exatamente

Peça uma descrição concreta. “Usa IA” não diz nada. Pergunte:

• Ela transcreve o áudio, resume a sessão, sugere um rascunho de evolução ou tudo isso?
• Em que momento ela entra: durante a sessão ou depois?
• O que ela entrega: um texto pronto para salvar ou um rascunho para você editar?

A resposta certa é a que deixa claro que a IA prepara e você decide. O artigo sobre inteligência artificial para psicólogos mostra onde ela ajuda e onde não deve entrar.

2. Para onde vão os dados

O conteúdo de uma sessão é dado pessoal sensível pela LGPD. Por isso, vale saber:

• se o áudio e o texto são enviados para serviços de terceiros;
• se esses serviços usam o conteúdo para treinar os próprios modelos;
• se os dados trafegam e ficam guardados com criptografia;
• quem, dentro da empresa, consegue acessar o que foi processado.

Na linguagem da LGPD, a empresa do sistema costuma atuar como operador de dados, e você, como controlador. Isso significa que a responsabilidade pelo uso do dado também é sua. Uma política de privacidade clara, que responda a essas perguntas, é obrigação mínima.

3. Como fica o consentimento do paciente

Se a IA trabalha a partir da gravação da sessão, o paciente precisa saber e concordar. Veja se o sistema ajuda nisso:

• existe um momento claro para registrar o consentimento para gravação?
• dá para atender sem gravar quando o paciente não concorda, sem prejuízo do registro?
• o paciente pode mudar de ideia depois?

O guia de IA do CFP reforça que transparência com o paciente faz parte do uso ético. Se gravar for opcional no sistema, melhor: a decisão continua sendo sua e do paciente.

4. Como você revisa o que a IA escreveu

A revisão humana não é detalhe, é o centro do uso responsável. A IA pode produzir um texto bem escrito e errado, o que se chama alucinação de IA. Por isso, confira:

• se você consegue editar todo o texto antes de salvar;
• se o rascunho fica separado do registro final até você aprovar;
• se é fácil comparar o resumo com a transcrição quando surge uma dúvida.

Desconfie de qualquer ferramenta que salve o texto da IA direto no prontuário, sem passar por você. O artigo sobre IA para prontuário psicológico mostra como montar essa rotina de revisão.

5. O que acontece com o áudio

Depois que a transcrição está pronta, o áudio precisa continuar guardado? Muitas vezes, não. Pergunte:

• por quanto tempo o áudio fica armazenado;
• se existe exclusão do áudio automática ou manual;
• quem pode ouvir a gravação enquanto ela existe.

Guardar menos reduz o risco. O artigo sobre como proteger gravações e transcrições aprofunda esse cuidado.

6. Quanto o sistema explica

Um bom sistema com IA fala abertamente sobre os próprios limites. Procure:

• uma explicação simples de como a IA funciona e do que ela não faz;
• avisos de que a transcrição pode errar nomes, termos e falas sobrepostas;
• um canal para tirar dúvidas e relatar erros.

Promessas como “prontuário pronto em segundos, sem precisar revisar” são um sinal de alerta, não uma vantagem.

7. Os limites que o sistema assume

Por fim, veja se o sistema deixa claro o que a IA não faz. Em psicologia, ela não diagnostica, não decide conduta, não substitui o psicólogo e não gera documento final sem revisão. Um sistema sério diz isso com todas as letras, na tela e nos textos de apoio.

Como testar na prática

Antes de usar com pacientes reais, faça um teste controlado:

1. Grave uma conversa fictícia, com você e um colega fazendo os papéis, sem nenhum dado real.
2. Gere a transcrição e o resumo.
3. Compare com o que foi dito e anote os erros.
4. Edite o rascunho até chegar no registro que você assinaria.
5. Confira onde o áudio ficou e apague o que não precisa ser guardado.

Esse teste mostra, em meia hora, se a ferramenta economiza tempo ou só muda o trabalho de lugar.

Exemplo fictício

Uma psicóloga avaliava dois sistemas com IA. No primeiro, o resumo era salvo direto no prontuário, e ela não encontrou informação sobre o destino do áudio. No segundo, a IA entregava um rascunho separado, que só virava registro depois da aprovação dela, e a política de privacidade dizia por quanto tempo o áudio ficava guardado e como apagá-lo.

Ela fez o teste com uma conversa fictícia nos dois. O segundo errou duas palavras na transcrição, que ela corrigiu na revisão. Ficou com ele, porque o controle continuava nas mãos dela. Todos os dados deste exemplo são fictícios.

Em resumo

• Avalie a IA à parte, porque ela trabalha com o conteúdo mais sensível do consultório.
• Exija clareza sobre o que a IA faz e para onde vão os dados.
• Confira consentimento, revisão antes de salvar e guarda do áudio.
• Prefira sistemas que explicam os próprios limites.
• Teste com uma conversa fictícia antes de usar com pacientes.

Para entender o uso da IA na clínica de forma mais ampla, leia inteligência artificial na psicologia clínica: usos responsáveis.

No PSIO, a IA prepara um rascunho e a palavra final é sempre sua. Para conhecer a plataforma, Criar conta grátis leva menos de um minuto.