Saúde mental e ideação suicida com BERT: dilemas éticos

Saúde mental e ideação suicida com BERT é um dos usos mais sensíveis de IA em saúde. O modelo pode identificar padrões em texto, triando sinais de risco em prontuários, chats de apoio e mensagens em plataformas digitais.

Mas a mesma técnica que ajuda a detectar urgência também abre dilemas éticos graves: consentimento, privacidade, vieses, falsos positivos e responsabilidade jurídica. O debate não é técnico apenas. É clínico, regulatório e humano.

O que o BERT faz na detecção de risco

O BERT é um Transformer treinado para entender contexto em linguagem natural. Em tarefas de classificação, ele pode aprender padrões associados a desesperança, autoagressão, isolamento e linguagem de planejamento suicida.

Em estudos de NLP, modelos desse tipo costumam operar com fine-tuning sobre conjuntos rotulados por especialistas. Em termos práticos, o sistema recebe um texto e devolve uma probabilidade de risco, útil para priorização de atendimento.

Exemplo concreto

Em um fluxo de triagem, mensagens com termos ligados a intenção, método e temporalidade podem ser encaminhadas em segundos para revisão humana. Em serviços com alto volume, essa automação reduz o tempo de resposta, algo crítico quando minutos contam.

Para referência técnica sobre a arquitetura, vale consultar o artigo original do modelo em arXiv.

Onde surgem os dilemas éticos

O primeiro dilema é o falso positivo. Um texto ambíguo pode ser interpretado como risco elevado, gerando alarme desnecessário e exposição indevida. O segundo é o falso negativo, mais grave: o sistema deixa passar um caso real.

Há também o problema do contexto. Ironia, gírias, linguagem regional e diferenças culturais podem confundir o classificador. Um modelo treinado em inglês, por exemplo, tende a perder precisão quando aplicado em PT-BR sem adaptação robusta.

Em saúde mental, uma previsão errada não é só um erro estatístico; pode ser uma violação de confiança.

Dado concreto

Em avaliações de sistemas de classificação clínica, uma diferença de poucos pontos percentuais no recall pode significar dezenas de casos não sinalizados em bases pequenas. Em saúde mental, isso altera a linha de cuidado.

Para leitura sobre ética em IA na saúde, a OMS publicou diretrizes sobre governança e uso responsável.

Privacidade, LGPD e consentimento

Dados de saúde são sensíveis por definição. Na prática, saúde mental e ideação suicida com BERT depende de bases textuais que podem conter relatos íntimos, histórico familiar e informações de terceiros. Isso exige base legal clara, minimização de dados e controles de acesso.

A LGPD trata dados de saúde como dados sensíveis. Logo, o projeto precisa justificar finalidade, retenção e compartilhamento. Se o uso for assistivo, o consentimento deve ser transparente. Se houver pesquisa, a governança precisa ser ainda mais rígida.

Caso regulatório

Na União Europeia, o AI Act classifica aplicações em saúde como de alto risco, com exigências de documentação, supervisão e gestão de risco. Esse enquadramento antecipa o tipo de controle que tende a se consolidar em outros mercados.

Vieses e desigualdade na classificação

Modelos de linguagem aprendem padrões do corpus. Se a base tiver mais exemplos de um grupo social, faixa etária ou região, o classificador pode favorecer esse padrão e errar mais em populações sub-representadas.

Em saúde mental, isso é sensível porque o vocabulário de sofrimento varia muito. Jovens usam gírias, pacientes idosos relatam sintomas de outra forma, e comunidades diferentes expressam ideação suicida por metáforas distintas.

Técnicas de mitigação

Auditoria por subgrupos, reamostragem, calibragem de probabilidade e avaliação com métricas separadas por perfil são medidas mínimas. Em projetos maduros, vale usar model cards e datasheets for datasets para registrar limites.

O valor do BERT está em priorizar atenção clínica, não em rotular pessoas.

Para padrões de documentação, veja a proposta de model cards.

Regulação e responsabilidade clínica

Se um sistema sugere risco suicida, quem responde por uma decisão mal orientada: o hospital, o fornecedor, o médico ou o time de dados? A resposta depende do desenho do uso. Mas uma regra se mantém: IA não pode substituir julgamento clínico.

O caminho mais seguro é tratar o BERT como ferramenta de apoio, com revisão humana obrigatória, trilha de auditoria e protocolo de escalonamento. Se o modelo for integrado a prontuário ou canal de atendimento, ele entra no território de software crítico.

Exemplo prático

Um fluxo responsável pode exigir que qualquer alerta de alto risco seja confirmado por profissional treinado antes de qualquer intervenção. Isso reduz dano por automação excessiva e mantém a decisão final sob responsabilidade clínica.

Para contexto regulatório no Brasil, a ANPD e discussões sobre IA em saúde devem ser acompanhadas de perto.

Limitações técnicas que não podem ser ignoradas

Mesmo com fine-tuning, BERT não entende intenção humana da mesma forma que um profissional. Ele reconhece padrões estatísticos. Em textos curtos, sarcasmo, ambivalência e contexto longitudinal, a performance cai.

Outro limite é a deriva. Mudanças no vocabulário, em plataformas e no perfil dos usuários degradam o modelo ao longo do tempo. Sem monitoramento, a acurácia de ontem não garante segurança hoje.

Boas práticas mínimas

Monitore drift, revalide periodicamente, mantenha revisão humana e documente decisões. Em ambientes críticos, use ensemble com regras clínicas e não apenas um classificador único. O objetivo é reduzir risco, não maximizar automação.

Em síntese, saúde mental e ideação suicida com BERT pede governança contínua, não um modelo “pronto”.

Sobre o autor

pettrus

Editor IAIRON — Inteligência Artificial aplicada ao mercado brasileiro.