Especialistas alertam que dados de qualidade, transparência e supervisão humana são essenciais para o uso responsável da IA na saúde
Um dos temas que ganhou destaque na FISweek 2025, evento voltado à inovação e às tendências em saúde, foi o debate sobre ética e o uso da inteligência artificial nas decisões clínicas. À medida que essas tecnologias passam a influenciar diagnósticos, exames e atendimentos médicos, especialistas reunidos no encontro chamaram atenção para a necessidade de critérios claros, dados confiáveis e supervisão humana, reforçando que o desafio atual não é mais adotar a IA, mas garantir que seu uso seja responsável e alinhado à qualidade do cuidado em saúde.
“Na medicina, a ética precisa funcionar como um eixo estruturante do uso da inteligência artificial. Isso significa garantir que a tecnologia exista para ampliar a segurança, a qualidade do cuidado e a equidade, e não apenas para otimizar processos”, explica Maurício Alves Pereira Junior, cientista da computação e analista de sistemas e também Diretor de Tecnologia da Dr. Fisiologia.
O que é a IA e como ela funciona
A inteligência artificial já faz parte da rotina da medicina em diferentes níveis do cuidado. Revisões publicadas na revista Medicine e análises do JAMA (2025 e 2023) mostram que essas tecnologias vêm sendo aplicadas na leitura de exames de imagem, no apoio ao diagnóstico de doenças, na previsão de riscos clínicos, na organização de prontuários eletrônicos e na gestão de serviços de saúde. Em hospitais, especialmente, seu uso tem se ampliado em áreas que lidam com grandes volumes de dados.
Na prática, a IA funciona por meio de algoritmos capazes de analisar grandes conjuntos de informações e identificar padrões que auxiliam na tomada de decisão. Estudos sobre avaliação e monitoramento de sistemas de IA em saúde, publicados na revista Circulation, explicam que esses algoritmos aprendem a partir de dados previamente disponíveis, como exames, históricos clínicos e registros médicos, e passam a gerar previsões ou recomendações com base nesse aprendizado.
De acordo com o cientista da computação, o processo começa com a definição clara do problema clínico e do que se espera alcançar com a tecnologia. Em seguida, é fundamental trabalhar com dados de boa qualidade, representativos e coletados de forma ética. O sistema passa então pelas fases de treinamento e validação técnica e clínica, com testes em diferentes contextos. Outro passo essencial é garantir que a ferramenta se encaixe na rotina real dos profissionais de saúde. Após a implementação, o trabalho continua: sistemas de IA médica precisam de acompanhamento constante, ajustes e regras claras de governança.
Pesquisas recentes indicam que a qualidade desses dados é determinante para o desempenho dos sistemas. Revisões sobre viés e justiça em IA biomédica, publicadas no Journal of Biomedical Informatics, mostram que dados pouco diversos ou mal estruturados podem levar a resultados imprecisos ou distorcidos. Por isso, especialistas reforçam que a IA não deve ser encarada como uma ferramenta autônoma, mas como apoio à decisão clínica, com a responsabilidade final permanecendo com os profissionais de saúde, como destacado em análises éticas publicadas na Medicine e no JAMA.
Benefícios e riscos do uso da IA no cuidado em saúde
Entre os principais benefícios associados à inteligência artificial na medicina está o ganho de eficiência. Estudos sobre o uso prático da IA em hospitais norte-americanos, publicados na Health Affairs, mostram que esses sistemas conseguem acelerar a análise de exames, ajudar a priorizar casos suspeitos e reduzir a sobrecarga de trabalho das equipes de saúde. Em áreas como radiologia e cardiologia, revisões científicas indicam que a tecnologia já apresenta bom desempenho na identificação de alterações em imagens e exames, contribuindo para diagnósticos mais rápidos e para a detecção precoce de doenças.
A IA também tem sido associada à melhoria da gestão dos serviços de saúde. Pesquisas apontam que, em ambientes como prontos-socorros, algoritmos podem filtrar exames considerados normais e encaminhar aos especialistas apenas os casos com maior probabilidade de alteração, otimizando tempo, recursos e custos — um uso citado tanto em revisões éticas quanto em estudos sobre avaliação de modelos preditivos em hospitais.
Por outro lado, a literatura científica alerta para riscos importantes. Um dos principais é o viés algorítmico, capaz de reproduzir desigualdades sociais, raciais ou de gênero já presentes nos dados de treinamento. Diretrizes publicadas no JAMA Network Open mostram que algoritmos podem apresentar desempenho inferior para determinados grupos populacionais quando não são devidamente avaliados quanto à equidade. Revisões do Journal of Biomedical Informatics reforçam que esses vieses podem surgir em diferentes etapas, desde a coleta dos dados até a aplicação clínica.
“O viés costuma surgir quando os dados usados para treinar o algoritmo não representam adequadamente a população real. Isso pode acontecer por sub-representação de determinados grupos, por diferenças nos métodos de coleta ou até por vieses históricos já presentes nas decisões médicas anteriores. Tecnicamente, o modelo aprende padrões estatísticos, não contextos sociais. Se esses padrões refletem desigualdade, o algoritmo tende a reproduzi-la”, esclarece Pereira Junior.
Outro desafio recorrente é a falta de transparência de alguns sistemas, frequentemente descritos como “caixas-pretas”. Estudos sobre ética e explicabilidade da IA apontam que, quando médicos e pacientes não compreendem como uma decisão foi gerada, surgem questionamentos sobre segurança, confiabilidade e responsabilidade clínica, o que pode comprometer a confiança no uso da tecnologia.
Ética, responsabilidade e proteção de dados
À medida que a inteligência artificial passa a influenciar decisões médicas sensíveis, como diagnósticos e definição de tratamentos, as questões éticas ganham ainda mais peso. Revisões publicadas na Medicine e frameworks discutidos em revistas da área da saúde (como o Critical Care Nursing Clinics of North America) defendem que a IA deve sempre operar sob supervisão humana e estar alinhada a princípios como segurança, equidade, transparência e benefício ao paciente.
A proteção dos dados dos pacientes é outro ponto central nesse debate. Estudos sobre governança ética da IA em saúde destacam que o funcionamento desses sistemas depende do acesso a informações sensíveis, o que exige regras rigorosas de privacidade, segurança da informação e consentimento. Artigo publicado na revista CHEST reforça que a forma como os pacientes são informados sobre o uso da IA em seu cuidado é decisiva para preservar a autonomia e a confiança na relação com os serviços de saúde.
“O maior desafio está na complexidade do ecossistema. Dados circulam entre sistemas laboratoriais, prontuários, APIs e ambientes de treinamento. Proteger tudo isso exige criptografia, controle rigoroso de acessos, auditoria constante e cuidado especial com ambientes de teste e desenvolvimento”, explica Pereira Junior.
Ainda segundo Maurício, grandes bases aumentam mais o impacto potencial de um vazamento do que necessariamente a probabilidade. “A mitigação passa por usar apenas os dados estritamente necessários, segmentar ambientes, aplicar técnicas de anonimização quando possível e monitorar continuamente acessos e comportamentos anômalos. Segurança em IA não é um estado final, é um processo contínuo”.
O alinhamento entre equipes de tecnologia, médicos e gestores depende de um diálogo baseado em uma linguagem comum. Enquanto o time de TI explica as capacidades e os limites técnicos da inteligência artificial, os profissionais de saúde avaliam a relevância clínica e os gestores analisam impacto e viabilidade. Esse processo costuma ocorrer por meio de workshops, projetos-piloto e definição conjunta de indicadores.
Assim, isso evita a confiança automática nas recomendações da inteligência artificial. Isso começa pelo desenho do sistema, que deve apresentar contexto, grau de confiança e limitações das respostas. Além disso, treinamento contínuo e protocolos institucionais ajudam a reforçar que a decisão final é sempre humana.
Diretrizes internacionais e análises recentes também apontam que o uso ético da IA na medicina deve incluir avaliação contínua dos algoritmos, monitoramento de desempenho, identificação de vieses e definição clara de responsabilidades entre desenvolvedores, instituições e profissionais de saúde, como discutido em estudos da Health Affairs e do JAMA.
Caminhos para um uso mais responsável da inteligência artificial
As evidências científicas indicam que a inteligência artificial pode contribuir para melhorar a qualidade do cuidado em saúde, desde que seja desenvolvida e aplicada com critérios éticos bem definidos. Revisões e recomendações publicadas em revistas como Medicine, Circulation e JAMA Network Open destacam que princípios como transparência, responsabilidade, segurança e foco no paciente devem orientar todas as etapas do uso da tecnologia, do desenvolvimento à implementação.
Outro ponto recorrente na literatura é a necessidade de capacitação dos profissionais de saúde. Estudos sobre ética e ciclo de vida da IA em ambientes clínicos, como os publicados em periódicos da área de terapia intensiva, apontam que médicos e equipes precisam compreender como os algoritmos funcionam, saber interpretar seus resultados e reconhecer seus limites. A formação em tecnologia e ética aplicada à inteligência artificial ainda é um desafio, mas já é considerada essencial para o uso seguro dessas ferramentas.
O primeiro passo para tomar cuidado, e evitar que o sistema reproduza desigualdades presentes nos dados, é avaliar o desempenho do sistema separadamente entre diferentes grupos de pacientes, observando como ele responde a perfis distintos. Também é necessário revisar variáveis que possam, de forma indireta, refletir condições socioeconômicas. Em muitos casos, ajustes técnicos ajudam a equilibrar os dados e reduzir distorções. Ainda assim, parte dessas decisões vai além da tecnologia e exige avaliação ética e governança clínica e institucional.
Mas, antes de adotar qualquer ferramenta, a instituição precisa exigir evidências de validação clínica, informações claras sobre limitações, segurança dos dados e um modelo de governança definido. Também é importante avaliar como a IA se conecta aos sistemas já existentes e quem responde em caso de falhas. Na área da saúde, tecnologia sem governança representa risco.
“A IA deve ser usada como ferramenta de apoio à decisão, com transparência sobre seus limites, proteção rigorosa de dados e clareza sobre responsabilidades. Em saúde, qualquer ganho tecnológico só faz sentido se vier acompanhado de controle de risco e respeito ao paciente”, conclui Maurício.

Dr. Fisiologia — Assessoria de Comunicação da FMRP-USP
E-mail: assessoria@drfisiologia.com.br
Celular/WhatsApp: (16) 99136-5048