Com publicação científica

Segurança da IA na Medicina
Aplicações médicas da Inteligência Artificial e os riscos de privacidade
Estudo mostrou que é possível extrair informações sensíveis de modelos de IA que usam dados de pacientes para treinamento
Digital health illustration with glowing hexagonal icons, a medical cross, DNA strand, syringe, pill and heartbeat line connected by blue circuits on a dark background.

Visual Unit via Shuttertsock

Por Redação SciAdvances

2 de julho de 2026, 12:12

Fonte

Universidade Técnica de Munique (TUM)

Áreas

Ciência de Dados, Computação, Dispositivos Vestíveis, Engenharia Biomédica, Imagens Médicas, Medicina, Modelagem Matemática, Processamento de Imagens, Robótica, Simulação Computacional, Telemedicina

Compartilhar

Segurança da IA na Medicina

A Inteligência Artificial (IA) tem sido usada em uma infinidade de aplicações, e na Medicina não tem sido diferente. Seja para melhorar diagnósticos e análises de imagens, para apoiar a decisão clínica, para auxiliar cirurgias robóticas, ou para a Telemedicina e o monitoramento de pacientes, mais e mais modelos de IA são usados a cada dia.

Todos esses usos da IA envolvem o treinamento de modelos com dados sensíveis de pacientes, e a segurança destes dados está diretamente relacionada à privacidade do paciente.

Quando há a invasão a um modelo de IA, pode haver a extração de dados de treinamento que poderiam ser usados, sem o conhecimento do paciente, em alguma ação de terceiros que afete o indivíduo diretamente.

Avanço: ataques a modelos de IA podem conseguir extrair dados em base individual

Pesquisadores da Universidade Técnica de Munique (TUM) e do Instituto Hasso Plattner (HPI), na Alemanha, e do Imperial College de Londres, no Reino Unido, demonstram que a segurança de modelos de Inteligência Artificial (IA) usados na Medicina pode não ser tão boa quanto se imaginava.

Ataques que visam determinar se dados de um indivíduo foram usados ​​para treinar um modelo são chamados de ataques de inferência de pertinência, também conhecidos como ‘MIAs’, do nome em inglês. Até agora, modelos de IA usados na área médica eram considerados amplamente seguros contra MIAs.

Moritz Knolle, doutorando na TUM e primeiro autor do estudo publicado na revista científica Nature, destacou que as avaliações de risco anteriores mediam apenas o risco médio entre todos os pacientes. Pela primeira vez, foi examinado o risco em nível do indivíduo, o que trouxe resultados bem diferentes.

Segundo o Dr. Daniel Rückert, professor de Inteligência Artificial em Saúde e Medicina na TUM e coautor sênior do estudo, os dados de saúde dos pacientes são altamente sensíveis e esse não é um risco tolerável.

No estudo, os pesquisadores realizaram ataques contra modelos baseados em sete conjuntos de dados médicos consolidados. Cada modelo utilizava um tipo diferente de dados, como imagens, eletrocardiogramas ou registros eletrônicos de saúde.

Modelos maiores, mais vulnerabilidade

Os pesquisadores mostraram que os ataques se tornam mais bem-sucedidos à medida que os modelos crescem em tamanho e complexidade. Na visão dos pesquisadores, o fato de modelos de alto desempenho serem particularmente vulneráveis ​​indica que o problema pode se tornar significativamente mais grave nos próximos anos, caso não sejam adotadas contramedidas.

Neste caso, os pesquisadores defendem a avaliação dos riscos de novos modelos em relação a pacientes individuais antes de seu lançamento. Contramedidas adicionais incluem o controle rigoroso do acesso aos modelos de IA.

O estudo também destacou que os ataques foram particularmente bem-sucedidos quando os indivíduos visados ​​pertenciam a grupos sub-representados no conjunto de dados.

O Dr. Georg Kaissis, pesquisador do HPI e também coautor sênior do estudo, explicou que já existem salvaguardas eficazes contra MIAs que podem ser aplicadas durante o treinamento do modelo. Por exemplo, a chamada ‘privacidade diferencial’ introduz pequenas modificações nos dados de treinamento que não afetam os cálculos do modelo, mas dificultam o sucesso dos ataques.

Os pesquisadores ainda não sabem se os riscos individuais também existem para outros tipos de ataques além dos MIAs, e sugerem o desenvolvimento contínuo de técnicas de avaliação e mitigação de riscos que atendam a todos os pacientes cujos dados sejam usados para treinamentos de modelos de IA na Medicina.

Publicidade

Publicidade

Autores/Pesquisadores Citados

Moritz Knolle

Doutorando na Universidade Técnica de Munique (TUM)

Dr. Daniel Rückert

Professor de Inteligência Artificial em Saúde e Medicina na TUM

Dr. Georg Kaissis

Pesquisador em Saúde Digital do Instituto Hasso Plattner (HPI)

Publicação

Acesse o artigo científico completo (em inglês).

Comunique um Erro

Publicidade

Outros avanços

E-books gratuitos

Rolar para cima