Teste do Google com dados de pacientes violou lei no Reino Unido

Um teste médico histórico envolvendo a DeepMind, divisão de inteligência artificial da Alphabet, dona do Google, violou as leis britânicas de proteção de dados, segundo decisão do principal órgão de defesa à privacidade do Reino Unido.

O Escritório do Comissário de Informação do Reino Unido (ICO, na sigla em inglês) informou nesta segunda-feira que o hospital do Serviço Nacional de Saúde (NHS, na sigla em inglês) que realizou o teste com a DeepMind compartilhou inapropriadamente os registros de 1,6 milhão de pacientes com a empresa de tecnologia sem informar aos pacientes que seus dados seriam usados para testar um novo aplicativo para dispositivos móveis.

"Os pacientes não esperavam, o que é razoável, que suas informações seriam usadas dessa forma, e o Trust poderia e deveria ter sido muito mais transparente com os pacientes em relação ao que estava ocorrendo", disse Elizabeth Denham, comissária de Informação, em comunicado.

O teste, iniciado em novembro de 2015, foi pensado para ajudar os médicos a diagnosticar lesões renais agudas e não envolveu elementos de inteligência artificial. Em vez disso, a DeepMind produziu um software, chamado Streams, usando um algoritmo existente do NHS criado para identificar pacientes em risco. O Streams foi produzido para compilar dados dos pacientes, como resultados de exames de sangue, e para mandar um alerta a uma equipe médica por meio do aplicativo caso um paciente estivesse em risco.

A DeepMind, que foi vendida ao Google por mais de US$ 400 milhões em 2014, afirmou que precisava ter acesso aos registros médicos parciais de todos os pacientes do Royal Free NHS Hospital Trust dos cinco anos anteriores -- mesmo que esses pacientes já não estivessem sendo atendidos no hospital no momento. O Royal Free compartilhou as informações com a DeepMind sob uma base legal chamada "assistência direta", o que significa que os dados foram compartilhados para melhorar o tratamento dos pacientes. Sob esta doutrina legal, os profissionais médicos não precisam contar com consentimento explícito para compartilhar dados de pacientes.

Após 13 meses de investigação, o ICO encontrou "várias deficiências" na manipulação dos dados dos pacientes pela DeepMind e, após assessoria do próprio conselheiro-chefe para dados de pacientes do Departamento de Saúde, decidiu que a "assistência direta" não é uma base legal adequada para o compartilhamento dessas informações e que o hospital deveria ter solicitado permissão aos pacientes para compartilhar seus dados com a DeepMind.

O órgão concluiu que quando a DeepMind estava realizando seu teste, buscava ver principalmente se o aplicativo móvel em si funcionava corretamente e se a equipe médica gostava da interface do software -- e não tentando melhorar os resultados para os pacientes.

Além disso, o ICO afirmou que o hospital e a DeepMind não deram explicações adequadas a respeito de por que a DeepMind precisava ter acesso a tantos registros de pacientes para testar o aplicativo.

"O preço da inovação não precisa significar a erosão dos direitos fundamentais à privacidade", disse Denham.

Em postagem de blog nesta segunda-feira, a DeepMind afirma reconhecer que cometeu vários equívocos em seu trabalho com o Royal Free e saudou "a solução previdente do ICO para o caso, esperando que isso garanta o tratamento contínuo e legal dos dados dos pacientes pelo Streams".