Cientistas de IA se reúnem para projetar cenários do juízo final

Dina Bass

(Bloomberg) -- Os defensores da inteligência artificial (IA) preveem um admirável mundo novo com carros voadores e a cura do câncer. Os críticos temem um futuro no qual os humanos são escravizados por uma raça malvada de líderes robôs. Em busca de um meio termo, o cientista veterano estudioso de IA Eric Horvitz e o guru do Relógio do Juízo Final, Lawrence Krauss, reuniram um grupo de especialistas no deserto do Arizona, nos EUA, para discutir o pior cenário possível -- e como impedi-lo.

O workshop foi realizado no fim de semana passado na Universidade do Estado do Arizona (ASU, na sigla em inglês) com financiamento do cofundador da Tesla, Elon Musk, e do cofundador do Skype, Jaan Tallinn. Oficialmente chamado de "Previsão e Reação a Consequências Adversas da IA", o evento foi uma espécie de jogo do juízo final que reuniu cerca de 40 cientistas, especialistas em cibersegurança e políticos, em grupos de atacantes -- equipe vermelha -- e defensores -- equipe azul -- para desenhar cenários catastróficos de IA, que foram da manipulação do mercado de ações até uma guerra mundial.

Horvitz está otimista -- o que é positivo, porque a inteligência das máquinas é o trabalho de sua vida --, mas alguns apoiadores mais distópicos do projeto pareceram achar a projeção dele positiva demais quando o planejamento deste evento começou, cerca de dois anos atrás, disse Krauss, físico teórico que dirige o projeto Origins da ASU, o programa que executa o workshop. Contudo, Horvitz disse que para que essas tecnologias avancem com sucesso e conquistem a confiança do público como um todo, todas as preocupações precisam ser totalmente divulgadas e abordadas.

"Existe um enorme potencial para que a IA transforme muitos aspectos da nossa sociedade de muitas formas. Ao mesmo tempo, há arestas e possíveis desvantagens, como toda tecnologia", disse Horvitz, que é diretor-gerente do laboratório de pesquisa da Microsoft em Redmond, Washington. "Para tirar o máximo proveito do lado positivo também temos que pensar nas possíveis consequências de forma mais detalhada do que antes e pensar a respeito de como lidaríamos com elas."

Muitos desses pesquisadores conseguem igualar escritores de ficção científica como Arthur C. Clarke e Philip K. Dick em suas visões distópicas. Em muitos casos, foi preciso pouca imaginação -- cenários como aquele em que a tecnologia é usada para influenciar as eleições ou novos ciberataques usando IA estão sendo vistos no mundo real, ou são pelo menos tecnicamente possíveis de executar. Horvitz citou uma pesquisa que mostra como alterar a forma em que um carro autônomo lê os sinais de trânsito para que o veículo leia, de forma equivocada, um aviso de "Pare" como "Siga".

Além de soluções reais, os organizadores esperam que o workshop sobre o dia do juízo final tenha iniciado o debate a respeito do que precisa ser feito, aumentado a conscientização e combinado ideias de diferentes disciplinas. O projeto Origins planeja publicar os materiais das sessões realizadas a portas fechadas e poderá desenvolver mais workshops em torno de um cenário específico ou dois, disse Krauss.

"Algumas coisas que pensamos que poderiam ser cataclísmicas podem acabar sendo boas", disse ele.

Receba notícias do UOL. É grátis!

Facebook Messenger

As principais notícias do dia pelo chatbot do UOL para o Facebook Messenger

Começar agora

Receba por e-mail as principais notícias, de manhã e de noite, sem pagar nada. É só deixar seu e-mail e pronto!

UOL Cursos Online

Todos os cursos