'IA vai servir ao nosso objetivo ou fará o que quiser?', diz Clara Durodié

Estrategista em tecnologia especializada em negócios, riscos e geopolítica da inteligência artificial (IA) em serviços financeiros, Clara Durodié foi conselheira do Fórum Econômico Mundial, do Grupo Parlamentar Misto do Reino Unido, da comissão especial sobre o tema no Japão e é membro da Aliança de Inteligência Artificial da União Europeia. Ela esteve no Brasil para participar do MKBR, evento da Anbima e da B3, para convidados, no Teatro B32, em São Paulo.

Clara é autora do livro Decoding AI in Financial Services - Business Implications for Boards and Professionals (algo como "Decodificando a IA nos serviços financeiros - implicações de negócios para conselhos e profissionais), lançado em 2019 e que ganhará uma nova versão.

Apesar de acompanhar a evolução desta tecnologia há bastante tempo, ela diz que entramos num novo momento, com a IA ganhando mais autonomia. Para ela, é o momento de parar e avaliar tanto em que áreas adotar quanto na regulação do tema. "É caso de pensar: Vamos usar essa tecnologia para nossos objetivos ou deixá-la fazer o que quiser?", disse ela ao Estadão/Broadcast.

A sra. acompanha IA antes de todo o barulho sobre essa tecnologia. O que a sra. vê para o futuro?

O mais importante é olhar esse grande campo da IA e tentar entender, enquanto a tecnologia amadurece, para onde estamos indo. Na segunda edição do meu livro sobre inteligência artificial para pessoas não tecnológicas, quis explicar que esse campo deve ser entendido também do ponto de vista da busca pela sua própria autonomia. Até o ChatGPT e a IA generativa, usávamos a IA preditiva para classificação, engenharia de recomendação e assim por diante. Por exemplo, classificar se uma pessoa é ou não elegível para um empréstimo pessoal, um financiamento imobiliário ou uma hipoteca. Com a IA generativa, entramos no que eu chamo de inteligência artificial semiautônoma, com texto, discursos, vídeos, imagens e áudio. É a IA cognitiva, uma tecnologia que tem uma boa compreensão do contexto, habilidades de pensar, fazer planos, entre outras coisas. São ferramentas que estão sendo desenvolvidas, com um nível de autonomia bastante alto e que podem se engajar com outros agentes. É um novo mundo muito diferente, que nós não sabemos exatamente como será, porque nunca o experimentamos.

Quais os desafios na regulação de algo tão desconhecido?

No Reino Unido e na Europa, a IA preditiva foi muito adotada, em todos os tipos de funções e tarefas. Mas agora, como essa tecnologia se torna mais autônoma, ela pode mudar a natureza do que desempenha. Bem como será capaz de, em muitas formas, mudar e desafiar as exigências dos reguladores. Ao mesmo tempo que está ganhando mais autonomia, nós, humanos, não conseguimos exatamente explicar como ela toma algumas decisões. O regulador começará a fazer perguntas, não apenas sobre as decisões, mas também sobre a consistência dos resultados. Porque, com a IA generativa, nunca é certo se a mesma resposta será dada de novo e de novo. De uma perspectiva regulatória, isso é muito importante. Além disso, é essencial entender quais situações ou instâncias são elegíveis para adotar essa tecnologia.

Como assim?

Pode haver instâncias em que decidamos não adotar essa tecnologia porque ela não é confiável, não é adequada ou as regras não permitem espaço para resultados diversos. Precisamos entender o que a tecnologia pode fazer e então escolher o algoritmo certo e ter certeza de que ficamos dentro dos requisitos regulatórios.

A tecnologia vem sendo adotada sem que saibamos suas consequências?

A ingenuidade humana chegou a um nível tão alto que criamos algo que não conseguimos explicar como funciona. Quando a IA alucina, por exemplo, produz um resultado distante do que os reguladores realmente querem. Então, de novo, é caso de pensar: vamos usar essa tecnologia para nossos objetivos ou deixá-la fazer o que quiser?

Isso diz respeito apenas a reguladores ou também a negócios?

Na segunda edição do meu livro, faço a seguinte pergunta: Quão lenta é sua estratégia de IA? Porque todo mundo está correndo atrás de seu uso, mas é preciso desacelerar e perguntar quais ferramentas cada tecnologia oferece e como aprender com cada uma delas. É preciso ser bastante seletivo de acordo com o objetivo de cada empresa. Na verdade, a grande pergunta a ser respondida é: Onde queremos ir, como negócio? A empresa quer crescer expandindo o número de seus clientes? Quer ir a outros países? O que faz como negócio para ser mais lucrativo? Uma vez que se entenda esse objetivo, é possível determinar se estou usando ou não a melhor tecnologia para me apoiar nessa meta. As informações são do jornal O Estado de S. Paulo.