Bolsas

Câmbio

Análise: Como será o apocalipse dos robôs na realidade

Cathy O'Neil

(Bloomberg) -- Existem duas visões conflitantes em relação ao ponto em que a inteligência artificial dominará a humanidade. Alguns temem que quando forem capazes de se autoprogramarem, os robôs perceberão que os seres humanos são inúteis e se livrarão de nós. Outros acreditam que no dia em que os robôs se tornarem sencientes -- ou seja, no momento da singularidade --, seres humanos e computadores serão uma coisa só, onisciente e imortal.

Eu acho que estão todos errados. Não é assim que as coisas vão acontecer. O futuro da inteligência artificial será muito mais banal, triste até.

As fantasias humanas com robôs decorrem do equívoco comum de que eles estão trabalhando pela "verdade" ou por alguma espécie de objetividade humana -- ou pelo menos que eles mantêm uma lealdade frente a algum tipo de terceira parte abstrata. A partir daí, não é muito difícil imaginar sua lealdade mudando para si mesmos, ou pelo menos contra os seres humanos.

A realidade é bastante diferente. A inteligência artificial é uma ferramenta, muitas vezes uma arma, voltada a certas pessoas e controlada por outras. Um rifle seria uma metáfora razoável: pode ser usado para manter a paz ou para reprimir, mas em qualquer dos casos é apontado por alguém em direção a outro alguém. A maior diferença é a escala. Um algoritmo pode ser produzido uma vez, dentro de um laboratório de ciências de dados, e afetar bilhões de pessoas simultaneamente.

O marketing da inteligência artificial tende a obscurecer sua natureza. Independentemente de serem usados para selecionar artigos de notícias, para direcionar propagandas ou para identificar possíveis criminosos, os algoritmos são retratados como ferramentas de objetividade, que não visam a uma pessoa em particular e que não são controladas por ninguém em particular. O rosto dos donos do rifle tende a estar escondido -- muitas vezes de propósito. Se o víssemos com clareza, é possível que não gostássemos da visão.

A boa notícia é que não precisamos temer o apocalipse robótico como ele normalmente é concebido. As pessoas não construirão robôs capazes de se voltarem contra seus donos, assim como não criariam um rifle com a mira apontada para quem atira. As pessoas não entregam o poder voluntariamente. Em vez disso, elas tentam camuflar o poder como algo benigno.

A má notícia é que essas armas são realmente poderosas, com poder para devastar a vida das pessoas de formas que variam desde classificá-las como risco de crime até tirar seus filhos. Quando elas forem apontadas diretamente à população, é possível que não sejamos capazes de diferenciar a realidade do apocalipse. Se acabarmos usando chips subcutâneos que completam automaticamente nossos pensamentos enquanto disputamos os últimos empregos que restarem, poderemos ter que admitir que, com singularidade ou não, teremos nos tornado servidores de nossos senhores supremos robóticos.

Não é coincidência o fato de alguns dos maiores promotores da singularidade viverem e trabalharem no Vale do Silício. Eles não veem o que está tão mal em relação à tomada do controle pelos robôs porque são eles que estão com os dedos no gatilho.

Essa coluna não reflete necessariamente a opinião do conselho editorial ou da Bloomberg LP e seus proprietários.

Receba notícias do UOL. É grátis!

Facebook Messenger

As principais notícias do dia pelo chatbot do UOL para o Facebook Messenger

Começar agora

Receba por e-mail as principais notícias, de manhã e de noite, sem pagar nada. É só deixar seu e-mail e pronto!

UOL Cursos Online

Todos os cursos