Especialista diz que algoritmos de empresas prejudicam pobres e negros

Para quem nunca acabou a universidade, Joi Ito chegou longe. Ele dirige desde 2011 um dos mais influentes centros de estudos sobre comunicação digital no mundo, o Media Lab do MIT (Instituto Tecnológico de Massachusetts), e é professor-visitante de uma das mais influentes escolas de direito, a Harvard Law School. É desse observatório para lá de privilegiado que ele defende a reinvenção da democracia: “Precisamos reinventar a democracia para a era das redes, usando as redes sociais”.

Nascido no Japão, ele começou a estudar ciências da computação nos EUA, mas achou o curso “estúpido” e preferiu se arriscar em negócios tão diferentes quanto atuar como DJ em Chicago e desbravar o começo da internet em empresas como a Digital Garage e PSINet Japan. Com o dinheiro que ganhou investiu em empresas que estavam começando, como Twitter. Neste ano, finalmente, ele apresentou uma dissertação no MIT e tornou-se doutor.

De passagem por São Paulo, onde participou de um seminário da HSM, Ito, 52, criticou em entrevista à Folha o uso que as empresas fazem de fórmulas matemáticas para analisar clientes, os algoritmos. “Seguro de carros, planos de saúde estão usando algoritmo e o resultado é injusto com os negros e os mais pobres”, afirma.

O sr. acredita que é possível reduzir os efeitos das fake news ou isso é impossível? É impossível eliminar fake news, assim como é impossível eliminar a vulnerabilidade dos sistemas de computação. Fake news é um fenômeno parecido com segurança cibernética. A sofisticação dos ataques é crescente, como os que os russos usaram [na eleição de Donald Trump]. Eles exploram a vulnerabilidade dos sistemas.

O que está acontecendo é uma espécie de jogo entre gato e rato. Quando um país identifica a técnica usada pelos russos, os russos adotam uma nova estratégia. No Brasil usaram grupos de máquinas para distribuir notícias falsas por WhatsApp. Assim que começaram as redes sociais, começaram também os ataques. Nós estamos melhorando a segurança, mas os caras maus também estão melhorando os ataques.

Facebook e WhatsApp têm dito que investem recursos e tecnologia para evitar as fake news. O sr. acredita nisso ou essas empresas estão fazendo só propaganda? Acho que não é só propaganda, já que eles estão gastando muito dinheiro para resolver esses problemas. Tecnicamente eles são muito bons e eles vão tentar tudo o que puderem do ponto de vista tecnológico. Talvez tenha que haver algum tipo de regulação por parte do governo, mas ela terá que manter o negócio lucrativo porque há um risco de a regulamentação destruir o negócio.

A questão é saber o quanto de proteção contra fake news será suficiente. Quando você tem genocídio, como aconteceu em Mianmar, ou mortes, como na Índia, há que se perguntar se eles podem continuar tocando o negócio do modo que estão fazendo. Acho que a sociedade civil precisa questionar os governos se certos tipos de negócios podem ser conduzidos de certa maneira.

O sr. prefere a autoregulamentação ou regras do governo? Prefiro as duas coisas. Acho que as companhias têm de ser responsáveis. Eles começaram a perceber que estão diante de um grande problema. Mas o governo precisa agir.

Por que certos grupos preferem acreditar em fake news em vez de confiar em jornais tradicionais? É a sedução da conspiração? Há, sim, uma cultura da conspiração. Mas acho que os jornais não estão falando uma linguagem compreensível para os mais jovens. Há estudos que mostram que os mais jovens acreditam mais em artigos quando veem a foto do jornalista em campo e em textos escritos em primeira pessoa, como a [revista] Vice faz.

Os jornais tradicionais são mais neutros e os jornalistas não falam deles próprios. Para os mais jovens, isso é fake. A neutralidade dos jornais é vista como algo super-produzido, não cru. Parte do problema é de estilo. Outra questão é que as redes sociais criaram essa superpolarização, que é reforçada pelas bolhas. A internet sempre gostou de teorias conspiratórias. É onde pessoas estranhas encontram pessoas estranhas. A mídia precisa entender melhor esse mundo.

Como assim? Eu digo para a minha equipe no MIT que os “trolls” [gíria que designa aqueles que usam a internet para inflamar discussões e disseminar conflitos] são pessoas que só estão tentando causar problemas. Quando os jornais escrevem sobre eles, só estão dando mais energia para essa gente. Essas pessoas querem atenção e os jornalistas estão levando elas a sério.

Não é para levá-las a sério? O meu conselho é: não alimente os “trolls”. Os jornalistas precisam prestar mais atenção. Muitos desses ataques são projetados contando com a reação dos jornais. Os jornais precisam ter pessoas dentro dessas comunidades e gastar mais tempo para entendê-las.

O sr. acredita que as redes sociais podem destruir a democracia, já que tudo que ocorre dentro de bolhas? Estamos vendo a confiança nas mídias sociais desaparecer, mas existe uma nova versão de mídia que quer se tornar parte da democracia na próxima geração. Acho que a democracia precisa ser reinventada, algo como democracia 2.0 ou democracia 3.0. Precisamos reinventar a democracia para a era das redes, usando as redes sociais. As plataformas e as pessoas precisam entender melhor o papel da mídia social junto com a mídia tradicional e a democracia. Temos que começar alguns experimentos em cidades menores, envolvendo as comunidades em discussões políticas junto com a mídia local. Talvez em redes fechadas, não abertas. O que estamos vendo agora é a parte negativa, o lado obscuro das redes.

O sr. é otimista? Sou otimista a longo prazo. A curto prazo, não. É como a garota do filme “O Exorcista”. Ela pode estar horrível, mas depois de uma boa limpeza ficará uma garota legal.

Há visões opostas sobre o impacto da inteligência artificial nos empregos. Elon Musk, da Tesla, diz que é a questão mais assustadora do futuro. Já Peter Diamandis crê num futuro de abundância. Quem está certo? Ambos estão errados. Há uma preocupação excessiva com superinteligência. Eu estou mais preocupado com a inteligência estúpida. Porque estão usando algoritmos para todo tipo de decisão, para estabelecer sentenças judiciais, liberdade condicional, para vender produtos. É um sistema muito eficiente.

A Amazon usa algoritmos e só oferece Amazon Prime [sistema de vantagens] para ricos. Em Boston, uma família negra ganha US$ 8 dólares de renda. Os brancos em Boston recebem US$ 247 mil. Estou muito preocupado porque algoritmos só estão reforçando preconceitos e criando um sistema injusto em termos de desigualdade social. Seguro de carros, planos de saúde estão usando algoritmo e o resultado é injusto com os negros e os mais pobres. Algoritmo tem um tremendo efeito negativo. É bom para os negócios, mas não é justo.

Peter Diamandis está errado porque abundância não faz ninguém feliz e te deixa gordo. Comida, por exemplo. Não há falta, mas há um problema de distribuição. É um problema social que o Silicon Valley não vai resolver.

O novo presidente do Brasil foi eleito com a promessa de prender mais pessoas para reduzir o crime, algo que os EUA fazem há 30 anos. Primeira coisa: encarceramento em massa não reduz o crime. Guerra às drogas é outra má ideia: só serve para colocar pessoas pobres nas prisões. Estão usando inteligência artificial para tornar a polícia e a justiça mais eficiente, mas tornar o sistema mais eficiente não resolve o problema.

A razão pela qual existem crimes é que as pessoas não têm dinheiro, perderam o emprego, não têm um sistema social de bem estar, é porque as escolas públicas estão perdendo recursos. Para reduzir crimes você precisa fazer as pessoas felizes, com educação e com emprego. Em Detroit, onde trabalhei muito, gastavam mais dinheiro com prisão do que com educação. Isso é ridículo.

Minha preocupação com o seu governo é que ele tire recursos das escolas para construir prisões, como fizeram nos EUA, porque o crime vai continuar crescendo. Para o futuro você precisa de pessoas bem educadas e produtivas, algo que as prisões não conseguem fazer.

Da FSP