browser icon
Você está usando uma versão insegura do seu navegador web. Por favor atualize seu navegado!
Usando um navegador desatualizado torna seu computador inseguro. Para mais segurança, velocidade, uma experiência mais agradável, atualize o seu navegador hoje ou tente um novo navegador.

Os dados que você entrega ao “sistema” (digital} acabarão por estrangulá-lo

Posted by on 27/02/2019

Ranga Yogeshwar (Luxemburgo, 1959) é uma espécie de canário na mina, capaz de analisar e alertar para os desafios que as inovações tecnológicas da era digital nos proporcionam. Ele pensa que, no campo da inteligência artificial, inovamos sem sermos capazes de compreender os sistemas que criamos e as consequências que eles podem ter sobre a nossa existência como indivíduos. Ele alerta para o mau uso dos dados pessoais coletados na era digital e que podemos acabar sendo escravos da digitalização do nosso próprio comportamento.

Edição e imagens:  Thoth3126@protonmail.ch

“Os dados que você entrega ao sistema acabarão por estrangulá-lo”. Ranga Yogeshwar, conhecido divulgador na Alemanha, alerta para a falta de controle político e moral sobre muitas inovações da era digital.

Fonte: https://brasil.elpais.com/

Yogeshwar recebe o EL PAÍS em sua casa na pequena localidade de Lanzenbach, perto de Colônia, na Alemanha, em pleno campo. Mas o habitáculo vital deste físico divulgador, muito conhecido na Alemanha, é o mundo. Percorre-o proferindo conferências e conhecendo em primeira mão as inovações que regerão o futuro e nos mudarão como sociedade.

Políticos e empresários alemães e de meio mundo o procuram para que lhes contem para onde vamos. Ele dá sua resposta no livro Nächste Ausfahrt Zukunft (“Próxima saída: futuro”, inédito no Brasil), onde alerta para o mau uso dos dados pessoais coletados na era digital e que podemos acabar sendo escravos da digitalização do nosso próprio comportamento.

Mas Yogeshwar não pertence ao clube dos agoureiros, nem propõe nenhuma volta ao passado. Ele crê que a “política” pode e deve moldar uma inovação, a qual não convém que seja deixada nas mãos só de engenheiros de TI e investidores vorazes. “Ao final será bom, porque nos faremos as perguntas fundamentais e encontraremos respostas melhores das que tínhamos encontrado até agora.”

Pergunta. Como a inovação tecnológica digital está nos mudando?

Resposta. Há coisas essenciais que permanecerão. Não queremos viver em um estado de medo permanente, nem morrer de fome, mas é preciso ver como a comunicação nos mudou, por exemplo, o que acontece agora nas famílias. Quando eu era jovem e saía de viagem, era um tempo de separação dos meus pais, de crescer, mas agora quando os filhos vão viajar estão conectados o tempo todo com sua família. Como isso vai influir na sua personalidade? Ou as câmaras de eco – se você se cercar o tempo todo de gente que pensa como você, fecha-se numa bolha, e isso também modela {limita} a personalidade. Pergunto-me se acabaremos numa sociedade muito diferente, que não se parece em nada com a ideia de sociedade “coesa” que tínhamos até agora, e sim que sejam ilhas com algumas regras elementares para nos relacionar.

P. filosofia dedicou muito tempo a analisar a diferença entre os humanos e os animais. Das máquinas inteligentes, em que nos diferenciaremos?

R. O desenvolvimento da inteligência artificial força a repensar o que somos e o que nos faz {define como} humanos. Nós podemos perdoar; nós adoramos as exceções. Ou seja, aspiramos a tratar todo mundo por igual, mas, se for seu amigo, você faz algo de especial por ele. Às vezes é irracional. A gente fuma, embora não faça sentido; as máquinas não fazem isso. Pode ser que graças à inovação acabemos revendo coisas essenciais, como focar na produtividade e no rendimento econômico; talvez haja transformações das quais atualmente nem sequer estejamos conscientes. Pode ser, por exemplo, que estejamos indo para uma era pós-textual, em que contemos e escutemos histórias em lugar de ler e escrever, que é um processo muito complexo. Hoje em dia você já não lê as instruções de um aparelho, vê um tutorial. Talvez nossa inteligência possa diminuir, por causa do crescimento {do controle} das máquinas.

P. Não parece um futuro muito promissor.

R. Eu sou otimista. Vemos, por exemplo, que começamos a querer passar um tempo desconectados, o que os britânicos chamam de digital detox [desintoxicação digital]. No final, aprenderemos como utilizar bem a inovação. Nossa relação com o progresso, para mim, é como as crianças no Natal: abrem os pacotes e tentam fazer o brinquedo funcionar. Quando não conseguem, aí olham as instruções. Queremos ir muito rápido, mas agora pouco a pouco estamos começando a estudar as instruções da revolução digital. Os conquistadores chegaram às Américas, apropriaram-se do lugar e mataram os indígenas, e essa é a mesma mentalidade caubói que vemos na era digital. Google e Facebook são os conquistadores que se apoderam dos conteúdos, mas estamos entrando numa fase em que começamos a civilizar esses conteúdos, e acredito firmemente que seremos capazes de fazê-lo. Estabeleceremos regras, entenderemos tendências e, talvez, nos próximos anos, percebamos que será preciso dividir os googles e as amazons, por serem grandes demais. Estabeleceremos regras pelas quais não utilizaremos tecnologias que não entendamos completamente, porque haverá reações contrárias. A história nos demonstra que sempre há um processo de civilização. No final será bom, porque nos faremos as perguntas fundamentais e encontraremos respostas melhores do que as encontradas até agora.

P. Você explica que nosso futuro não é linear, que não há uma continuidade a partir do passado, que há rupturas. Que consequências tem esse tipo de progresso?

R. A velocidade é uma nova qualidade. A eletricidade, por exemplo, introduziu-se pouco a pouco, ou o telefone, que demorou 75 anos para chegar a 100 milhões de usuários. Antes havia tempo de se adaptar; era um processo orgânico. Às vezes, levava-se inclusive uma ou duas gerações, o que significava que não era uma intrusão em sua vida pessoal, porque era a próxima geração que tinha que administrar. Agora, se olharmos o Facebook e outras redes sociais, ou os smartphones, em apenas 11 anos, todo mundo tem um. Quer dizer, as coisas acontecem de maneira tão rápida que não há tempo para se adaptar de um jeito civilizado. As inovações são implantadas e, de repente, percebemos que necessitamos de leis. Começamos a regular a privacidade, mas é um processo muito lento comparado com a velocidade da inovação. Na inteligência artificial surgem inúmeros dilemas éticos.

P. Como podem conviver os algoritmos e a ética?

R. É um tema que estará muito presente, mas não se pode tratar de uma forma tradicional, porque a ética é mutável. Há 50 anos, por exemplo, aceitava-se que batêssemos nos filhos, mas mudamos. Precisamos trabalhar com uma ética que leve em conta como a tecnologia vai nos mudar. Por exemplo, nosso conceito de privacidade não será o mesmo dentro de alguns anos. É uma situação muito dinâmica e, como não podemos antecipar as mudanças, talvez seja preciso desenhar um processo ético que continuamente questione e adapte as coisas.

P. É possível impedir que a moral e a lei estejam sempre correndo atrás?

R. Necessitamos de uma cultura em que o progresso seja o resultado de um processo de reflexão da sociedade, e não o resultado exclusivo da engenharia e dos investidores. Queremos ter máquinas que tomem decisões cruciais? E se as tivermos, qual deve ser o grau de transparência das decisões? Refiro-me, por exemplo, ao viés dos dados fornecidos aos sistemas, porque o problema é que ninguém compreende realmente como funcionam. Não sabemos o que acontece nas camadas mais profundas e, portanto, desconhecemos se as decisões adequadas são adotadas. Por exemplo, o Google começou a etiquetar fotos, mas, de repente, as pessoas negras apareciam etiquetadas como gorilas, porque os dados que tinham introduzido no sistema estavam enviesados, pois provavelmente não tinham fornecido suficientes imagens de pessoas negras. Em alguns aplicativos não tem problema que haja erros, mas nos que estão intimamente ligados à nossa democracia isso não é uma opção. Não se pode prender alguém sem lhe informar exatamente o porquê, não quero ser detido porque um algoritmo mandou. Afinal, reduz-se à questão de optarmos pela correlação ou pela causalidade, que é a base da nossa democracia.

P. A que se refere?

R. Estabelecemos e comercializamos sistemas apesar de que não os compreendemos. Não sabemos se são estáveis ou enviesados. Tudo anda muito rápido. Estive numa conferência com diretores de recursos humanos e me contaram que utilizavam inteligência artificial para as entrevistas de emprego. Têm um sistema que analisa quais os candidatos usam, a fim de definir um perfil. Se um candidato utilizar certas palavras, concluem que é um sujeito otimista e proativo, ou ao contrário. Nos Estados Unidos, por exemplo, o sistema Compas prediz através de algoritmos se um preso irá cometer um novo crime. O que aconteceu foi que encontraram um viés importante para os detentos negros, porque tinham inserido dados enviesados. Não me cansarei de dizer: os dados são um problema.

Robôs fora do armário

Yogeshwar para de falar e mostra no computador de seu escritório uma invenção que dá uma ideia de como o processamento de voz está avançado. Uma máquina pede hora na barbearia fazendo-se passar por uma pessoa, e é capaz de manter uma conversa, respondendo às perguntas da atendente. “{ISSO} É imoral. Você não pode ter máquinas que se fazem passar por humanos. Falta uma reflexão ética. Os robôs do futuro têm que sair do armário e dizer: ‘Olá, sou um assistente de inteligência artificial’.”

P. Você fala de velocidade e de complexidade. Muita gente se sente alienada e rechaça um progresso que não compreende. Há um movimento reacionário.

R. É preciso se perguntar qual é o nosso objetivo. Ter uma sociedade digitalizada que nos torne a vida mais fácil? Ou sermos mais felizes? Porque, se quisermos isso, pode ser que não haja muita relação, pois pouco a pouco o ser humano entra na categoria das máquinas. Podemos acabar submetidos à ditadura do comportamento. Ou seja, seu celular, por exemplo, controla o exercício que você faz. Já há seguradoras que pedem seus dados para calcular sua apólice. Dentro de cinco anos veremos um sujeito correndo por um parque e lhe perguntaremos se gosta de sair para correr, e responderá que não, mas que precisa fazer isso para que fique refletido nos seus dados. A liberdade prometida pode terminar justamente no contrário, numa ditadura do seu comportamento. A liberdade de se comportar como quiser, de tomar uma taça de vinho à noite, de fumar um charuto, vai desaparecer, porque todos os dados que você entrega ao sistema acabarão estrangulando-o num {pelo próprio} sistema. Começa com os seguros médicos e rapidamente se estende a muitas outras áreas. E isso gera certo sentimento de desconfiança com o futuro, é a segunda fase da era digital.

P. Você também se preocupa com a evolução dos meios de comunicação.

R. Os pilares da democracia são os meios de comunicação, o lugar onde [a democracia] entra em ação, e os meios de comunicação se tornaram populistas, porque se regem pelos cliques, pela audiência medida com algoritmos que amplificam resultados. Agora a briga está na atenção, não nas ideias. Num período de tempo muito curto, vimos uma mudança na imprensa que desconcerta muita gente. Vemos muitas mudanças em pouquíssimo tempo, e isso nos leva a perguntar para onde nos dirigimos, quem está controlando {ou induzindo essa} a mudança, se é que alguém a está controlando. Para muitas pessoas, a resposta é que a mudança “administra a si mesma”, e sentem que eles não têm nada a contribuir. As elites não são capazes de comunicar a essência das mudanças, as pessoas sentem que vivem numa democracia da qual não podem participar. Por isso, mesmo que as pessoas gostem, sentem certo desassossego e medo por causa da transformação, que afeta também os seus negócios. Porque talvez trabalharam muitos anos para chegar a uma posição, e de repente isso não vale nada. Desconfiam da inovação e se entregam ao populismo. E culpam os estrangeiros, pensam que a solução é trancar-se como se viesse um furacão, que na realidade é a inovação. É puro medo.

P. A política pode fazer algo?

R. A política pode fazer muito, mas infelizmente a europeia e alemã têm feito “muito pouco”. A maioria dos políticos não entende o que está acontecendo, são literalmente ignorantes. Eu lhes explico, por exemplo, que a fisionomia das cidades vai mudar devido ao monopólio da Amazon, e que as livrarias { e o livro impresso em papel} desaparecerão, e é algo em que nem pensaram. Há uma enorme ignorância sobre a mudança mais crucial que está acontecendo.

P. E a indústria?

R. Vive apaixonada por seu passado e não pensa no futuro. Nos Estados Unidos, 70% das empresas têm um diretor de transformação digital, que estuda como a empresa vai mudar com a digitalização, ou se vai continuar existindo. Na Alemanha, não chega a 20%. As empresas estrangeiras vêm e levam os jovens com mais talento. Se olharmos para os EUA e a China, percebemos que a Europa vai morrer no processo da inovação de inteligência artificial. Por que nada nasce na Europa, com raras exceções? Cedemos nossos dados aos EUA, e desde {as denúncias de} Snowden sabemos que nos tratam de maneira diferente. A Internet, a Carta Magna da era digital, foi criada para ser usada por todo mundo, e agora a única coisa que vemos é negócio.

P. Que mudanças geopolíticas a inovação trará?

R. Se analisarmos de onde virão os cientistas em 2030, vemos que 37% serão da China, e 1,4% da Alemanha. Deixemos de acreditar que os chineses são estúpidos. São muito inovadores e têm ambição.


Mais informações, leitura adicional:

 

 

Deixe uma resposta

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Esse site utiliza o Akismet para reduzir spam. Aprenda como seus dados de comentários são processados.