Tecnologia é enganosamente prejudicial, alertam especialistas

“A inteligência artificial garante o fim da raça humana” – Stephen Hawking

Antes de mergulharmos nas advertências de algumas das pessoas mais visíveis no mundo da tecnologia com relação ao que a humanidade pode esperar sobre os últimos desenvolvimentos em inteligência artificial, internet, mídias sociais e outros, vamos nos concentrar em um exemplo simples que mostra porquê tais advertências são preocupantes.

A taxa em que entidades privadas e governos estão aumentando seu poder e domínio sobre as pessoas é alarmante. Governos e empresas de tecnologia estão fora de controle quando se trata de espionar,, ilegalmente cidadãos sem o seu consentimento. Claro, ao usar as mídias sociais, você fornece consentimento para essas empresas extraírem dados mas, e as agências de inteligência ou governos? Eles não pedem consentimento, pedem?

O mundo ficou chocado quando Edward Snowden denunciou a espionagem ilegal e inconstitucional contra cidadãos americanos. Mas, as coisas pioraram muito desde então.

Mais e mais países adotaram o modelo do Estado Policial sob a desculpa de aumentar a segurança, mas nenhum deles pode protegê-lo de tiroteios em massa aleatórios, podem?

O exemplo mais recente de uma tomada de poder do governo vem da Índia, onde as autoridades dizem às pessoas que a extrapolação de sua privacidade faz parte do que estão rotulando como um exemplo moderno de democracia.

O país prepara uma rede de reconhecimento facial como um complemento ao seu vasto sistema de controle populacional.

A partir deste mês de outubro, o governo concederá propostas às empresas para desenvolver um programa de análise de imagens capturado por videovigilância.

O modelo abre um mercado tão promissor quanto o chinês – estimado em US $ 4,3 bilhões em 2024 – embora ainda não seja tão eficaz.

O projeto visa completar os pobres recursos humanos da Índia em segurança – um policial para cada 724 habitantes – conectando o reconhecimento facial a bancos de dados de passaportes, impressões digitais e outros registros.

Esse é um modelo perturbador em um país que carece de políticas de segurança cibernética e cujo atual programa de identificação biométrica, entre os maiores do mundo, também está entre os mais inseguros devido aos contínuos vazamentos.

“Somos a única democracia no mundo que instalará esse sistema, apesar de não termos leis de privacidade ou proteção de dados”, resume Apar Gupta, advogado e diretor da Fundação para a Liberdade na Internet com base na capital indiana Nova Délhi.

Em 2015, os membros deste grupo fizeram com que as autoridades nacionais garantissem a neutralidade da rede evitando taxas adicionais de provedores.

“Será uma mina de ouro para empresas em busca de grandes bancos de dados desprotegidos”, diz Gupta, referindo-se ao vazamento e roubo de dados do sistema que contêm informações biométricas de centenas de milhões desde que foram introduzidas por lei em 2016, em um total de 1,3 bilhão de habitantes do país.

Criado há uma década, o Aadhaar é um programa que cria um número de identificação exclusivo contendo dados físicos e demográficos de cada cidadão para acesso a serviços públicos.

Assim, o sistema melhora o controle sobre benefícios e subsídios sociais evitando duplicação e corrupção. Sem validade para certificar a cidadania, o cartão Aadhaar verifica a residência do titular, de modo que as empresas privadas exigem que ele contrate seus serviços, apesar de contrário à lei.

O economista Paul Romer, que já foi chefe do Banco Mundial, o descreveu como “o programa de identificação mais sofisticado do mundo”. Como o famoso ativista cibernético global Edward Snowden explicou, “há algo seriamente preocupante nesse sistema” quando “na Índia, você não pode ter uma certidão de nascimento sem Aadhaar”.

Esse número é solicitado cada vez mais frequente pelas empresas. “Aadhaar mina os direitos dos cidadãos”, diz a professora Reetika Khera, coautora do trabalho Dissent on Aadhaar: Big Data atende ao Big Brother.

“Não há apenas problemas no registro de votação, mas cerca de 40 pessoas foram mortas e tiveram assistência social negada devido a problemas relacionados”.

As publicações locais afirmam que a comissão eleitoral eliminou os nomes do registro, vinculando os cartões de eleitor a Aadhaar sem consentimento e expondo a privacidade de milhões. “Até o governo viola, repetidamente, a ordem do Supremo em relação a Aadhaar”, diz Khera.

“Como muitos outros, ainda recebo notificações do Ministério da Tecnologia para verificação”, diz Gopal Krishna, cujo número de Aadhaar foi autenticado com seus dados biométricos sem ter solicitado.

Coordenador do Fórum do Cidadão pelas Liberdades Civis, Krishna lidera uma campanha de mais de 3,5 milhões de assinaturas contra esse programa forçando a Suprema Corte a decidir, em 2013, que o governo não poderia negar serviços àqueles que não possuíam o cartão Aadhaar, já que é voluntário.

Desde então, no entanto, entidades públicas e privadas o exigem por seus serviços. “É uma nova forma de escravidão por meio de perfil e controle tecnológico”.

A raiz do programa Aadhaar é a tecnologia biométrica: possui uma natureza probabilística e, portanto, possui erros de autenticação. “Nossos direitos não podem depender de algoritmos ”, resume Krishna.

“Os juízes sempre reconheceram que o projeto levantou dúvidas constitucionais e insistiram que não é obrigatório. Mas as ordens são violadas mesmo pelo executivo “, explica Usha Ramanathan, advogado que recebeu o prêmio Human Rights Hero (2018) por seu litígio contra a rede biométrica.

Em 2016, o governo redigiu um projeto de lei específico de Aadhaar para substituir a ausência normativa de privacidade, proteção de dados ou comércio eletrônico dentro de uma estrutura que, segundo Ramanathan, aborda o “modelo americano de “laissez-faire” em vez do modelo europeu de salvaguarda de direitos.

Declarada inconstitucional pelo Supremo Tribunal Federal, a proposta foi aprovada por decreto no início de 2019 e até o ministro das Finanças, Nirmala Sitharaman, anunciou, dias atrás, o uso potencial do sistema para transações bancárias.

“A decisão diz literalmente, que o impacto permitiria a exploração comercial de informações biométricas e demográficas por entidades privadas. Deveríamos ser mais claros?” Pergunta Ramanathan, que critica “o processamento de dados como se fosse mercadoria”.

Mas, é exatamente isso que as pessoas se tornaram para governos e empresas de tecnologia: objetos de desejo por seus dados com o objetivo de controlar e microgerenciar a vida de todos.

Então, o que podemos esperar para o futuro próximo quando se trata do papel que a tecnologia desempenhará?

Sentir vertigem, desconfiança e respeito por todas as mudanças que estão acontecendo é lógico. Acima de tudo, porque muitos atores relevantes dessas indústrias não poupam esforços para divulgar suas advertências.

O criador do Creative Commons, Richard Stallman, diz que “os celulares são o sonho de Stalin, porque emitem um sinal de localização a cada dois ou três minutos. E, ainda pior, um de seus processadores possui uma porta de entrada universal que os transforma em dispositivos de escuta que nunca desligam. “

Enquanto isso, Elon Musk adverte sobre inteligência artificial: “Eu sou contra regras restritas. Mas, em inteligência artificial, precisamos de tais regras: é um risco para nossa civilização. Os pesquisadores acreditam que são mais espertos que a inteligência artificial, mas eles estão enganados.”

Niall Ferguson, historiador do Instituto Hoover (Stanford) e professor de Harvard, diz que “as redes sociais funcionam incentivando a divulgação de notícias falsas e opiniões extremas, pois é o que mais atrai a atenção dos usuários e o que iniciou o processo de polarização política na maioria das democracias.”

Yuval Noah Harari diz que “criamos máquinas capazes de fazer coisas que seus criadores não entendem”. E isso afetará a nossa saúde e o nosso trabalho. “Quando as pessoas vivem 150 anos e os robôs fazem a maior parte do trabalho, uma classe social inútil aparecerá”. E acrescenta: “O Google, ou alguma empresa desse estilo, tomará as principais decisões sobre saúde, sobre crianças ou sobre nós. O mesmo pode acontecer em outros campos da vida, até mesmo na vida romântica. Se um algoritmo monitora você o tempo todo, ele o conhece melhor que você mesmo.

Nick Bostrom, do Instituto para o Futuro da Humanidade e do Centro de Pesquisa em Estratégia de Inteligência Artificial da Universidade de Oxford, alerta que “se a inteligência artificial acabar sendo capaz de realizar a maior parte ou todo o nosso trabalho intelectual melhor do que nós, teremos em nossas mãos a última invenção da humanidade”.

Silvio Micali, professor e diretor associado do Departamento de Engenharia Eletrônica e Ciência da Computação do Instituto de Tecnologia de Massachusetts (MIT), explica sobre o bitcoin: “O Bitcoin é uma receita para o desastre. Está absolutamente condenado. Precisamos de um modelo diferente. ”

Vincent Mosco, professor emérito de Sociologia da Queen’s University em Kingston, Ontário, que dedicou sua vida a analisar as transformações na comunicação e na mídia, diz que “a computação em nuvem é um perigo para a liberdade na Internet”.

Mas é Nicholas Carr, disseminador e tecnólogo, que nos alerta sobre o que ele acha que é a pior ameaça: “A visão do Google da mente humana é industrial”. E acrescenta: “Google e outras empresas minam nossa capacidade de pensar profundamente, crítica e conceitualmente, nos levando a um pensamento superficial e longe do rigor”.

Tal advertência é semelhante à do Dr. Robert Epstein, que alertou o Congresso dos EUA sobre a capacidade do Google de redesenhar a humanidade.

Many people like you read and support The Real Agenda News’ independent, journalism than ever before. Different from other news organisations, we keep our journalism accessible to all.

The Real Agenda News is independent. Our journalism is free from commercial, religious or political bias. No one edits our editor. No one steers our opinion. Editorial independence is what makes our journalism different at a time when factual, honest reporting is lacking elsewhere.

In exchange for this, we simply ask that you read, like and share all articles. This support enables us to keep working as we do.