Os dilemas éticos da inteligência artificial

Será possível manipularmos o desejo de sede ou de fome, de alguém, baseado no comercial que ele recebe em seu smartphone? Será possível alterar o DNA humano para criarmos uma “super raça”? Um carro, sem motorista, ao antever uma colisão, deve dar mais valor à vida de um pedestre ou a de um ciclista? Sua atividade física monitorada por smartwatch pode ser utilizada em seu desfavor, na justiça, em uma ação contra um plano de saúde? Drones autônomos poderão ser responsabilizados, judicialmente, se utilizados como detetives para vigiar a vida de um ser humano e puni-lo se este se comportar de forma inadequada as regras sociais do momento?

Quer escutar este artigo via podcast no spotify ? Clique Aqui !

Dilemas éticos, do ser humano, acontecem quando se faz necessário tomar decisões difíceis levando em conta os valores morais de uma pessoa e cujas consequências podem impactar na vida de terceiros. A ética é o campo da filosofia que se dedica a entender e refletir sobre as ações humanas e a tentativa de classificá-las enquanto certas ou erradas.

Acontece que a filosofia nos trazia uma premissa, até então, inquestionável: A ética é natural do ser humano. Porém, a partir da evolução tecnológica, e principalmente, com a proliferação de aplicações baseada em algoritmos de inteligência artificial(IA) este princípio tornou-se relativo, já que a concentração da evolução tecnológica na mão de poucos pode estar criando a ética humana baseada no interesse de uma minoria detentora de um poder computacional além do nosso tempo.

E isso revoluciona a humanidade, colocando em xeque, inclusive sua existência.

Estas implicações éticas geram de imediato uma viagem ao futuro. Talvez nem tão distante, pois várias soluções baseadas em inteligência artificial já estão em uso e geram temor e desconfiança por parte de alguns. 

E isso, por si só, se realidade, é um passo muito rápido para aumentarmos o preconceito humano. Será que, policiais do futuro, robôs autônomos, que traçam elos entre suspeitos e suas ações, saberão diferenciar um criminoso de uma pessoa íntegra cumpridora de suas obrigações legais exigidas pela sociedade vigente? Teremos transparência e controle dos algoritmos na hora de uma seleção para vagas de emprego onde concorrem candidatos de diferentes raças e culturas religiosas? Julgamentos de processos comuns poderão ser realizados por juízes digitais baseado em históricos de aprendizado de casos anteriores baseados somente em IA?

Infelizmente, a maior parcela da humanidade ainda entende que tudo isso é tema de ficção. Para cada um dos exemplos acima não é preciso ir muito longe para encontrarmos iniciativas sólidas já em experimentação. Exatamente por isso, as tecnologias de segregação avançam de forma exponencial e surgem leis preliminares, como a GPDR ( general protection data regulation ) ou a LGPD ( Lei geral de proteção de dados) para tentar frear e reduzir o poder computacional que se estabelece na mão de poucos. O jogo do poder digital está com quem liderar e controlar os algoritmos e dados. Só alguns poucos o farão. E não estamos falando de países ou governos, mas sim, de corporações. Estas poderão se tornar mais fortes do que vários países unidos e estabelecermos um novo modelo de sociedade futura. Melhor ou pior, não sabemos ainda.

Talvez a humanidade, como citado pelo historiador Israelense, Yuval Harari, em um ou dois séculos, baseado nas premissas acima, realmente não tenha mais uma divisão por classes, mas apenas duas espécies: a primeira, a minoria, que controla os dados, os algoritmos e a própria vida (decide quem e quando nasce, cresce ou morre) e a maioria, os escravos digitais, uma massa orgânica, sem direitos, sem futuro, sem certeza da sua própria existência, sujeita a todo tipo de experimento e aos caprichos dos ditadores digitais.

Quem serão estes ditadores digitais? Que poderes exercerão ? A que leis estarão submetidos? Que leis criarão? Serão humanos ou serão entes cibernéticos ? a raça humana ainda prevalecerá no planeta ? Teremos ainda um sistema político ?

A OCDE ( Organização para a Cooperação e Desenvolvimento Econômico), entidade que inclui os países mais ricos do mundo e na qual o Brasil pleiteia ingresso, está tão preocupada com o tema que, em maio de 2019, anunciou os seus princípios para o desenvolvimento de inteligência artificial (IA).

Ao todo, 42 países são signatários do documento — e o Brasil é um deles.

Um dos primeiros princípios é que a inteligência artificial deve beneficiar as pessoas e o planeta para crescimento inclusivo, desenvolvimento sustentável e bem-estar. O documento ainda pede que a tecnologia respeite as leis, direitos humanos e valores democráticos. O documento da OCDE não tem valor legal. Mas serve como um norte para países que fazem parte da organização e pretendem trabalhar no desenvolvimento da IA estabeleçam entendimentos mínimos e comuns sobre o que fazer e o que não fazer dentro dos seus territórios.

Digo, repito e reafirmo: O verdadeiro “tsunami legal” sobre o mundo digital virá a partir destas diretrizes da OCDE!

É aqui que acontece a verdadeira batalha de poder para as próximas décadas. A LGPD é somente a ponta do iceberg. O mundo precisa, urgentemente, de mecanismos de controle e atuação, além das fronteiras territoriais, implementados e de aplicação prática e ágil, para evitarmos que os ditadores digitais assumam o controle sob a espécie humana e simplesmente coloquem em risco a nossa sobrevivência.

Já vemos hoje, de forma explícita, em noticiários diários, a disputa pela tecnologia 5G entre uma nação contra uma corporação. É a ficção se tornando realidade.

De forma complementar, através de outros princípios, a OCDE estabeleceu que para o desenvolvimento da IA deva haver transparência e divulgação responsável em torno dos sistemas de IA para garantir que as pessoas entendam quando estão se envolvendo com elas e possam desafiar os resultados. Os sistemas de IA devem funcionar de maneira robusta, segura e protegida durante toda a vida útil, e os riscos potenciais devem ser avaliados e gerenciados continuamente. Por último, que as organizações e indivíduos que desenvolvem, implantam ou operam sistemas de IA devem ser responsabilizados pelo seu bom funcionamento, de acordo com os parâmetros acima.

       O que mais chama a atenção no documento da OCDE, no entanto, são as recomendações para os governos e o que devem fazer nos próximos anos. São 5(cinco) grandes diretrizes:

               a)Investimentos em pesquisa e desenvolvimento de IA: Os governos devem considerar o investimento público a longo prazo e incentivar o investimento privado, P&D, que se concentrem em questões técnicas desafiadoras e em implicações sociais, legais, políticas e éticas relacionadas à IA bem como proteção de dados e a privacidade, objetivando uma IA isenta de preconceitos inapropriados.

       b)Promoção de um ecossistema digital para IA: Os governos devem promover o desenvolvimento e o acesso a um ecossistema digital para IA confiável. Tal um ecossistema inclui, em particular, tecnologias e infraestrutura digitais, e mecanismos para compartilhar o conhecimento da IA, conforme apropriado. Nesse sentido, os governos devem considerar a promoção de mecanismos, para apoiar o compartilhamento seguro, justo, legal e ético de dados.

       c)Moldar um ambiente com políticas de desenvolvimento favoráveis a IA: Os governos devem promover um ambiente seguro e controlado, de testes, que apoiem uma transição ágil do estágio de P&D para o estágio de implantação e operação de sistemas de IA confiáveis. Devem revisar e adaptar, conforme apropriado, suas estruturas, políticas e regulamentos mecanismos de avaliação aplicados a sistemas de IA para incentivar a inovação e a competição por IA confiável.

       d)Cooperação internacional para IA confiável: Os governos, incluindo os países em desenvolvimento e as partes interessadas, devem cooperar ativamente para avançar esses princípios e avançar na administração responsável de IA confiável. Os governos devem trabalhar juntos na OCDE e em outros foros globais e regionais para promover o compartilhamento de conhecimentos de IA, conforme apropriado. Devem incentivar a cooperação internacional, intersetorial e abrir iniciativas de várias partes interessadas para reunir conhecimentos de longo prazo em IA.

       e)Fortalecer a capacidade humana e preparar a transformação do mercado de trabalho: Os governos devem trabalhar em estreita colaboração com as partes interessadas para se preparar para a transformação do mundo do trabalho e da sociedade. Eles devem capacitar as pessoas a usar e interagir efetivamente com os sistemas de IA em toda a variedade de aplicativos, inclusive equipando-os com as habilidades necessárias. Os governos devem tomar medidas, inclusive por meio do diálogo social, para garantir uma transição justa para trabalhadores como a IA é implantada, como através de programas de treinamento ao longo da vida profissional, suporte para os afetados pelo deslocamento e acesso a novas oportunidades no mercado de trabalho. Os governos também devem trabalhar em estreita colaboração com as partes interessadas para promover o uso responsável da IA no trabalho, melhorar a segurança dos trabalhadores e a qualidade dos empregos, promover o empreendedorismo e produtividade e garantir que os benefícios da IA sejam compartilhados de maneira ampla e justa.

               Fica claro, na última diretriz, que não se trata mais de um argumento acadêmico de que empregos serão ceifados aos milhões. É apenas uma constatação evidente e clara. As consequências para uma massa de profissionais que não tem a qualificação necessária e um mínimo de pensamento computacional serão desastrosas aumentando o abismo tecnológico, social e econômico entre nações ou espécies, como cita Harari, se nada for feito.

               Se realmente as recomendações da OCDE forem, minimamente, coordenadas e implementadas, talvez, muitos dos dilemas éticos que a IA nos apresenta sejam amenizados ou extintos e as consequências previsíveis e catastróficas para uma grande parte da população mundial seja atenuada. 

               Novas leis surgirão, algumas para bloquear este movimento, outras para acelerar. O tempo nos dirá que caminho a humanidade escolherá para si. O certo é que comportamentos humanos serão adaptados a uma realidade onde o controle das informações, opiniões e atos humanos serão cada vez previsíveis, vigiados e punidos, em formatos legais, provavelmente digitais, completamente inovadores, já que as necessidades dos humanos do século XXII e XXIII ainda estão distantes na nossa compreensão atual.   

Quer escutar este artigo via podcast no spotify ? Clique Aqui !

Até o próximo artigo e bons negócios a todos !