Pioneirismo em inovação ou em regulação, no contexto da inteligência artificial: o que é melhor?
Priscila Reis
Advogada Global de Governança de IA e Dados | Mestre em Tecnologias da Inteligência, com Ênfase em IA e Doutoranda | Pesquisadora em IA Responsável - Governança de IA - Ética em IA
Desde a adoção em massa da #inteligenciaartificial (IA) no final de 2022, motivada pelo lançamento do #ChatGPT, regular o uso e desenvolvimento da #tecnologia passou a ser prioridade para a comunidade global, ainda que as discussões mais relevantes sobre o tema tenham sido iniciadas alguns anos antes, a exemplo do primeiro esboço do AI Act da União Europeia (EU), divulgado em meados de 2021.
O Japão, que sempre se mostrou à frente do seu tempo nos quesitos desenvolvimento e tecnologia, definiu não haver direito de propriedade intelectual sobre a base de dados usada para treinar a IA, tornando o país ambiente fértil e desejável para empresas dedicadas ao desenvolvimento (e treinamento, é claro) de sistemas de #IAgenerativa, a bola da vez. Esse movimento pode contribuir, inclusive, para o aumento de documentos e textos em japonês, visando o treinamento das máquinas na língua local, o que pode ser visto como uma outra vantagem para o país.
Segundo Mohit Pandey, em artigo publicado no "Analytics India Mag", o atual primeiro-ministro japonês, Fumio Kishida, tem discutido com experts do setor sobre os riscos da tecnologia e a necessidade de se criar diretrizes para esse desenvolvimento - observando as questões de privacidade e cibersegurança -, além de demonstrar uma aproximação com a OpenAI , o que se nota a partir das iniciativas de @Sam Altman, CEO da empresa, no país.
Num caminho diferente, a China, que sempre esteve na disputa para assumir o posto de pioneiro quando o assunto é "tecnologia', tem encontrado dificuldade em correr para implementar sistemas de IA generativa no país, ao mesmo tempo em que tenta garantir que todas as regras de #censura na internet sejam seguidas, a fim de refletir os "valores socialistas", proibindo conteúdo que enfraqueça o poder do Estado e do Partido Comunista. É o que se extrai do projeto legislativo sobre o tema no país, mas que ainda não saiu do papel, mas já foi apresentado pela principal autoridade reguladora de tecnologia da China, a "Cyberspace Administration of China" ou "CAC".
Por ora, o governo chinês segue proibindo os avanços tecnológicos na área, quando não estiverem alinhados com os seus objetivos e com a visão do Partido. Foi assim com a OpenAI, motivo pelo qual o ChatGPT segue proibido no país, e tem acontecido o mesmo com empresas locais que estão tentando se adaptar, a exemplo do ChatYuan. Até o Baidu, uma espécie de "Google chinês", que lançou o "Ernie", sua versão de chatbot baseado em IA generativa, tem tido dificuldade de consolidar essa aplicação no país, tamanhas as restrições, aliado às limitações da própria tecnologia, que pode entregar respostas imprevisíveis e/ou inverídicas. É o famoso impasse entre controle de informação (e regulação) versus liderança no campo da inteligência artificial.
Na UE, o AI Act vem ganhando novos contornos, e está cada vez mais próximo de ser implementado, embora ainda não esteja pronta a sua versão final. Esse projeto de lei pioneiro no setor, cuja abordagem é baseada no nível de risco que determinado sistema impõe para a sociedade, tem como principal objetivo, estabelecer diretrizes, princípios e mecanismos eficazes de proteção, em se tratando de uma tecnologia que evolui a passos largos (e com muito mais rapidez que os processos legislativos), sempre buscando estimular o uso e desenvolvimento de sistemas de IA responsáveis, sob o ponto de vista ético. A proposta busca resguardar direitos garantidos como segurança, privacidade, não-discriminação, transparência, supervisão humana, além de bem estar social e ambiental.
Buscando atualizar o projeto de lei para a realidade atual da tecnologia (leia-se, considerando os avanços dos últimos 8 meses), agora o AI Act da UE contempla regras específicas para uso e desenvolvimento de sistemas de IA generativa, que passam a ter requisitos de transparência, a exemplo da necessidade de indicar que um vídeo foi gerado com essa tecnologia, além de obrigações relacionadas a conteúdos ilegais. Também traz novas regras, com base no nível de risco que a IA pode criar. Assim, estariam proibidos sistemas de IA com um nível de risco inaceitável para a segurança das pessoas, como aqueles que realizam análise de pontuação social (situação corriqueira na China) ou outros usos discriminatórios, incluindo sistemas de identificação biométrica remotos em tempo real em espaços públicos, sistemas de reconhecimento emocional em várias áreas, e a coleta não direcionada de imagens faciais para criar bancos de dados de reconhecimento facial, devido a preocupações com direitos humanos e privacidade, dentre outros. Por outro lado, seriam considerados sistemas de alto risco aqueles usados para influenciar o voto dos eleitores.
Embora tenham havido atualizações importantes, considerando o contexto atual da tecnologia, o AI Act ainda não foi aprovado, e assim como ocorre na maioria dos processos legislativos em países democráticos, o rito, até a aprovação, costuma ser longo. Dessa forma, é muito provável que sejam incorporadas novas atualizações, à medida que novidades disruptivas como o ChatGPT se tornem palpáveis, numa espécie de "Jogo da Vida", onde você anda algumas casas para frente, e, às vezes, tem que dar alguns passos para trás, até conseguir alcançar a linha de chegada, que aqui seria a entrada em vigor da lei.
De qualquer sorte, a UE segue firme, caminhando rumo à criação de uma regulamentação que busca garantir o uso e desenvolvimento de sistemas de IA de forma segura e responsável.
Outros países também têm demonstrado preocupação sobre o tema, inclusive o Brasil, que tenta, ainda que de forma acanhada, tirar do papel o novo Projeto de Lei 2338/2023, seguindo os passos da União Europeia, e misturando pontos trazidos pela nossa lei de proteção de dados, a exemplo dos valores aplicados à título de penalidade e da necessidade de criação de uma autoridade nacional específica para tratar de IA.
Os Estados Unidos publicaram o "Blueprint for an AI Bill of Rights", documento que traz como base 5 princípios a serem observados quando do desenvolvimento, uso e implantação de sistemas de IA, a saber: i) segurança e efetividade dos sistemas; ii) proteção contra discriminação algorítmica; iii) privacidade e proteção de dados; iv) notificação e explicação; v) consideração e alternativas para humanos. Um ponto importante trazido pelo documento americano é a necessidade dos sistemas passarem por testes pré-implantação, identificação e mitigação de riscos, além do monitoramento contínuo para demonstrar o nível de segurança e eficácia dos mesmos.
A iniciativa é boa, no entanto, o documento serve apenas como diretriz, e ainda não existe projeto de lei concreto tramitando no país. Nos EUA, esse tipo de lei costuma ser criado, individualmente, pelos estados, ou são regras oriundas de órgãos específicos. É um modelo legislativo completamente diferente do Brasil, além de seguir o sistema do common law, ao invés do civil law.
Ao contrário do Japão, que afrouxou a proteção sobre a propriedade intelectual (criações/materiais incorporados a conjuntos de dados de IA não são protegidos por direitos autorais), se tornando o novo "paraíso para o machine learning", segundo Yann LeCun , atual Chief AI Scientist da Meta e um dos papas da #inteligênciaartificial, os Estados Unidos costumam ter uma abordagem super protetiva a tudo que tem a ver com copyright, e as leis sobre o tema devem seguir nesse sentido (é uma suposição!).
Recomendados pelo LinkedIn
Todos esses avanços proporcionados por tecnologias criam abismos entre países com posicionamentos distintos, polarizando ainda mais o mundo. As discussões acabam sempre indo para um dos lados. No caso da IA, de um lado, ficam os países pró inovação, menos restritivos sob o ponto de vista da regulação; e do outro lado, países pró regulação, mais restritivos em termos de inovação, priorizando direitos já consagrados. Essa polarização não é extrema, mas traça uma linha de tendência a ser seguida pelos países, de acordo com os seus objetivos e prioridades. A Índia, por exemplo, já se manifestou no sentido de que deve seguir a linha dos países que têm posicionamento semelhante ao seu, quando do estabelecimento de diretrizes e/ou regras para o uso e desenvolvimento de IA, principalmente sobre copyright e discriminação algorítmica.
É a dualidade moderna. Nos resta acompanhar as notícias, apertar os cintos e embarcar nessa grande jornada de conhecimento sobre as possibilidades e desafios que a disseminação da inteligência artificial impõem à sociedade!
Referências: