Debates atuais sobre Inteligência Artificial

Na semana passada, pesquisadores de Universidade de Surrey, no Reino Unido, conseguiram registrar uma patente em nome de uma Inteligência Artificial chamada de DABUS. Esse fato coloca em evidência a urgente necessidade de repensarmos as leis e marcos regulatórios que temos. Todas as legislações e regulamentos do mundo assumiram como premissa, óbvia, que existia apenas uma classe de entes inteligentes no planeta, no caso a raça humana. Com o crescimento da sofisticação dos sistemas com Inteligência Artificial, essa premissa pode deixar de ser verdadeira e exigir uma atualização das nossas normas e leis.

O mundo todo está discutindo as questões éticas e legais da Inteligência Artificial. O dilema que se coloca para os legisladores é estabelecer normas gerais o suficiente para não impedir novas aplicações possivelmente revolucionárias e, ao mesmo tempo, proteger a vida e definir responsabilidades para os resultados do uso de sistemas inteligentes.

Se a legislação for muito restritiva, podemos inibir o desenvolvimento de soluções que venha a trazer reais benefícios para a sociedade. Por outro lado, uma legislação muito fraca, ou inexistente, permitirá que sistemas inteligentes cometam crimes sem que se possa atribuir a culpa a alguém, ou alguma coisa.

Imagine se um carro andando em modo autônomo provocar um acidente com vítimas. Quem deverá ser responsabilizado: O Motorista, que estava no carro e não fez nada apara evitar o acidente? O fabricante que produziu o carro com um software que não previu a situação do acidente? O programador que desenvolveu o software? O analista que treinou a rede neural usada no sistema? O próprio software? Vejam que esse é um caso extremo, mas que em breve deverá ser um tanto comum.

A OCDE elaborou "Recommendation of the Council on Artificial Intelligence", para que seus membros implementem seu conteúdo visando dar confiança a todos os interessados no tema, sejam usuários, desenvolvedores e fabricantes.

Neste documento são apresentadas diretrizes, ou princípios, para a criação de padrões internacionais que garantam que os sistemas inteligentes sejam robustos, seguros, justos em confiáveis. Com isso, os benefícios advindos dessa nova tecnologia poderão beneficiar toda a sociedade.

Os esforços no Brasil para regulamentar a IA contam com uma consulta pública aberta do MCTI, com o PL 21/2020, de autoria do Dep. Ângelo Bismarck e relatoria da Dep. Luisa Canziani, e o PL 872/2021, do Sen. Veneziano Rêgo e relatoria do Sem. Eduardo Gomes. Essas iniciativas citam as mesmas diretrizes da OCDE, como forma de incluir o Brasil nos mesmos padrões adotados pelo outros países.

Os princípios definidos pela OCDE são:

1. Crescimento inclusivo, desenvolvimento sustentável e bem-estar: ou seja, que os benefícios do desenvolvimento de IA devem ser voltados para as pessoas humanas e o planeta.

2. Valores centrados no ser humano e equidade: princípio relativo aos direitos fundamentais e humanos, valores democráticos, Estado de Direito e diversidade.

3. Transparência e rastreabilidade: transparência refere-se à disponibilização de dados que permitam aos usuários entenderem quando estão tratando com sistemas de IA e não com seres humanos. Já a rastreabilidade destina-se a mitigar o risco de tornar difícil, ou até impossível, a auditoria do processo de tomada de decisão (previsão ou recomendação) feita pelo sistema inteligente.

4. Robustez, segurança e proteção: princípio para assegurar que o sistema inteligente irá operar em toda sua vida útil de forma segura e permitindo a investigação do conjunto de dados usado no treinamento e na utilização do sistema.

5. "Accountability": princípio de responsabilização dos os atores engajados no desenvolvimento de sistemas de IA

Com base nesses princípios deve-se exercer a supervisão e/ou intervenção humana, sempre que necessário, como o desligamento durante o funcionamento e restrição das capacidades operacionais em determinadas circunstâncias, de forma a garantir a segurança dos indivíduos e da sociedade.

Naturalmente os sistemas inteligentes deverão submeter-se à todas as legislações de proteção de dados pessoais e de privacidade a que todos nós estamos sujeitos.

A cada dia encontramos mais uma novidade usando IA. Devemos incentivar a criação de novos produtos e serviços inteligentes e fazer com que esses avanços tragam reais benefícios para a sociedade sem riscos para s seres humanos.