Após mais de um ano de debates, o Senado aprovou ontem (10/12) o Projeto de Lei nº 2.338/2023, que tem como objeto a regulação do uso de inteligência artificial, proposto pelo Senador e Presidente do Congresso Nacional Rodrigo Pacheco (PSD-MG), nos termos do texto substitutivo apresentado por seu relator, o Senador Eduardo Gomes (PL-TO).
O Projeto de Lei, já analisado pelo CGM Advogados em post passado (link aqui), havia sido aprovado de forma consensual pela Comissão Temporária Interna sobre Inteligência Artificial no Brasil (“CTIA”) na última quinta-feira (05/12), após um trabalho complexo que envolveu a análise de ao menos 86 emendas. Dessas, apenas 27 foram aprovadas na íntegra.
Dentre os destaques do Projeto de Lei aprovado, que cria o Sistema Nacional de Regulação e Governança de Inteligência Artificial, citamos:
- Grau de risco: a proposta prevê que desenvolvedores, fornecedores ou aplicadores de sistema poderão ou deverão (no caso de sistemas generativos e de propósito geral) realizar uma avaliação preliminar de riscos, com base nas finalidades e impactos dos sistemas de IA sobre a vida humana e direitos fundamentais;
- ANPD, regulação e penalidades: a Agência Nacional de Proteção de Dados (“ANPD”) foi prevista como órgão responsável pela imposição de multas previstas em até R$ 50 milhões de reais, ou de 2% do faturamento bruto das empresas que infrinjam as normas previstas no Projeto de Lei. Além disso, a ANPD também será responsável por expedir normas sobre as formas e requisitos de certificação, os procedimentos da avaliação de impacto algorítmico e para a comunicação de graves incidentes;
- Direitos autorais: deverá ser feita a remuneração de titulares das obras utilizadas para treinamento de novos sistemas;
- Pessoas físicas: (i) para sistemas que façam identificação biométrica, será garantida a proteção contra discriminação direta, indireta, ilegal ou abusiva; (ii) jurisdicionados terão direito à explicação e à revisão humana das decisões que tiverem impacto jurídico relevante; e (iii) haverá o fomento ao desenvolvimento de programas de treinamento e capacitação contínua, promovendo a valorização e o aprimoramento profissional de trabalhadores; e
- Liberdade de expressão e integridade da informação: foi suprimido trecho que associava como de responsabilidade da IA generativa a integridade da informação, pois tal previsão poderia funcionar como mecanismo para o controle da liberdade de expressão e do acesso à informação.
O Projeto de Lei também prevê uma lista de sistemas de inteligência artificial considerados de alto risco e, portanto, sujeitos à regulamentação mais rígida, que inclui os seguintes, conforme mencionado no site do Senado Federal:
- veículos autônomos;
- controle de trânsito e gestão de abastecimento de água e eletricidade quando houver perigo para a integridade física das pessoas ou risco de interrupção dos serviços de forma ilícita ou abusiva;
- seleção de estudantes para acesso à educação e progressão acadêmica;
- tomada de decisões sobre recrutamento, avaliação, promoção e demissão de trabalhadores;
- avaliação de critérios para aferir a elegibilidade a serviços e políticas públicas;
- investigação de fatos e aplicação da lei quando houver riscos às liberdades individuais, no âmbito da administração da justiça;
- Gestão de prioridade em serviços de emergência, como bombeiros e assistência médica;
- estudo analítico de crimes;
- diagnósticos médicos;
- controle de fronteiras;
- reconhecimento de emoções por identificação biométrica;
- análise de dados para prevenção da ocorrência de crimes
O Projeto de Lei foi submetido à análise e aprovação pela Câmara dos Deputados. Se aprovado, o projeto de lei seguirá para sanção da Presidência da República e posteriormente convertido em lei. Continuaremos acompanhando o assunto e seus desdobramentos práticos.
Recomendados pelo LinkedIn
Brazilian Bill regulating the use of Artificial Intelligence is approved by Senate and goes to the Chamber of Deputies
After more than a year of debates, the Senate yesterday (10) approved Bill No. 2.338/2023, which aims to regulate the use of artificial intelligence, proposed by Senator and President of the National Congress Rodrigo Pacheco (PSD-MG), under the terms of the substitute text presented by its rapporteur, Senator Eduardo Gomes (PL-TO).
The Bill, already analysed by CGM Advogados in a previous post (link here), was approved by consensus by the Internal Temporary Committee on Artificial Intelligence in Brazil (“CTIA”) last Thursday (05), after a complex process that involved analysing at least 86 amendments. Of these, only 27 were entirely approved.
Among the highlights of the approved Bill, which creates the National Artificial Intelligence Regulation and Governance System, we mention:
- Degree of risk: the proposal provides that system developers, suppliers or applicators may, or must (in the case of generative and general-purpose systems), carry out a preliminary risk assessment, based on the purposes and impacts of AI systems on human life and fundamental rights.
- ANPD, regulation and penalties: the National Data Protection Agency (“ANPD”) has been envisaged as the body responsible for imposing fines of up to BRL 50 million, or 2% of the gross turnover of companies that violate the rules set out in the Bill. In addition, the ANPD will also be responsible for issuing rules on certification forms and requirements, algorithmic impact assessment procedures and for reporting serious incidents.
- Copyright: the owners of works used for training new systems must be compensated.
- Individual guarantees: (i) for systems that make biometric identification, protection against direct, indirect, illegal or abusive discrimination will be guaranteed; (ii) jurisdictions will have the right to an explanation and human review of decisions that have a relevant legal impact; and (iii) the development of training and continuous qualification programs will be encouraged, promoting the appreciation and professional improvement of workers; and
- Freedom of expression and integrity of information: a section has been deleted that linked the integrity of information to the responsibility of generative AI, as this could act as a mechanism for controlling freedom of expression and access to information.
The Bill also provides for a list of artificial intelligence systems considered to be high risk and therefore subject to stricter regulation, which includes the following, as mentioned on the Federal Senate's website (link here):
- autonomous vehicles.
- traffic control and management of water and electricity supplies when there is a danger to people's physical integrity or a risk of unlawful or abusive interruption of services.
- selection of students for access to education and academic progression.
- making decisions on recruitment, evaluation, promotion and dismissal of workers.
- evaluating criteria to assess eligibility for services and public policies.
- investigating facts and applying the law when there are risks to individual freedoms, within the framework of the administration of justice.
- Priority management in emergency services, such as firefighters and medical assistance.
- analytical study of crimes.
- medical diagnostics.
- border control.
- emotion recognition by biometric identification; and
- data analysis for crime prevention.
The Bill has been submitted to the Chamber of Deputies for analysis and approval. If approved, the bill will go to the President of the Republic for sanction and then become law. We will continue to follow the discussions on this matter and its practical developments.
