Debates sobre regulação da Inteligência Artificial estão em alta no Brasil

A Comissão de Juristas do Senado apresentou uma proposta de substitutivo ao projeto de lei sobre Inteligência Artificial (IA) que se encontra em tramitação no Congresso. O novo texto, que, mesmo sendo considerado um avanço quando comparado ao anterior, é considerado rigoroso e abrangente demais, propõe recomendações que minimizem impactos causados por sistemas de IA.

Clama-se para que este substitutivo seja o ponto de partida do processo, abrindo espaço para maiores avanços, com novas rodadas de debate, levando em consideração os efeitos que possa ter sobre o emprego da Inteligência Artificial nas atividades econômicas, visando sobretudo as implicações sobre pequenas e médias empresas.

Para que a sociedade esteja diretamente envolvida nas decisões da nova proposta, faz-se necessário que os debates incluam especialistas e setores produtivos, com o objetivo de trazer o viés voltado para tendências tecnológicas e os impactos da adoção em benefício da sociedade, atratividade de investimentos e na competitividade das empresas.

Reputa-se fundamental que haja um processo de análise e contribuições de autoridades em outros campos de conhecimento, em especial cientistas da computação, matemáticos, pesquisadores e outros profissionais que, em seu cotidiano, lidem com diferentes modelos e competências de Inteligência Artificial. O favorecimento da mineração de dados é uma das recomendações positivas do texto substitutivo, uma vez que pode ter maior impacto no mercado. 

A proposta apresentada aborda uma perspectiva de governança que estabelece a responsabilidade em caso de descumprimento da lei, a obrigatoriedade da divulgação sobre o uso da IA e a defesa dos direitos humanos, garantindo que os algoritmos não incentivem formas de discriminação. Para além das abordagens interessantes, encontram-se oportunidades de aprimoramento, a partir das perspectivas de especialistas.

Destaca-se, entre as mais de 900 páginas do relatório, o objetivo de proteger os direitos fundamentais, garantindo a implementação de sistemas seguros e confiáveis em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico. Todavia, ao categorizar os riscos excessivos, traz pontos polêmicos relacionados ao social scoring e o uso de identificação biométrica em espaços públicos, sendo estes os pontos mais sensíveis.

Portanto, uma das principais críticas ao relatório se dá pelo distanciamento da visão dos juristas em relação à aplicação dos sistemas de IA, tendo em vista que faria mais sentido uma associação entre risco, interpretabilidade e explicabilidade dos modelos. Entende-se que faria sentido a limitação do uso de alguns modelos de inteligências artificiais em atividades de alto risco, ou, ter a explicabilidade como requisito para uso geral de IA. 

Considerando os avanços tecnológicos constantes e velozes, alguns cenários propostos pelos especialistas na ciência da IA afirmam que essa tecnologia estará presente em momentos como processos seletivos de emprego, ou seja, cenários que oferecem maiores riscos, sendo necessário calibrar de forma mais intensa o peso da lei, medindo o impacto algorítmico de um risco coletivo para a sociedade.

Alguns direitos dos indivíduos que são diretamente afetados pelos sistemas de Inteligência Artificial são:

– Direito à informação prévia quanto a interações com sistemas de IA;

– Direito a uma explicação sobre a decisão, recomendação ou previsão tomada por esse sistema;

– Direito de contestar decisões ou previsões de IA que produzam efeitos jurídicos ou impactem de maneira significativa os interesses do afetado;

– Direito à determinação e participação humana em decisões, levando-se em conta o contexto e o estado-da-arte de desenvolvimento tecnológico;

– Direito à não discriminação e correção de vieses discriminatórios diretos, indiretos, ilegais ou abusivos;

– Direito à privacidade e proteção de dados pessoais nos termos da legislação pertinente.

Uma abordagem baseada em accountability e complementada por códigos de conduta setoriais também pode ser eficaz para assegurar esses direitos fundamentais no momento da associação dos requisitos aos sistemas de alto risco, sendo preciso incorporar, também, legislações já existentes, como a Lei Geral de Proteção de Dados e o Marco Civil da Internet. 

A Coalizão Direitos da Rede diz que a maior falha do substitutivo envolve o uso de identificação por biometria, em especial o reconhecimento facial, que deve ser precedido de lei federal sobre o tema. Com a ausência de uma proibição geral (visando a segurança pública), o novo PL está ao lado oposto de campanhas que pedem pelo banimento do uso da ferramenta, que envolvem motivações desde o racismo estrutural à seletividade do sistema penal brasileiro. 

Outra crítica feita pela Coalizão dá-se acerca da gradação de riscos, por ser considerada branda, afirmando que o texto novo do projeto utiliza apenas termos que recomendam que alguns serviços sejam evitados ou utilizados com cautela, sem contar com proibições específicas, abrindo margem para a adoção de tecnologias perigosas à integridade física de indivíduos ou ao exercício de direitos. Isso se torna ainda mais grave quando relacionado a sistemas para policiamento, prisões em flagrante, armas letais e reconhecimento de emoções.

A Comissão de Juristas argumenta que a proposta está equilibrada, sem fomentar punições e mantendo a proporcionalidade de sanções, buscando que os desenvolvedores e fornecedores de IA enxerguem na lei mais abrangente um estímulo para refletir em ética e responsabilidade nos sistemas. De acordo com a Comissão, as soluções e obrigações são graduais e vão de acordo com o grau de risco apresentado.

Posto que a comissão de juristas não possui atribuição para participar de processos legislativos, cabe ao presidente do Senado dar continuidade à tramitação do substitutivo. Entretanto, é necessário que o debate seja mais aprofundado e busque um embasamento multisetorial.

Fonte: The Shift