Debates
19 de fevereiro de 2024

Regulação da Inteligência Artificial: como equilibrar inovação e riscos?

Neste webinar, conversamos com o senador Eduardo Gomes; o diretor jurídico do Google, Daniel Arbix; e a pesquisadora em inteligência artificial, Dora Kaufman.

O Brasil precisa debater uma nova legislação para regular a Inteligência Artificial (IA), mas isso deve ser feito com toda a cautela porque, se houver pressa na tentativa de impor controles sobre uma tecnologia que evolui muito rapidamente, o resultado pode ser não somente ineficaz ou inócuo, como prejudicial ao ambiente de inovação no país. Deve-se também evitar copiar modelos em discussão em outros países e construir uma lei a partir do diálogo com todas as partes envolvidas.

Paralelamente às discussões em curso no Senado Federal e na Câmara dos Deputados, é possível avançar em regulações setoriais, no âmbito das agências reguladoras ou de instituições como o Banco Central e o Tribunal Superior Eleitoral, que possam fornecer subsídios para a consolidação de uma legislação mais ampla no médio prazo.

“O Congresso avança quando aprova uma boa legislação, mas avança ainda mais quando deixa de aprovar uma legislação ruim. Neste quase um ano em que tenho enfrentado o desafio de relatar matéria tão importante, cada vez mais me conscientizo de que a Inteligência Artificial é um tema que derruba certezas”, disse o senador Carlos Eduardo Torres Gomes, relator da Comissão Temporária sobre Inteligência Artificial no Brasil (CTIA), neste webinar realizado pela Fundação FHC.

“Diante da complexidade e da rapidez com que a IA vem evoluindo, o Senado não deve estipular prazos rígidos para aprovar uma nova lei. O desafio é criar um novo modelo de legislação, que seja viva e possa se adaptar às rápidas mudanças tecnológicas em curso. Do contrário, será uma lei inútil, desconectada da realidade da IA no mundo e no Brasil e prejudicial ao desenvolvimento do país”, disse Gomes.   

“Achei interessante a fala do senador, que demonstra estar menos preocupado com prazos rígidos e definições rápidas e mais interessado no processo e na substância do debate. Quanto mais rica, aberta e diversa for a discussão no Congresso Nacional, maior a chance de um resultado final positivo”, disse Dora Kaufman, professora do Programa de Tecnologias da Inteligência e Design Digital (TIDD) da Faculdade de Ciências Exatas e Tecnologia da PUC-SP e uma das principais estudiosas do tema no Brasil.

“A solução não está em aprovar rapidamente um projeto de lei que regule a IA, mas em envolver a sociedade, os governos, as empresas, as universidades, os centros de pesquisa e o terceiro setor em um amplo debate sobre os diversos aspectos relacionados à Inteligência Artificial. Com a participação de todos, podemos nos familiarizar com o assunto, que é muito novo, analisar os riscos e construir juntos um novo arcabouço legal”, defendeu Kaufman, autora de vários livros, entre eles “A inteligência artificial irá suplantar a inteligência humana?” e “Desmistificando a Inteligência Artificial”.

“O Brasil tem experiências fascinantes de participação da sociedade na criação de leis muito importantes para a área de tecnologia, como o Marco Civil da Internet (2014) e a Lei Geral de Proteção de Dados Pessoais (2018). A Inteligência Artificial já está na caixa de ferramentas de todo o mundo e precisa ser bem regulada para se tornar uma força poderosa para o progresso e o desenvolvimento tecnológico do país”, lembrou Daniel Arbix, diretor jurídico do Google no Brasil

“Ao debater a regulamentação da Inteligência Artificial, é fundamental levar em conta os riscos sociais e econômicos associados à não inovação, porque uma lei mal desenhada e pouco flexível pode fazer com que haja menos espaço e concorrência para a inovação no Brasil, impedindo que os brasileiros e as brasileiras e o país possam tirar proveito dos benefícios da IA, que não são poucos”, alertou Arbix, doutor e mestre em Direito pela Faculdade de Direito da Universidade de São Paulo, com diploma LL.M. (Law, Science & Technology) pela Stanford Law School. 

Senado quer aprovar marco este ano, mas relator diz que não há prazo definido

No ano passado, o Senado buscou consolidar pelo menos três Projetos de Lei que propõem regulamentar a IA no país. Para auxiliar nesse trabalho, em março de 2023, o presidente do Senado, Rodrigo Pacheco, criou uma comissão de juristas, presidida pelo ministro do Superior Tribunal de Justiça (STJ) Ricardo Villas Bôas Cueva, para analisar as diversas propostas em discussão no Brasil e no exterior, sobretudo na União Europeia. Foram promovidos um seminário internacional, quatro audiências públicas e 12 painéis para discutir os eixos temáticos do projeto: conceitos, compreensão e classificação de IA, impactos, direitos e deveres, accountability (prestação de contas), governança e fiscalização.

“Conseguimos, por unanimidade, aprovar um trabalho em uma comissão que congrega especialistas da mais alta qualidade, todos eles devotados ao estudo de áreas específicas. Seguimos a linha da média do que se pensa hoje no mundo quanto à regulação da inteligência artificial”, disse o ministro Cuevas, ao entregar o relatório final da comissão, com 900 páginas.

Em agosto passado, o Senado criou a CTIA para propor um substitutivo aos diversos projetos relacionados à Inteligência Artificial que tramitam na casa. Inicialmente, a comissão teria até dezembro para concluir seus trabalhos, mas esse prazo foi prorrogado até abril de 2024.

“No ano passado, convidamos representantes de diversos campos, como educação, saúde e segurança pública, e setores da sociedade para apresentar suas visões, mas a complexidade do tema mostrou que ainda precisamos ouvir outras instituições e pessoas. Existe a expectativa de que um novo marco seja aprovado no Senado nos próximos meses, a tempo de seguir para a Câmara dos Deputados e voltar ao Senado ainda este ano, mas prazos rígidos não devem prejudicar um debate amplo, verdadeiramente sintonizado com toda a complexidade da Inteligência Artificial”, explicou o senador Eduardo Gomes.

“A comissão de juristas lançou alguns fundamentos de um futuro Marco Legal da Inteligência Artificial. É preciso agora avançar e ampliar esse trabalho, ao incorporar o conhecimento de pessoas e instituições que lidam com a IA sob outras perspectivas, como arquitetos da informação, desenvolvedores e outros profissionais ligados à inovação. Confiamos nos legisladores e nos colocamos à disposição para ajudar a criar uma legislação baseada em evidências e no diálogo com todas as partes interessadas”, disse Daniel Arbix (Google). 

“A comissão de 18 juristas fez um trabalho importante, bastante inspirado na proposta de regulamentação que vem sendo debatida pela União Europeia (UE) desde 2018. Ocorre que o projeto europeu já passou por mudanças importantes desde então, sobretudo devido ao advento da Inteligência Artificial generativa (uso de IA para criar novos conteúdos, como texto, imagens, música, áudio e vídeos), como o ChatGPT, que exigiu um outro ponto de vista regulatório. O exemplo europeu mostra que a criação de uma regulamentação para a IA é um processo em permanente mudança e evolução”, disse Dora Kaufman. 

Em fevereiro de 2024, a Comissão Europeia (braço executivo da UE sediado em Bruxelas) anunciou ter chegado a um acordo provisório em torno de regras comuns para a aplicação e o uso da IA no bloco formado por 27 países. Este acordo, no entanto, deverá ser votado no Parlamento Europeu (Estrasburgo) nos próximos meses e ainda poderá sofrer modificações.

Kaufman propôs a criação de um Observatório da Inteligência Artificial para monitorar, de forma permanente e com um enfoque multidisciplinar, como essa nova tecnologia vem sendo aplicada e utilizada no Brasil. “A UE já tem um observatório desde 2018. O Brasil também precisa estudar os impactos, riscos e oportunidades relacionados aos usos da Inteligência Artificial a partir da nossa realidade e de nossos problemas e desafios”, disse a doutora em mídias digitais pela ECA-USP, com estágio sanduíche na Université Paris Sorbonne IV.

Nos Estados Unidos, o presidente Joe Biden assinou, em novembro de 2023, o primeiro decreto que regulamenta a Inteligência Artificial no país, sede das principais empresas que desenvolvem a tecnologia no mundo, entre elas Google, Microsoft e Meta, assim como milhares de startups, como a Open AI, dona do ChatGPT.

Regulamentação pode avançar no TSE e nas agências reguladoras

Os três palestrantes concordaram que, enquanto o Congresso Nacional discute o tema com a profundidade e a cautela necessária, é possível avançar na regulamentação da Inteligência Artificial em áreas específicas, como na Justiça Eleitoral, no sistema financeiro (sob a liderança do Banco Central), no setor de telecomunicações (Anatel) e na área da saúde (Anvisa), entre outras.

Segundo o senador Gomes, existe uma preocupação legítima quanto ao uso indevido da IA nas eleições municipais deste ano, mas a Justiça Eleitoral tem condições de definir normas e procedimentos para evitar abusos e monitorar as campanhas sem que, para isso, seja necessário acelerar a aprovação do marco regulatório para que entre em vigor antes de outubro, o que seria uma meta praticamente inviável.

“A IA é um novo tipo de arma que pode ser utilizada de maneira indevida ou mesmo com má-fé nas campanhas para prefeito, mas os tribunais regionais e o Tribunal Superior Eleitoral podem punir eventuais abusos com base na legislação eleitoral já existente. Não é o caso de apressar o debate no Senado e na Câmara dos Deputados por conta das eleições deste ano”, afirmou Gomes.

O relator da CTIA defendeu uma “sinalização mais propositiva por parte do governo federal como principal indutor de políticas públicas” e disse que Legislativo e Executivo devem buscar uma “relação mais construtiva e menos intoxicada pelas disputas políticas” no processo de elaboração do novo marco regulatório.

Gomes destacou que as agências reguladoras podem avançar na definição de normas específicas nas áreas e setores sob sua responsabilidade. “Existe hoje, sobretudo depois da pandemia de Covid-19, um consenso de que as agências reguladoras criadas no final dos anos 1990 (governo FHC), como a Anatel e a Anvisa, prestam bons serviços e dão razoável segurança ao cidadão. Elas têm hoje know how para regular novidades tecnológicas que surgem, como a Inteligência Artificial, nas áreas sob sua responsabilidade”, disse.

“É fato que já temos um conjunto de normas e regulamentações definidas por órgãos públicos independentes, como a Anatel e o Banco Central, que podem ser adaptadas para dar conta dos desafios mais urgentes relacionados à IA. Portanto, o processo de regulamentação pode avançar por caminhos paralelos, por meio de legislações setoriais e uma legislação mais ampla, que tem um tempo de maturação mais longo”, disse Dora Kaufman. 

A especialista alertou, no entanto, para o risco de dispersão do assunto em vários órgãos públicos da administração federal se não houver uma liderança por parte do Palácio do Planalto. “Assim como a Comissão Europeia tem liderado esse tema na UE, é importante que o governo federal assuma a liderança aqui também”, disse.

Já Daniel Arbix propôs que sejam criados o que ele chamou de um “sandbox” regulatório, em que os diversos players de determinado setor possam experimentar novas aplicações tecnológicas com maior liberdade e, apenas no caso de surgir um desdobramento perigoso, o órgão regulador responsável intervém. 

“Isso pode ser feito, por exemplo, no sistema financeiro, onde o Banco Central exerce um papel regulador excelente. Prova disso é o êxito de projetos como o Pix, que revolucionou a maneira como os brasileiros transferem dinheiro, e o Open Finance. O BC tem tido um papel fora da curva no desenvolvimento de novas tecnologias no setor bancário e de serviços financeiros inovadores. O momento exige ousadia”, disse o representante do Google.

Outros órgãos que, segundo os palestrantes, podem se beneficiar do uso de IA são o Procon (Fundação de Proteção e Defesa do Consumidor) e o Ministério Público. 

“A Inteligência Artificial é a principal tecnologia do século 21. Ela já está presente em nossa vida e não tem como resistir a seu avanço. O que devemos fazer é maximizar os benefícios e minimizar os danos. Uma equação nada simples. É disso que se trata”, concluiu Kaufman.

Otávio Dias é editor de conteúdo da Fundação FHC. Jornalista especializado em política e assuntos internacionais, foi correspondente da Folha em Londres e editor do site estadao.com.br.   

Patrocínio

Apoio