IA precisa ser regulada, alerta Castells; Senado tem projetos
A utilização das redes sociais por pessoas já muito polarizadas pode comprometer o debate democrático racional, levando a um mundo de desinformação, notícias falsas e manipulação de imagens e personagens pela inteligência artificial (IA). O alerta é do sociólogo e professor espanhol Manuel Castells, um dos palestrantes do Seminário Internacional Democracia e Novas Tecnologias, que o Senado vai promover, entre os dias 25 e 27 de março.
Castells diz que o mau uso da tecnologia se agrava em um momento no qual a humanidade se defronta com grandes problemas. Segundo o professor, o debate público tem se convertido em uma série de manipulações que provocam um efeito negativo da tecnologia sobre a democracia. Em entrevista à TV Senado, Castells diz que as tecnologias podem aumentar a crise da democracia. Ele cita o exemplo das eleições nos Estados Unidos e no Brasil, ocasiões nas quais a polarização e o uso das redes sociais ficaram muito evidentes.
O professor espanhol faz a ressalva de que as tecnologias não são a causa do problema, mas o “amplificam enormemente”. Para Castells, a origem da crise democrática é a falta de confiança nos políticos e nas instituições políticas. Ele aponta a regulação das redes sociais e do uso da inteligência artificial como uma possível saída.
— O problema é que as redes sociais estão controladas por oligopólios e, por conseguinte, teria que se impor por lei a essas empresas essa regulação. Em particular, hoje em dia, o mais importante é começar a regular seriamente a inteligência artificial. A questão aqui é a capacidade que tem a inteligência artificial de criar em nossas mentes um mundo totalmente artificial — afirmou.
De acordo com Castells, três quartos dos cidadãos não confiam em seus políticos, nem nas instituições políticas democráticas. Ele ainda informa que 77% dos pesquisados são a favor da democracia. No entanto, pondera o professor, as pessoas consideram que “a democracia em que vivem não é democracia”. Assim, como as pessoas já pensam que os políticos não são confiáveis, que a política democrática não é essa em que vivem em seu país, as redes sociais com toda essa desinformação ampliam enormemente a crise de legitimidade e, cada vez mais, pessoas reagem emocionalmente. Não acreditam nem na mídia, nem no que veem nas redes, porque cada um acredita na sua parte do que vê nas redes:
— Acredito que a tecnologia por si mesma não causa efeitos sociais e políticos. É como se utiliza a tecnologia, quem e para quem. Então, o que está ocorrendo é que na medida que os processos políticos se decidem, sobretudo na mente das pessoas, a capacidade tecnológica de fazer com que os processos tecnológicos de comunicação estejam embasados em visões fictícias da realidade, [fica] deformada em função dos interesses políticos e sociais.
Propostas
Atentos ao alerta de Castells, os senadores vêm apresentando vários projetos que tratam do uso da inteligência artificial. Para o senador Styvenson Valentim (Podemos-RN), autor do primeiro projeto apresentado no Senado sobre o tema (PL 5.051/2019), a inteligência artificial pode trazer grandes ganhos de produtividade na indústria e na prestação de serviço. No entanto, ressalva o senador, não se pode adotar a inteligência artificial sem uma regulação mínima. Styvenson também é autor do projeto que institui a Política Nacional de Inteligência Artificial, com o objetivo de estimular a formação de um ambiente favorável ao desenvolvimento de tecnologias em IA (PL 5.691/2019).
— A inteligência artificial pode aumentar as taxas de crescimento econômico, a produtividade e permitir a otimização do tempo das pessoas. É uma realidade que está aí e para a qual temos que atentar e articular esforços que envolvam governo, indústria e universidades. Nunca podemos perder de vista o valor do trabalho humano e principalmente o bem-estar de todos. A inteligência artificial deve estar a serviço da sociedade — explicou o senador, ao defender seu projeto no Plenário, em 2019.
As matérias de Styvenson tramitam em conjunto com várias outras propostas na Comissão Temporária Interna sobre Inteligência Artificial (CTIA). A CTIA foi criada em agosto do ano passado para analisar, no prazo de 120 dias, o anteprojeto apresentado em dezembro de 2022 pela Comissão de Juristas sobre Inteligência Artificial. Com base no texto dos juristas, o presidente do Senado, Rodrigo Pacheco, apresentou o PL 2.338/2023, que regulamenta o uso de IA. O texto cria regras para que os sistemas de inteligência sejam disponibilizados no Brasil, estabelecendo os direitos das pessoas afetadas por seu funcionamento. Também define critérios para o uso desses sistemas pelo poder público, prevendo punições para as eventuais violações à lei e atribuindo ao Poder Executivo a prerrogativa de decidir que órgão irá zelar pela fiscalização e regulamentação do setor. No final de 2023, a CTIA foi autorizada a funcionar até o dia 23 de maio deste ano. A comissão é presidida pelo senador Carlos Viana (Podemos-MG) e tem como relator o senador Eduardo Gomes (PL-TO).
Para Pacheco, o desenvolvimento e a popularização das tecnologias de IA têm revolucionado diversas áreas da atividade humana. Ele afirma que “as previsões apontam que a inteligência artificial provocará mudanças econômicas e sociais ainda mais profundas num futuro próximo”. Segundo o presidente, as proposições legislativas apresentadas indicam que o Senado reconhece a relevância da questão. Pacheco ainda registra que sua matéria “busca conciliar, na disciplina legal, a proteção de direitos e liberdades fundamentais, a valorização do trabalho e da dignidade da pessoa humana e a inovação tecnológica representada pela IA”.
O senador Randolfe Rodrigues (Sem partido-AP) é o primeiro signatário de uma proposta de emenda à Constituição que inclui, entre os direitos e garantias fundamentais, a proteção à integridade mental e à transparência algorítmica (PEC 29/2023). Randolfe argumenta que é consenso que mecanismos de inteligência artificial estão promovendo grandes mudanças propositivas no cotidiano social, acelerando procedimentos, unindo vontades e auxiliando na busca por soluções, sobretudo em plataformas de pesquisa virtual. Contudo, registra o senador, os avanços apontam para uma “fundada e real preocupação a respeito dos limites éticos e normativos a serem observados pela neurotecnologia, trazendo à tona, também, discussões e estudos cada vez mais frequentes sobre a dependência digital, em especial nas crianças e nos adolescentes”. A PEC está aguardando a designação de relator na Comissão de Constituição e Justiça (CCJ).
Projetos sobre IA que tramitam em conjunto na CTIA |
||
Número |
Autor |
Assunto |
| PL 2.338/2023 | Rodrigo Pacheco (PSD-MG) | Estabelece normas gerais de caráter nacional para o desenvolvimento, implementação e uso responsável de sistemas de IA |
| PL 21/2020 | Câmara dos Deputados (Deputado Eduardo Bismarck – PDT-CE) | Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil |
| PL 872/2021 | Veneziano Vital do Rêgo (MDB-PB) | Dispõe sobre os marcos éticos e as diretrizes que fundamentam o desenvolvimento e o uso da Inteligência Artificial no Brasil |
| PL 5.051/2019 | Styvenson Valentim (Podemos-RN) | Disciplina do uso da inteligência artificial no Brasil, estabelecendo princípios para seu uso |
| PL 145/2024 | Chico Rodrigues (PSB-RR) | Regula o uso de ferramentas de inteligência artificial para fins publicitários e coíbe a publicidade enganosa com uso da ferramenta |
| PL 146/2024 | Chico Rodrigues (PSB-RR) | Aumenta a pena para crimes contra a honra e prevê hipótese qualificada para o crime de falsa identidade, para quando houver a utilização de inteligência artificial para alterar a imagem de pessoa ou de som humano |
| PL 266/2024 | Veneziano Vital do Rêgo (MDB-PB) | Regulamenta o uso de sistemas de inteligência artificial para auxiliar a atuação de médicos, advogados e juízes |
| PL 5.691/2019 | Styvenson Valentim (Podemos-RN) | Institui a Política Nacional de Inteligência Artificial, com o objetivo de estimular a formação de um ambiente favorável ao desenvolvimento de tecnologias em IA |
| PL 3.592/2023 | Rodrigo Cunha (Podemos-PB) | Estabelece diretrizes para o uso de imagens e áudios de pessoas falecidas por meio de inteligência artificial |
| PL 210/2024 | Marcos do Val (Podemos-ES) | Trata de princípios para uso da tecnologia de inteligência artificial no Brasil, definindo princípios, vedações e medidas de proteção para o indivíduo |
Crimes
Alguns projetos buscam reprimir os crimes cometidos com uso de inteligência artificial. Dois deles são do senador Chico Rodrigues (PSB-RR). O PL 145/2024 veda o uso, em mensagem publicitária, de inteligência artificial para gerar imagem ou voz de pessoa viva ou falecida sem o seu consentimento claro e inequívoco, ou do titular do direito de imagem. A peça publicitária ainda precisará informar que utilizou inteligência artificial. Se não cumprir esses requisitos, o anunciante poderá ser punido por propaganda enganosa. A pena é de detenção de três meses a um ano e multa. O canal de televisão, site ou outro meio de veiculação também podem ser penalizados caso não interrompam a divulgação em até três dias da notificação da infração, que poderá ser feita pelos órgãos governamentais de fiscalização ou até pelo titular dos direitos de imagem do ofendido.
Já o PL 146/2024 altera o Código Penal (Decreto-lei 2.848, de 1940) para aumentar a pena nos crimes contra a honra cometidos em redes sociais que utilizem deepfake com inteligência artificial. Quem usar esse tipo de ferramenta para produzir vídeo ou imagem falsos poderá sofrer, de forma quintuplicada, a pena prevista para o crime contra a honra — como calúnia ou injúria. Isso pode significar até três anos de detenção, se crime de injúria, ou dez anos, se calúnia, além da multa. Na opinião do autor, o texto atual da lei não coíbe a gravidade da ofensa que deepfakes podem gerar.
— O potencial nocivo da criação dessas matérias e sua divulgação é bem maior e devastador do que antigamente, quando criamos nosso Código Penal. Por esse motivo, proponho que as penas por criação de material utilizando inteligência artificial sejam aumentadas em cinco vezes. Mas o dano é provocado não apenas por quem cria o material, mas também pela pessoa que divulga, ou distribui — explicou Rodrigues à Agência Senado.
O senador Jader Barbalho (MDB-PA) apresentou um projeto que tipifica o crime de manipulação de imagem de forma não autorizada (PL 623/2024). Pelo projeto, a manipulação de fotografia ou vídeo sem autorização da vítima, com ou sem a utilização de recursos tecnológicos, com o intuito de produzir imagem de nudez, ato sexual ou libidinoso de caráter íntimo, poderá render uma pena de reclusão de um a dois anos, além da multa. A pena poderá dobrar, se o crime for cometido contra menor de idade, e até o triplicar, se o material for divulgado nas redes sociais.
Outro projeto, do senador Jorge Kajuru (PSB-GO), aumenta a pena de quem utiliza inteligência artificial para montagem em fotografia ou vídeo íntimo. Pelo PL 5.722/2023, a pena será de um a dois anos de reclusão. Hoje, a previsão é de seis meses a um ano. A previsão de multa permanece. Na mesma linha, o senador Weverton (PDT-CE) também apresentou um projeto para tipificar a criação, o uso e a divulgação, sem o consentimento da vítima, de conteúdo fraudulento contendo sexo, nudez ou pornografia, inclusive envolvendo crianças e adolescentes (PL 5.721/2023). As matérias de Weverton, Kajuru e Jáder estão em análise na Comissão de Comunicação e Direito Digital (CCDD).
Também chegou ao Senado um projeto que aumenta em 50% a pena no caso de crime de violência psicológica contra a mulher quando praticado com o uso de IA (PL 370/2024). Assim, a pena de detenção pode chegar a nove meses. O projeto é de autoria da deputada Jandira Feghali (PcdoB-RJ) e aguarda sua distribuição às comissões.
Frente e comissão mista
Além de atuar como relator da CTIA, o senador Eduardo Gomes é autor, juntamente com o deputado Eduardo Bismarck (PDT-CE), de um projeto que cria a Comissão Mista Permanente para Proteção de Dados, Inteligência Artificial e Segurança Cibernética (CMCiber – PRN 01/2024). O senador argumenta que a importância da criação da comissão reside “na necessidade premente de regular, regulamentar e fiscalizar as questões relacionadas à proteção de dados, inteligência artificial e segurança cibernética, temas que têm ganhado crescente relevância no contexto nacional e global”. A proposta ainda precisa ser votada pelo Congresso Nacional.
Já o senador Angelo Coronel (PSD-BA) apresentou um projeto para criar a Frente Parlamentar Mista da Inteligência Artificial, Tecnologia da Informação, Segurança Cibernética e Combate à Desinformação (PRS 93/2023). O nome poderá ser resumido para Frente Parlamentar da Segurança Digital. Tanto deputados quanto senadores podem aderir à frente. Coronel diz que os fenômenos da inteligência artificial, da segurança cibernética e da própria desinformação se apresentam como desafios para o mundo. Daí a importância da frente. A matéria aguarda designação de relator na CCDD.
Comissão de Juristas
Instalada no final de março de 2022, a comissão promoveu 12 painéis e 1 seminário internacional para discutir a regulamentação da inteligência artificial, além de discussões sobre temas como conceitos, compreensão e classificação de inteligência artificial; impactos da inteligência artificial; direitos e deveres; accountability (prestação de contas), governança e fiscalização. A comissão trabalhou com 18 integrantes e teve como relatora a jurista Laura Schertel Mendes, professora de direito civil. O ministro Ricardo Villas Bôas Cueva, do Superior Tribunal de Justiça (STJ), presidiu o colegiado. O trabalho final da comissão, com mais de 900 páginas, foi entregue ao presidente Pacheco no final de 2022.
— Isso tudo se refletiu numa coleta de informações muito ampla, muito transversal e que reflete bem o que está sendo pensado no mundo hoje sobre a regulação de inteligência artificial. O fato de termos aprovado o texto por unanimidade indica que erramos pouco, não erramos nem para menos nem para mais, seguimos a linha da média do que se pensa hoje no mundo sobre regulação de inteligência artificial — disse o ministro Cueva, na ocasião.
O texto final apresentado a Pacheco traz princípios, regras, diretrizes e fundamentos para regular o desenvolvimento e a aplicação da inteligência artificial no Brasil. São três pilares centrais: garantia dos direitos das pessoas afetadas pelo sistema; gradação do nível de riscos; e previsão de medidas de governança aplicadas a empresas que forneçam ou operem o sistema de inteligência artificial.
— Trata-se de uma matéria que é muito importante, um tema realmente inovador, importante para o nosso ordenamento jurídico e importante para o desenvolvimento do Brasil. O trabalho dos juristas contribui muito para a qualidade da atividade legislativa — declarou Pacheco, ao receber o anteprojeto da comissão de juristas.
Eleições
A preocupação com o uso indevido das tecnologias também atinge as eleições. Recente resolução do Tribunal Superior Eleitoral (TSE) para as eleições municipais deste ano caracterizou as deepfakes como o conteúdo em áudio ou vídeo, digitalmente gerado ou manipulado por inteligência artificial, para “criar, substituir ou alterar imagem ou voz de uma pessoa viva, falecida ou fictícia” (Resolução 23.732/2024). O uso desse recurso fica proibido. Além disso, haverá restrições para o uso de robôs (programas de computador) no contato com o eleitor. Também será obrigatória a inserção de aviso sobre o uso de IA na propaganda eleitoral. Com essa validação, a sociedade poderá ser informada, com um rótulo na tela, se a imagem veiculada é verdadeira ou não.