Regulamentação da IA nas eleições em foco

A entrevista exclusiva do portal Panorama Mercantil com Marcelo Senise, idealizador do Instituto Brasileiro para a Regulamentação da Inteligência Artificial (IRIA), sócio-fundador da Comunica 360º, sociólogo e marqueteiro, oferece uma visão esclarecedora sobre os desafios e complexidades enfrentados no cenário político-eleitoral em meio aos avanços da Inteligência Artificial (IA). Com uma trajetória de 34 anos dedicados à área política, Senise emerge como um especialista em comportamento humano, informação e contrainformação, sendo um precursor na aplicação de sistemas emergentes e IA no universo político. As diferenças entre as regulamentações propostas pela União Europeia (UE) e as discussões lideradas pelo presidente do Tribunal Superior Eleitoral (TSE) no Brasil são destacadas, evidenciando a importância de uma abordagem equilibrada na regulamentação da IA nas eleições. Senise ressalta a necessidade de um debate amplo e aprofundado, envolvendo especialistas de diversas áreas, para criar regulamentações proporcionais aos desafios específicos apresentados pela IA. A entrevista também destaca lacunas nas propostas do presidente do TSE, especialmente em relação à falta de detalhamento específico e diálogo inclusivo com especialistas e representantes da sociedade civil. Senise enfatiza a importância da transparência, justiça e lisura nos pleitos futuros, propondo a criação do IRIA como uma medida concreta.

Marcelo, que impactos o recente acordo da União Europeia para regulamentar o uso da Inteligência Artificial pode ter nas discussões sobre ética e limites da IA no Brasil?

A regulamentação proposta pela União Europeia estabelece uma referência crucial no que diz respeito à utilização da IA, buscando equilibrar os benefícios potenciais dessa tecnologia com a mitigação dos riscos associados. Ao exigir transparência das empresas que desenvolvem tecnologias de IA, como a obrigação de identificar imagens manipuladas (“deepfakes”) e fornecer informações detalhadas sobre os conteúdos gerados pelos sistemas, a UE está estabelecendo um precedente importante em termos de responsabilidade e transparência.

Além disso, a legislação proposta oferece aos cidadãos o direito de apresentar queixas sobre sistemas de IA e requer explicações sobre decisões que possam afetar seus direitos. Isso reforça a importância da accountability (responsabilidade) e da prestação de contas no uso dessa tecnologia.

No Brasil, embora não exista uma regulamentação específica para a IA, o debate sobre ética e limites dessa tecnologia está em ascensão. O acordo da União Europeia pode servir como um referencial importante para as discussões em território brasileiro. Pode inspirar a formulação de políticas e diretrizes que equilibrem o avanço da tecnologia com a proteção dos direitos individuais e a garantia da transparência nas operações de IA.

Ao observar a abordagem baseada no risco adotada pela União Europeia, com supervisão humana necessária na criação e implantação dos sistemas de IA, o Brasil pode considerar medidas semelhantes para mitigar riscos e garantir uma utilização ética e responsável da tecnologia.

Dessa forma, o acordo pioneiro da União Europeia certamente pode influenciar positivamente as discussões sobre ética e regulamentação da Inteligência Artificial no Brasil, estimulando a busca por políticas que assegurem a inovação tecnológica sem comprometer a segurança, transparência e os direitos individuais dos cidadãos.

Qual é a sua visão sobre a abordagem adotada pelo presidente do TSE, Ministro Alexandre de Moraes, em relação à regulamentação da IA, especialmente no contexto das eleições?

A atuação do presidente do Tribunal Superior Eleitoral (TSE), Ministro Alexandre de Moraes, levanta preocupações sobre a necessidade de se regulamentar o uso da IA, porém, é percebido como ainda obscuro e superficial.

É inegável a importância e a pertinência do debate sobre a regulamentação da IA nas eleições, considerando os potenciais impactos dessa tecnologia no processo democrático. No entanto, concordo que a complexidade desse assunto transcende a competência exclusiva do TSE. Acredito que uma regulamentação tão significativa exige uma abordagem mais abrangente e um amplo debate envolvendo diferentes setores da sociedade, especialmente o Legislativo.

O fato de o Parlamento ter perdido a oportunidade de debater ativamente esse assunto pode representar um risco para a democracia brasileira. Nesse sentido, sua sugestão de um decreto de regime de urgência para a tramitação de assuntos relacionados ao uso da IA nas eleições, liderado pelo presidente da Câmara, é uma medida crucial e oportuna.

Um acordo republicano entre o Congresso Nacional e o TSE para estabelecer diretrizes que possam servir como base para as normativas do tribunal é uma abordagem sensata e democrática. Isso permitiria a criação de um conjunto normativo mais equilibrado e legitimado pelo debate e deliberação parlamentar, proporcionando maior clareza e segurança jurídica para as eleições em meio ao avanço tecnológico.

A colaboração entre os poderes Legislativo e Judiciário, juntamente com a sociedade civil, é essencial para criar uma regulamentação que proteja os processos democráticos, promova a transparência e a responsabilidade no uso da IA durante as eleições.

Como a Lei da IA, aprovada pela União Europeia, poderia inspirar políticas mais abrangentes e transparentes no tratamento da IA nas eleições brasileiras?

A Lei da IA, proposta pela União Europeia, estabelece um importante precedente para a regulamentação do uso da Inteligência Artificial. Essa legislação pode servir como uma fonte de inspiração para políticas mais abrangentes e transparentes no tratamento da IA nas eleições brasileiras.

Primeiramente, a Lei da IA da União Europeia enfatiza a transparência no uso da tecnologia, exigindo das empresas que desenvolvem sistemas de IA a obrigação de fornecer informações detalhadas sobre o funcionamento e os resultados gerados por esses sistemas. Essa abordagem poderia inspirar políticas no Brasil para que empresas ou entidades que utilizem IA durante o processo eleitoral sejam obrigadas a ser transparentes quanto ao uso dessa tecnologia, garantindo a compreensão e a prestação de contas aos eleitores.

Além disso, a legislação da UE destaca a importância de uma supervisão adequada e de mecanismos de mitigação de riscos, especialmente quando se trata de sistemas de IA que podem ter um impacto significativo na vida dos cidadãos. Isso poderia inspirar políticas no Brasil para estabelecer diretrizes claras e supervisionar de perto o uso da IA nas eleições, garantindo que os sistemas sejam éticos, justos e não discriminatórios.

Outro aspecto relevante é a exigência de reportar à Comissão Europeia incidentes graves relacionados à IA, juntamente com garantias de segurança cibernética. Essa abordagem poderia inspirar políticas no Brasil para criar mecanismos de monitoramento e relatórios sobre incidentes relacionados à IA durante o período eleitoral, assegurando a integridade do processo democrático.

É importante ressaltar que as diferenças entre os sistemas políticos e as realidades sociais entre a União Europeia e o Brasil devem ser consideradas ao adaptar essas políticas. No entanto, a Lei da IA da UE oferece um conjunto valioso de princípios e diretrizes que podem servir como referência para o Brasil na criação de políticas mais abrangentes, éticas e transparentes no tratamento da Inteligência Artificial durante as eleições.

Quais são os desafios específicos que o Brasil enfrenta ao discutir a regulamentação da IA, considerando a abordagem mais aberta da UE?

O Brasil enfrenta desafios específicos ao discutir a regulamentação da Inteligência Artificial (IA), especialmente considerando a abordagem mais aberta adotada pela União Europeia (UE). Alguns dos desafios incluem:

Infraestrutura e investimento: O Brasil ainda está em desenvolvimento em termos de infraestrutura tecnológica e investimento em pesquisa e desenvolvimento de IA. A falta de investimento e recursos pode dificultar a implementação de regulamentações eficazes e o acompanhamento adequado do uso da IA.

Diversidade e complexidade: O Brasil é um país vasto e diversificado, com diferentes realidades socioeconômicas e culturais em suas diversas regiões. A complexidade dessa diversidade pode tornar desafiador criar regulamentações que sejam aplicáveis e eficazes em todo o território nacional.

Legislação e burocracia: O Brasil possui um sistema legislativo complexo e, muitas vezes, burocrático. A aprovação de leis e regulamentações pode ser um processo moroso e sujeito a diferentes interesses políticos e econômicos, dificultando a criação rápida de legislação específica para a IA.

Educação e capacitação: A falta de mão de obra qualificada e especializada em IA pode ser um desafio. Investimentos em educação e capacitação são fundamentais para desenvolver talentos locais e garantir que o país tenha profissionais aptos a lidar com a regulamentação e aplicação ética da IA.

Proteção de dados e privacidade: A legislação de proteção de dados no Brasil, como a Lei Geral de Proteção de Dados (LGPD), continua em desenvolvimento. A regulamentação da IA também está intimamente ligada à proteção de dados pessoais e à privacidade, exigindo alinhamento entre diferentes leis e normas existentes.

Inclusão e equidade: Garantir que as regulamentações não exacerbem desigualdades existentes é um desafio importante. A IA pode reproduzir e amplificar vieses existentes se não forem implementadas medidas para garantir sua aplicação equitativa e justa.

Esses desafios são complexos e multifacetados, exigindo um esforço conjunto entre diferentes setores da sociedade, incluindo o governo, academia, setor privado e sociedade civil, para desenvolver regulamentações adequadas e eficazes para o uso ético e responsável da IA no Brasil. A abordagem mais aberta da UE pode servir como inspiração, mas é crucial adaptar esses princípios à realidade específica do Brasil, considerando seus próprios desafios e características.

Por que é fundamental considerar uma abordagem mais ampla, envolvendo especialistas e considerando todas as implicações eleitorais e democráticas da IA, em vez de adotar uma perspectiva autoritária?

É fundamental adotar uma abordagem ampla e inclusiva ao discutir e regulamentar o uso da Inteligência Artificial (IA) nas eleições e na esfera democrática. Esta abordagem envolve especialistas de diversas áreas, como cientistas políticos, juristas, éticos, sociólogos e especialistas em IA. Isso permite compreender todas as implicações éticas, políticas, sociais e legais da IA nas eleições.

Essa variedade de perspectivas evita a concentração de poder de decisão em poucas mãos, garantindo que a regulamentação seja representativa e justa para todos os setores da sociedade. Além disso, ao incluir diversas visões, é possível identificar possíveis abusos e viés na utilização da IA, preservando a integridade do processo eleitoral e evitando manipulações indevidas.

Uma abordagem inclusiva aumenta a legitimidade das decisões tomadas e promove um processo transparente, permitindo que o público compreenda os motivos por trás das regulamentações adotadas. Isso é essencial para garantir a adaptação ágil às mudanças tecnológicas, considerando que a IA está em constante evolução.

Adotar uma abordagem ampla e colaborativa no debate sobre a regulamentação da IA nas eleições e na esfera democrática é crucial para proteger os direitos individuais e coletivos dos cidadãos, respeitando os princípios democráticos e os direitos humanos fundamentais. Essa estratégia promove um ambiente mais saudável e transparente para o desenvolvimento e aplicação da IA, garantindo a ética e a legitimidade das políticas implementadas.

Quais são as principais diferenças entre as regulamentações propostas pela União Europeia e as discussões lideradas pelo presidente do TSE no Brasil em relação à IA nas eleições?

As diferenças entre as regulamentações propostas pela União Europeia (UE) e as discussões lideradas pelo presidente do Tribunal Superior Eleitoral (TSE) no Brasil em relação à Inteligência Artificial (IA) nas eleições são notáveis e refletem diferentes abordagens diante do tema.

A proposta da UE, por meio da Lei da IA, busca uma regulamentação ampla e detalhada para controlar o uso da IA, especialmente em áreas sensíveis como campanhas eleitorais. A legislação europeia enfatiza a transparência, a prestação de contas, a supervisão e a mitigação de riscos associados à IA. Ela procura garantir a transparência nas operações, exigindo informações detalhadas sobre o funcionamento dos sistemas de IA e impondo obrigações para as empresas reportarem incidentes graves relacionados à IA.

No entanto, as declarações feitas pelo presidente do TSE no Brasil aparentam uma posição mais restritiva, sugerindo a possibilidade de cassação do registro das campanhas que façam uso da IA. Essa postura, embora preocupada com a manipulação eleitoral, parece simplificar em demasia um assunto complexo. Ao mencionar a cassação do registro, o posicionamento parece não considerar a diversidade de aplicações da IA, que vão desde algoritmos em redes sociais até o uso de aplicativos como o WhatsApp, pesquisas no Google ou mesmo interações com chatbots.

O desafio reside na complexidade da IA, que abrange uma variedade de tecnologias e aplicações. A IA é um espectro amplo e seu uso pode ser encontrado em diversas ferramentas e serviços cotidianos, inclusive na disseminação de informações durante campanhas eleitorais.

Portanto, a generalização de uma proibição ou sanção à IA nas eleições pode ser complicada e insuficiente para abordar efetivamente os problemas que podem surgir. É necessário um debate mais amplo e aprofundado, envolvendo especialistas de várias áreas, para criar regulamentações equilibradas e proporcionais aos desafios específicos apresentados pela IA nas eleições, levando em consideração a transparência, a responsabilidade e a garantia da integridade do processo democrático.

Que medidas específicas você acredita que são necessárias para garantir um debate amplo, transparente e participativo sobre a regulamentação da IA no contexto das eleições brasileiras?

Para assegurar um debate amplo e transparente sobre a regulamentação da Inteligência Artificial (IA) nas eleições brasileiras, é crucial estabelecer um fórum multidisciplinar e inclusivo. Esse fórum deve abranger representantes do governo, parlamentares, especialistas em IA, juristas, acadêmicos, Ministério Público Eleitoral, OAB e outros atores relevantes. Isso garantiria uma variedade de perspectivas no debate.

Além disso, é fundamental promover a transparência, tornando todas as discussões, propostas e documentos públicos. Audiências públicas, divulgação de relatórios e debates acessíveis online são meios para permitir que o público acompanhe e participe ativamente do processo.

Consultas públicas devem ser realizadas, proporcionando a oportunidade para que cidadãos e entidades interessadas contribuam com sugestões, críticas e preocupações relacionadas à regulamentação da IA nas eleições.

A expertise técnica de especialistas em IA é indispensável para fornecer conhecimento científico e técnico sobre o tema, orientando as discussões de forma fundamentada.

O objetivo final é a produção de um conjunto normativo claro, fundamentado em princípios éticos e regras definidas para o uso da IA nas eleições. Esse conjunto normativo deve ser uma base sólida para a proteção dos princípios democráticos e a salvaguarda dos processos eleitorais.

O apoio e liderança do Poder Legislativo são essenciais para conduzir o debate e estabelecer regulamentações apropriadas, garantindo a legitimidade e aplicabilidade das regras propostas.

Essas medidas visam criar um processo democrático, transparente e participativo, permitindo que diferentes vozes e perspectivas contribuam para a formulação de regulamentações eficazes para o uso da IA nas eleições, protegendo os fundamentos da democracia brasileira.

Quais são as lacunas mais evidentes nas propostas do presidente do TSE em relação à IA, do ponto de vista da transparência e clareza no tratamento do assunto?

As propostas do presidente do Tribunal Superior Eleitoral (TSE) em relação à Inteligência Artificial (IA) parecem apresentar lacunas significativas no que diz respeito à transparência e clareza no tratamento do assunto.

Uma das lacunas evidentes é a falta de detalhamento específico sobre as regulamentações propostas. As declarações até o momento não foram precisas quanto às medidas concretas a serem adotadas em relação ao uso da IA nas eleições, o que dificulta a compreensão das regras e suas implicações.

Além disso, houve uma generalização nas propostas, mencionando a possibilidade de cassação de registros de campanhas que utilizem IA. Isso levanta preocupações, pois a IA engloba uma variedade de tecnologias e usos, sem considerar a diversidade de aplicações e seus diferentes impactos.

Outro ponto é a ausência de um diálogo amplo e inclusivo com especialistas, representantes da sociedade civil e outros stakeholders relevantes. Essa falta de debate colaborativo pode resultar em regulamentações menos abrangentes e possivelmente menos eficazes.

A falta de clareza sobre os critérios e procedimentos para determinar quais campanhas estariam em violação das possíveis regulamentações também é uma lacuna evidente. Isso gera incerteza sobre a aplicação das medidas propostas.

Além disso, não parece haver uma consideração suficiente sobre o avanço tecnológico e a constante evolução da IA. Regulamentações que não acompanham essa evolução correm o risco de se tornarem obsoletas rapidamente.

Portanto, as propostas até então apresentadas pelo presidente do TSE carecem de detalhamento específico, diálogo aberto e inclusivo, critérios claros e consideração adequada à dinâmica tecnológica, elementos essenciais para uma abordagem transparente e eficaz na regulamentação da IA nas eleições.

Por que a participação ativa do Parlamento brasileiro é crucial na discussão sobre a regulamentação da IA para proteger as bases democráticas, especialmente diante dos riscos iminentes?

A participação ativa do Parlamento brasileiro, especialmente da Câmara dos Deputados, é de extrema importância na discussão sobre a regulamentação da Inteligência Artificial (IA) para proteger as bases democráticas diante dos riscos emergentes. Isso se deve ao fato de o Parlamento representar a vontade soberana do povo, sendo incumbido pela Constituição de legislar em nome da sociedade. É crucial que as discussões e decisões sobre a regulamentação da IA nas eleições sejam realizadas pelos representantes eleitos, garantindo um debate amplo e inclusivo que reflita os interesses da população.

Além disso, a atuação do Parlamento é essencial para preencher lacunas legais presentes na legislação eleitoral em relação ao uso crescente da IA, assegurando a criação de normas claras que protejam a integridade do processo eleitoral. Essa participação também promove transparência no processo legislativo, permitindo que o público acompanhe e participe das discussões, garantindo a responsabilidade dos legisladores perante a sociedade.

Ao envolver o Parlamento na discussão sobre a regulamentação da IA nas eleições, é possível considerar uma diversidade de perspectivas, conhecimentos e interesses, contribuindo para a formulação de regulamentações mais equitativas e alinhadas com a complexidade do país. Isso é essencial para preservar os princípios democráticos e a integridade dos processos eleitorais, assegurando que as decisões reflitam os anseios e necessidades da população brasileira.

Quais são as ações concretas que você acredita que podem ser tomadas para assegurar a transparência, justiça e lisura dos pleitos futuros em meio aos avanços tecnológicos da IA?

Para assegurar a transparência, justiça e lisura dos futuros pleitos diante dos avanços tecnológicos da Inteligência Artificial (IA), diversas ações concretas são viáveis. A criação do Instituto Brasileiro para a Regulamentação da Inteligência Artificial (IRIA) é uma iniciativa significativa, estabelecendo uma entidade composta por especialistas e observadores independentes para monitorar e regular o uso da IA nas eleições. Além disso, a formação de frentes parlamentares dedicadas ao tema pode impulsionar debates, propor legislações e acompanhar de perto os desenvolvimentos nesse campo.

Realizar debates, audiências públicas e consultas abertas à sociedade é crucial para reunir perspectivas diversas e apresentar preocupações e propostas sobre o uso da IA nas eleições. A transparência nos processos eleitorais é essencial, exigindo acesso público aos algoritmos e procedimentos usados, garantindo que a IA seja aplicada de maneira ética e compreensível.

Auditorias independentes periódicas também são importantes para verificar a conformidade com as regulamentações, assegurando a integridade dos processos e identificando possíveis irregularidades. Ademais, a criação de legislação específica e atualizada pelo Congresso Nacional para regular o uso da IA nas eleições é essencial, protegendo os princípios democráticos e os direitos dos eleitores.

Essas ações, quando coordenadas de forma colaborativa e inclusiva, são capazes de contribuir significativamente para garantir que os processos eleitorais futuros sejam transparentes, justos e livres de manipulações indevidas no contexto dos avanços da Inteligência Artificial.

Por que a inércia não é uma opção diante da urgência que a situação demanda, e como a sociedade e os representantes eleitos podem trabalhar juntos para garantir a salvaguarda da democracia?

Diante da urgência imposta pela integração da Inteligência Artificial (IA) nos processos eleitorais e da necessidade premente de proteger a democracia, é essencial que tanto a sociedade quanto os representantes eleitos ajam de forma proativa e colaborativa.

É crucial lembrar que a IA é uma das tecnologias mais poderosas da atualidade. Há seis anos, o escândalo da Cambridge Analytica revelou como a IA foi capaz de influenciar significativamente a democracia, inclusive em grandes nações como os Estados Unidos e o Reino Unido. Esses eventos destacaram a capacidade da IA em afetar o resultado de eleições e minar a confiança nos processos democráticos.

Portanto, não podemos subestimar o potencial e a influência da IA. Em vez disso, é vital agir com urgência e responsabilidade para evitar que nossa ainda jovem e vulnerável democracia seja exposta ao risco representado por essa tecnologia.

A sociedade precisa estar engajada, consciente dos impactos da IA nas eleições, e os representantes eleitos devem agir rapidamente para criar regulamentações sólidas e eficazes. É crucial estabelecer um diálogo constante, promover debates transparentes e garantir que as decisões tomadas estejam alinhadas com a proteção dos valores democráticos.

Portanto, a colaboração entre a sociedade e os políticos é imperativa para criar um arcabouço regulatório robusto que proteja nossa democracia diante do poder disruptivo da IA.