Há dias o Google anunciou a suspenção da geração de imagens por sua inteligência artificial, o Gemini, após usuários mostrarem nas redes sociais que imagens distorcidas estavam sendo geradas pela IA.
Um dos incidentes que levou a empresa a se pronunciar publicamente foi a geração de uma imagem que retratava soldados alemães em 1943, remetendo à Segunda Guerra Mundial e à Alemanha Nazista, sendo que os combatentes retratados com um símbolo semelhante à suástica eram de ascendências negra e asiática.
As mesmas gigantes da tecnologia anunciaram um “pacto” para a gestão da divulgação de postagens utilizando mecanismos de inteligência artificial (IA) – lembremos que, Chomsky e Nicolelis, cada um a seu turno, questionam esta nomenclatura, afinal não seria “nem inteligente”, “nem artificial” – nos processos eleitorais que, em 2024, ocorrerão ao redor do mundo, envolvendo diversos países e um número de eleitores imenso.
O ‘caso Gemini’, assim como outros tantos, põe em pauta algumas questões que precisam a análise crítica de todos e todas, podendo ser lido por vários ângulos:
- Aparentemente, responde aos usuários, como uma reação da empresa aos questionamentos postos por estes.
- Em consequência, teria um caráter preventivo, pois evitaria a repetição dos “equívocos”.
- Por outro lado, evidencia uma falta de “devida diligência“ ou “dever de cuidado” por parte da empresa na disponibilização da ferramenta, deixando em aberto a eficácia destes meios de gestão característicos da economia neoliberal.
- Expõe, ainda, os déficits de qualidade destas novas (novíssimas) tecnologias, com vieses incrustados na sua construção, bem como a questão da ‘alucinação’ das ditas IAs.
- É produto da ‘corrida mercadológica’ e da disputa entre as grandes companhias e ultrapassa até mesmo a do desenvolvimento tecnológico e deixa para trás a dos procedimentos próprios das democracias liberais ancoradas no Estado Nacional.
No meio de tudo isso, o Brasil se prepara para as eleições municipais – sem uma lei geral sobre o tema – com o Tribunal Superior Eleitoral normatizando o processo eleitoral, como aprovado na noite de terça-feira (27/2), com regras tais como: conteúdos manipulados por Inteligência Artificial deverão ser identificados como tal; chatbots e avatares para intermediar a comunicação da campanha devem ter uso limitado; não poderá haver qualquer simulação de conversa do chatbots e avatar com candidato ou pessoa real; proibição absoluta ao uso de deepfake.
Ainda: orientação de juízes para assegurar a eficácia das decisões de remoção de conteúdos ilegais; aplicativos deverão comprovar que cumpriram a determinação de retirar conteúdo do ar; plataformas terão de tomar medidas para impedir ou diminuir circulação de fake news e veicular informações que esclareçam dados descontextualizados; provedores poderão ser responsabilizados caso não retirem do ar discursos de ódio ou antidemocráticos.
Esta corrida em círculos terá um novo round.
