Reprodução de injustiças pela ferramenta foi um dos desafios apontados em debate promovido pela ADUFRGS-Sindical
A Inteligência Artificial (IA) está incorporada à rotina das pessoas, mas vai ser preciso disputar a forma como essa ferramenta será moldada para ajudar a maioria da população. Essa é uma das reflexões que emergiu do debate “Café com IA: potenciais, riscos e transformações da Inteligência Artificial”, promovido pelo Sindicato Intermunicipal de Professores das Instituições Federais de Ensino Superior do Rio Grande do Sul (ADUFRGS-Sindical), no auditório da entidade, em Porto Alegre, nessa terça-feira (19).
O encontro reuniu três pesquisadores que abordaram a evolução do desenvolvimento da IA e os desafios éticos impostos pelos usos das ferramentas automatizadas. Os professores do Instituto de Informática da Universidade Federal do Rio Grande do Sul (UFRGS) Luigi Carro e Joel Luis Carborena enfatizaram que a democratização desse tipo de deep tech representa um momento histórico de mudança radical, equivalente ao vivenciado no período do desenvolvimento da eletricidade e da internet.
A outra debatedora, a professora do Instituto de Ciência e Informação da Universidade Federal da Bahia (UFBA) Barbara Coelho Neves, analisou as consequências do uso da IA para organizações políticas, como os sindicatos, e para populações mais vulneráveis. “Existe um cenário de desinformação muito grande, impulsionado pela IA, com manipulação de algoritmos. É preciso que a comunicação sindical observe essa dinâmica”, alertou Coelho.
A pesquisadora salientou que a população feminina — e especialmente o grupo que atua na política — tem sido o grande alvo de ataques cibernéticos organizados. Já a população negra tem enfrentado branqueamento sistemático pelas plataformas, além das consequências das falhas em sistemas de identificação que podem levar a prisões injustas por forças policiais que utilizam ferramentas automatizadas de reconhecimento.
Carbonera também enfatizou os riscos do uso indiscriminado das ferramentas, rechaçando a ideia de que é um “oráculo neutro”. “A IA não é infalível, e ainda é importante reforçar isso. Desde o início do desenvolvimento de IA generativa, os níveis de erros vêm diminuindo, mas ainda existem problemas de alucinação e raciocínio incoerente. A gente precisa manter isso em mente quando está usando essas tecnologias”, destacou Carbonera. Ele argumentou que é preciso, no cotidiano, ficar alerta ao uso de IA para decisões em escala, pois ela pode ampliar “vieses e injustiças sociais”.
Carbonera também demonstrou preocupação com efeitos que são percebidos em sala de aula, como homogeneização de pensamento e perda de diversidade nos estilos de escrita e pensamento. “Em um mundo em que conseguimos automatizar inclusive capacidades cognitivas, o que não queremos automatizar? Eficiência não pode ser o único critério. O que continua profundamente humano? Em um mundo com acesso fácil a copilotos, como formar pilotos? Essas são reflexões que precisamos fazer”, defendeu.
Carro apresentou uma visão mais otimista sobre o uso da IA, enfatizando que a sociedade deve buscar soluções para os problemas gerados pelos modelos tecnológicos. “Hoje a gente resolve problemas que há cinco anos a gente não ia conseguir. Porque temos uma máquina para nos ajudar.” Carro salientou a responsabilidade dos professores e dos líderes nas decisões sobre o uso da ferramenta. “Imagine que eu tenha uma caixa mágica. E tudo que eu perguntar ela vai responder corretamente. O meu problema agora é fazer as perguntas certas. A gente treina as pessoas para fazer perguntas somente no doutorado, que é quando a gente tenta fazer pensar fora da caixa. Precisamos começar a fazer as pessoas pensarem fora da caixa já na escola e na Graduação”, defendeu Carro.
No encontro promovido pela ADUFURGS, os professores ainda salientaram o papel da universidade na criação de observatórios e monitoramento de políticas públicas relacionadas com as tecnologias. Os pesquisadores ainda alertaram para o papel periférico do Brasil na produção da tecnologia. E mencionaram os desafios de regulação, especialmente diante dos impasses gerados pela falta, muitas vezes, de debates especializados. Coelho localizou “no norte global, especialmente os EUA, encabeçado pelo Vale do Silício, os criadores de IA”, e na União Europeia um exemplo de regulação, enquanto “o Brasil e a América Latina aparecem como uma grande interrogação”. “Porque aparecemos muito mais como usuários e lócus de extratores de dados por essas plataformas”, lamentou Coelho.
Na mesma linha, Carbonera listou os riscos para países que se tornam dependentes da concentração de poder dos polos tecnológicos. “Imaginemos que existam também organizações inescrupulosas por trás desses modelos. O que eles podem conseguir fazer? E se a gente ficar dependente, o que poderemos fazer?”, questionou.
Carro minimizou esse impacto, justificando que alguns problemas atribuídos à IA, como o risco da homogeneização de pensamento e consumo, podem ser atribuídos à dominância de big techs como Google e da dinâmica imposta pelas redes sociais. Mesmo para ele, no entanto, é preciso treinar as ferramentas para que elas sigam fornecendo respostas alternativas, que dêem conta da pluralidade. “É provável que a gente vá precisar de uma academia do cérebro, porque a gente vai ficar preguiçoso”, projetou. Carro ainda destacou o problema da poluição causada pela instalação de data centers, que desafia a regulação no Brasil. “A velocidade da IA é muito forte. Está nos atropelando a todos nós”, observou.
Acesse a publicação original no portal Sul21 aqui.