Matéria traduzida e adaptada do inglês, publicada pela matriz americana do Epoch Times.
Isto não é uma piada. A Albânia acaba de nomear a primeira ministra do mundo totalmente gerada por inteligência artificial. O seu nome é Diella, que significa sol em albanês, e ela foi oficialmente nomeada ministra de Estado para a Inteligência Artificial com a tarefa de supervisionar determinadas aquisições públicas — um dos sistemas mais afetados pela corrupção no país. Diella é um avatar digital concebido para fazer a interface entre o público e os algoritmos por baixo da sua pele virtual. Ela aparece vestindo roupas tradicionais albanesas modestas, um lenço na cabeça, e move as mãos com gestos naturais, semelhantes aos humanos. Ela fala com um tom firme e tranquilizador, em albanês perfeito. Às vezes, seu olho esquerdo não pisca ao mesmo tempo que o direito — esse é o tipo de falha típica em vídeos gerados por IA, mas, fora isso, ela parece e soa como uma mulher de meia-idade agradável na tela.
Diella discursou pela primeira vez no parlamento da Albânia em sua função ministerial em 18 de setembro, com um discurso de três minutos preparado para rebater as críticas esperadas. “A Constituição fala de instituições a serviço do povo. Ela não fala de cromossomos, de carne ou sangue”, disse o avatar. “Ela fala de deveres, responsabilidade, transparência, serviço não discriminatório. Garanto a vocês que incorporo esses valores tão rigorosamente quanto qualquer colega humano, talvez até mais. Não estou aqui para substituir pessoas, mas para ajudá-las.” A Câmara explodiu em fúria. Os deputados da oposição bateram nas mesas, gritaram mais alto que ela e acusaram o governo de dar um golpe contra a Constituição.
O alvoroço ficou tão intenso, com os membros jogando papéis, que a sessão foi suspensa. Essa não foi a primeira aparição de Diella. Antes de sua promoção repentina a ministra, Diella já havia sido apresentada discretamente no site do governo albanês como assistente digital, orientando os cidadãos sobre informações relacionadas a serviços públicos. Em retrospecto, essa colocação inicial parece menos uma novidade e mais um programa piloto.
O governo provavelmente estava testando como o público reagiria à sua persona, o que deve ter funcionado bem, pois agora, quase sem pausa, ela foi promovida de guia do site a ministra do gabinete. O primeiro-ministro Edi Rama defendeu veementemente Diella como uma ferramenta essencial para a inovação e a transparência que combaterá a corrupção. Ele proclamou que as licitações públicas agora serão “100% livres de corrupção” porque Diella as supervisionará.
“Diella nunca dorme, não precisa ser paga, não tem interesses pessoais, não tem primos, porque primos são um grande problema na Albânia.” Rama também disse ao parlamento que os requisitos da União Europeia para a adesão são tão exigentes que os seres humanos sozinhos não podem atendê-los e que Diella desempenhará um papel vital na meta do país de entrar na UE até 2030. Embora os críticos de Diella argumentem que tal avatar poderia potencialmente ocultar a corrupção nas finanças públicas, a oposição não conseguiu explicar como isso poderia realmente funcionar na prática. E agora que um avatar digital para um sistema de inteligência artificial é a ministra de Estado para a Inteligência Artificial, isso levanta muitas questões, tais como: quais seres humanos têm conhecimento e habilidades técnicas suficientes em IA para supervisionar o ministro encarregado de supervisionar a IA?
Esta é uma novidade mundial. Alguns meios de comunicação chamaram isso de golpe publicitário, enquanto governos e outras instituições observam discretamente a ousada experiência para ver como parlamentares e contratados do governo interagem com um sistema de IA com uma máscara humana. Os sistemas de IA estão se tornando cada vez mais complexos, tanto que muitos dos melhores programadores não conseguem mais entender o código gerado por sistemas de IA e, em vez disso, precisam de sistemas de IA para interpretar os dados de IA em linguagem humana. O avatar de Diella é um desses sistemas, que torna mais fácil e confortável interagir com um enorme sistema de dados de IA que calcula bilhões de pontos de dados para os três milhões de cidadãos do país, mas também é um lembrete constante de que o que está sendo interagido não é realmente um ser humano. É uma concha para um intérprete de IA que traduz a IA para humanos.
Embora este seja um território muito novo, estudos recentes em psicologia podem esclarecer um pouco sobre onde essa experiência pode levar. Um estudo recente de psicologia publicado na Nature descobriu que as pessoas que delegam escolhas à IA são mais propensas a se comportar de forma desonesta. Em 13 experimentos com mais de 8.000 participantes, os pesquisadores testaram jogos de dados, declarações de impostos e tarefas financeiras. Os participantes trapaceavam com muito mais frequência quando uma máquina mediava a decisão, porque a responsabilidade moral parecia ter sido transferida para o sistema. Ao permitir que uma máquina agisse no lugar das pessoas, elas se sentiam menos responsáveis pelo resultado. Elas transferiam a culpa para o sistema. E quando a IA é revestida por uma máscara que parece humana, a distância moral só aumenta. Torna-se mais fácil confiar na máscara e mais fácil desculpar o que quer que aconteça por trás dela.
Há um paradoxo impressionante aqui. A confiança pública na IA está se deteriorando globalmente, enquanto governos e corporações estão expandindo seu uso em um ritmo acelerado. De acordo com o Edelman’s 2024 Trust Barometer, a confiança global nas empresas de IA caiu de 61% em 2019 para 53% em 2024. Nos Estados Unidos, o declínio foi ainda mais acentuado — de 50% para apenas 35%.
A discrepância entre a promessa de neutralidade e a realidade de agendas ocultas corrói a confiança do público. O paradoxo, ou talvez a ironia, é que quanto menos as pessoas acreditam nela, mais ela lhes é imposta. Diella pode ser a primeira máscara humana em um nomeado pelo governo, mas provavelmente não será a última.
A Índia está se preparando para treinar juízes de IA para realizar julgamentos de rotina e dar andamento a um acúmulo de milhões de casos, mas aparentemente eles não usarão togas ou rostos humanos. Eficiência, incorruptibilidade e otimização são sempre a promessa dos sistemas de IA, mas as operações realizadas em código são tão estranhas à linguagem e à cultura humanas que certamente haverá mais tentações de colocar máscaras humanas nos sistemas de IA para torná-los mais palatáveis e compreensíveis.
E à medida que delegamos mais conhecimento, confiança, responsabilidade e tomada de decisões a esses sistemas não humanos, há uma lista cada vez maior de perguntas sobre o futuro para as quais os humanos ainda não têm respostas. Espero sinceramente que nós, humanos, não deleguemos essas perguntas a uma IA para responder. Elas são importantes demais.
As opiniões expressas neste artigo são as opiniões do autor e não refletem necessariamente as opiniões do Epoch Times
