Matéria traduzida e adaptada do inglês, publicada pela matriz americana do Epoch Times.
Doug McMillon, diretor executivo do WalMart, afirmou que a inteligência artificial (IA) está revolucionando todos os cargos na empresa, em todos os níveis, impactando todos os setores. Muitos cargos serão eliminados, alguns serão criados e a maioria será reformulada de alguma forma. Tudo isso está ocorrendo muito rapidamente.
Certamente há motivos para comemorar. No entanto, as experiências das últimas duas décadas devem nos tornar igualmente cautelosos em relação a esse mergulho no desconhecido. É sensato questionar os custos. O que podemos estar perdendo?
O grande problema com a IA não é seu funcionamento, eficiência ou utilidade. Ela é incrível em todas essas coisas. O perigo está no que ela faz ao cérebro humano. Toda a sua filosofia é produzir respostas para todas as coisas. Mas obter a resposta não é a fonte do progresso humano.
O progresso vem do aprendizado. A única maneira de aprender é através do desconforto necessário para obter a resposta. Primeiro você aprende o método. Depois você o aplica. Mas você erra. E você erra novamente. Você encontra seus erros. Você os corrige e ainda assim erra. Você encontra mais erros. Eventualmente, você chega à resposta.
É aí que se torna satisfatório. Você sente seu cérebro trabalhando. Você aprimorou sua mente. Você sente uma sensação de realização.
Somente por meio desse processo você aprende algo. Isso vem das dores do fracasso e do uso do cérebro humano no processo de resolução de problemas. Um estudante ou trabalhador que depende da IA para gerar todas as respostas nunca desenvolverá intuição, julgamento ou mesmo inteligência. Essa pessoa persistirá na ignorância. Lacunas no conhecimento permanecerão sem serem descobertas e preenchidas.
Esse é um grande perigo que enfrentamos.
A observação vem do professor Retsef Levi, do MIT, que falou em um evento do Brownstone Institute na semana passada. Foi uma palestra maravilhosa que abordou muitos outros pontos além desse. Seu grave aviso: construir sistemas que dependem fundamentalmente da IA pode ser catastrófico para a liberdade, a democracia e a civilização.
Mesmo do ponto de vista individual, existe a ameaça de que a IA dissolva a capacidade de pensar, simplesmente porque não somos obrigados a fazê-lo. Muito recentemente, quase todos os documentos que acesso oferecem uma ferramenta de IA com um resumo rápido, de modo que eu não preciso realmente ler nada. Isso é absurdo e eu gostaria que essas empresas parassem com esse absurdo.
Elas não o farão. Tudo isso começou com uma expressão que eu desprezo: o “resumo executivo”. Não sei de onde veio essa expressão. A ideia é que um “executivo” ocupado e sofisticado, com um pager e um carro veloz, não pode se preocupar com detalhes e narrativas, porque precisa atender chamadas e tomar grandes decisões? Não sei, mas agora o “resumo executivo” invadiu todas as áreas.
Agora queremos que todos vão direto ao ponto, pulem para o “quem fez isso” em vez de ler o drama, ouçam o discurso de venda, porque simplesmente não temos tempo para pensar muito. Afinal, sempre temos maneiras melhores de gastar nosso tempo. Fazendo o quê? Lendo mais “resumos executivos”, supõe-se.
Tudo isso é uma pretensão absurda e uma consequência de acreditarmos que somos tão avançados que não precisamos mais saber nada. O sistema cuida disso para nós.
Em que momento vamos dedicar tempo para pensar e aprender? Com todas essas ferramentas para contornar a contemplação real, como sabemos que as respostas que o sistema nos dá são as corretas?
Você pode dizer que isso também se aplica às calculadoras eletrônicas e à internet. E isso é verdade. Ambos apresentam esse risco.
Provavelmente, faço parte da última geração de estudantes que passou pela faculdade com catálogos de fichas e pilhas de livros físicos como únicos recursos disponíveis. Quando não estava em aula, estava na biblioteca, na maioria das vezes sentado no chão, cercado por todos os lados.
Isso era uma aventura. Isso era trabalho. Havia recompensa. Folhear as pilhas de livros era uma alegria, e eu percorri todo o prédio gradualmente ao longo de dois anos. Essa é minha base de conhecimento hoje.
Eu me apaixonei por aprender. Não apenas saber as respostas, mas descobrir como chegar lá.
Até mesmo encontrar periódicos exigia levantar livros pesados e ler com muita atenção. Depois de descobrir o que procurava, era possível ir até as estantes e pegar volumes encadernados de literatura que datavam de 150 anos atrás. Era possível sentir fisicamente as páginas e vivenciar o que as gerações anteriores vivenciaram.
Muitas vezes me pergunto se isso acontecerá novamente com os alunos. Pergunto-me o que perdemos. Não há dúvida de que o acesso é mais rápido. Há características gloriosas da era da informação. Infelizmente, porém, todo o sistema é organizado em torno da ideia de gerar respostas para todas as perguntas. Quanto mais ignoramos o processo de descoberta e esforço, mais achamos que o sistema funciona. Não tenho tanta certeza disso.
Quando estava no ensino médio, encontrei o Cliff’s Notes na livraria.
Havia resumos curtos de todas as obras literárias que meus professores haviam designado. Comprei alguns. Descobri que poderia passar trinta minutos para entender o essencial, em vez de nove horas lendo o livro. Isso me renderia um B nas provas e, às vezes, um A.
Mas então percebi um problema. Eu era incapaz de ter conversas com outras pessoas sobre o livro. Elas tinham relatos de experiências emocionais e emoções por terem realmente lido o livro. Eu não tinha nada disso. Quem era o idiota aqui? Eu estava me privando de uma experiência maravilhosa: realmente ler o livro.
Conhecer os personagens, o enredo e a conclusão são apenas dados. O que eu não tinha era a experiência transformadora de entrar em outro mundo criado pelo autor. Eu não tinha nada memorável.
Então, por minha própria decisão, parei de fazer isso. Percebi que obter as respostas corretas na prova não era o objetivo.
O objetivo era aprender, passar pelas etapas, ter a experiência da descoberta, treinar a mente. Os alunos que fizeram isso se tornaram inteligentes e até sábios. Aqueles que não fizeram isso permaneceram no mesmo lugar. Eventualmente, todos os alunos descobrem como manipular o sistema. Isso é especialmente verdadeiro na pós-graduação. Os professores querem ser elogiados e os alunos descobrem como fazer isso, sem ler nenhum dos materiais. Esses são os cínicos. Eu conhecia muitos deles.
Nunca consegui entender por que eles se davam ao trabalho.
Claro, eles foram aprovados, mas com que finalidade?
Infelizmente, todo o nosso sistema educacional gira em torno de testes. Os testes são elaborados para descobrir se os alunos obtêm as respostas corretas. Um sistema como esse sempre será manipulado. Torna-se uma questão de passar em testes de verdadeiro/falso e múltipla escolha. Com os computadores, é ainda pior. É um hábito que dura 18 anos.
Isso não é pensar. Isso é treinar robôs.
A IA só aumenta o problema, tirando a luta e o processo de tudo. Lutar para chegar de um ponto a outro é a única maneira de desenvolver a capacidade intelectual.
Às vezes, olho para trás e me lembro de quanto tempo passei praticando música, aprendendo a tocar trombone, piano e violão, escrevendo partituras em papel pautado que ouvia nos discos, sentado em salas de ensaio e participando de competições.
Foi tudo um desperdício porque não segui essa carreira? De forma alguma. Eu estava aprendendo a praticar para melhorar.
Anos mais tarde, passei de um entusiasmo intelectual para outro. Por um tempo, fiquei obcecado pelo que se chama escatologia, a teoria teológica de como o mundo vai acabar. Devo ter lido entre 60 e 100 livros sobre o assunto. Agora não me importo muito com isso, então desperdicei meu tempo? De forma alguma. Eu estava treinando meu cérebro para funcionar.
É por isso que os pais não devem se arrepender quando seus filhos ficam obcecados pelos livros de Harry Potter e os leem cinco vezes. Essa é uma maneira fabulosa de aumentar a capacidade mental. Na verdade, qualquer coisa perseguida com paixão e diligência combate a preguiça intelectual.
Esse é o problema. A IA é uma tecnologia da preguiça. Nós gostamos disso. Gostamos demais disso. No momento, a IA parece mágica porque está sendo associada a pessoas que pensam. (Este é outro ponto retirado do Dr. Levi.)
O que acontecerá quando as pessoas pensativas desaparecerem gradualmente e forem substituídas por pessoas doentes, preguiçosas e irrefletidas, incapazes de gerar respostas por conta própria?
Isso será o fim do mundo. Talvez meus livros sobre escatologia ajudem mais do que eu imagino.
No momento, os grandes modelos de linguagem que utilizei frequentemente estão errados, muitas vezes até mesmo muito errados. Normalmente consigo identificar os erros, pelos quais o mecanismo de IA não tem nenhuma responsabilidade. Normalmente falamos dessas alucinações como um problema. Talvez não.
A única coisa pior do que um sistema de IA que está esporadicamente errado é um que está sempre certo. É o último que tem mais chances de gerar preguiça e estupidez.
Conselho para o WalMart: não construa nenhum sistema em suas cadeias de suprimentos cuja funcionalidade dependa totalmente de uma tecnologia implantada recentemente e que ninguém realmente compreende. Se o fizer, você descobrirá que sua resiliência como varejista líder mundial é vulnerável à concorrência de empresas que valorizam as pessoas, o julgamento e a sabedoria em vez de máquinas sem alma que produzem bobagens sem consciência.
As opiniões expressas neste artigo são as opiniões do autor e não refletem necessariamente as opiniões do Epoch Times
