Experts de IA: tempo está acabando para evitar desastre da guerra robótica

Especialistas em inteligência artificial (IA) e robótica de todo o mundo alertaram as Nações Unidas (ONU) sobre as consequências potencialmente desastrosas da corrida internacional para desenvolver armas controladas por programas de computador autônomos.

Um total de 116 fundadores de companhias da área assinaram uma breve e discreta carta à ONU na segunda-feira (21), advertindo que, uma vez desenvolvidas, as armas de IA “permitirão conflitos armados a uma escala nunca vista antes e a intervalos de tempo mais rápidos do que os humanos podem compreender”.

“Não temos muito tempo para agir”, escreveu o grupo. “Uma vez que esta caixa de Pandora for aberta, será difícil fechar. Portanto, imploramos às altas instâncias respectivas que encontrem uma maneira de nos proteger de todos esses perigos.”

O grupo de especialistas abrange quatro continentes e é composto por fundadores das principais empresas de IA e robótica, incluindo Elon Musk, CEO da Tesla e SpaceX, e Mustafa Suleyman, co-fundador da empresa de IA DeepMind.

Os especialistas advertiram que as tecnologias que suas empresas estão criando poderiam ser usadas por governos mundo afora para desenvolver o armamento de IA. “Estas podem ser armas de terror, armas que os déspotas e os terroristas usam contra populações inocentes e armas hackeadas que podem se comportar de maneiras involuntárias”, relataram.

Musk tem falado sobre os perigos da IA armada há anos. Ele disse recentemente que a ameaça é maior que os do risco de guerra nuclear com a Coreia do Norte.

“Se você não está preocupado com a segurança da IA, você deveria estar. Há muito mais risco do que a Coreia do Norte”, tuitou Musk no dia 11 de agosto.

Um piloto baseado em IA executado num computador de US$ 35 já demonstrou ser capaz de vencer um piloto real de combate treinado na Força Aérea dos EUA em um simulador de combate.— ‘Inteligência Artificial e Segurança Nacional’, estudo de julho de 2017, Harvard Kennedy School

As superpotências mundiais estão correndo para desenvolver sistemas de armas de IA, de acordo com a Human Rights Watch. Os Estados Unidos, a China, a Rússia, a Grã-Bretanha, Israel e a Coreia do Sul estão empenhados em se superar, podendo resultar na “terceira revolução da guerra”.

“Ao contrário de outras potenciais manifestações da IA, que ainda permanecem no campo da ficção científica, os sistemas de armas autônomas estão em pleno desenvolvimento no momento e têm um potencial muito real para causar danos significativos a pessoas inocentes, juntamente com a instabilidade global”, disse à CNN em 21 de agosto Ryan Gariepy, fundador da Clearpath Robotics e primeiro assinante da carta à ONU.

Máquinas de matar reacendem a discussão sobre os riscos da automação (Tsuneomp/Shutterstock)
Máquinas de matar reacendem a discussão sobre os riscos da automação (Tsuneomp/Shutterstock)

A mensagem dos especialistas em IA foi programada para coincidir com uma reunião da ONU com especialistas do governo em IA que havia sido cancelada. A reunião foi adiada para até novembro devido ao fato de alguns países membros não haverem pago suas dívidas.

O professor australiano Toby Walsh, que organizou a carta, instou a ONU a proibir robôs assassinos assim como proibiu o uso de armas químicas.

Leia também:
O futuro do trabalho: a batalha entre homem e máquina
O estridente recuo da Coreia do Norte e a tática Trump
Apple e Amazon expõem usuários na China
OGM 2.0: novo tipo de alimento geneticamente modificado
China usa guerra política para influenciar Estados Unidos
A transmissão de energia sem fios de Tesla pode virar realidade
De empreendedores da Terra até a Lua e além: privatizando o espaço
Incríveis invenções vindas de sonhos: Google, espadas lendárias e mais
China e Rússia assinarão acordo para lançar missões tripuladas à Lua

 
Matérias Relacionadas