Musk, Hawking, Wozniak pedem proibição de armas autônomas e IA militar para prevenir uma “corrida armamentista de IA militar”

Mais de 1.000 pesquisadores científicos e especialistas tecnológicos assinaram uma carta aberta pedindo que os governos do mundo proíbam o desenvolvimento de “armas autônomas ofensivas” para prevenir uma “corrida armamentista de IA militar”.

A carta, que será apresentada na Conferência Internacional Conjunta sobre Inteligência Artificial (IJCAI) em Buenos Aires, Argentina, amanhã, foi assinada por Elon Musk, da Tesla, Steve Wozniak, cofundador da Apple, Demis Hassabis, CEO da Google DeepMind, Noam Chomsky e o Professor Stephen Hawking, junto com dezenas de outros pesquisadores de IA e robótica.

A carta afirma: “A tecnologia de IA alcançou um ponto em que a implantação de [armas autônomas] é – praticamente se não legalmente – viável dentro de anos, não décadas, e as apostas são altas: armas autônomas foram descritas como a terceira revolução na guerra, após a pólvora e as armas nucleares.”

Os autores argumentam que a IA pode ser usada para tornar o campo de batalha um lugar mais seguro para o pessoal militar, mas que armas ofensivas que operam por conta própria diminuiriam o limiar para ir à batalha e resultariam em maior perda de vidas humanas.

A maior parte da carta se preocupa com veículos e robôs simples sendo convertidos em armas autônomas inteligentes. De acordo com a carta, mísseis de cruzeiro e drones pilotados remotamente estão ok porque “humanos tomam todas as decisões de alvo.” No entanto, o desenvolvimento de armas totalmente autônomas que podem lutar e matar sem interferência humana deve ser sufocado no nascedouro.

Aqui está um dos principais argumentos da carta:

A questão chave para a humanidade hoje é se devemos iniciar uma corrida armamentista global de IA ou prevenir que ela comece. Se qualquer grande potência militar avançar com o desenvolvimento de armas de IA, uma corrida armamentista global é virtualmente inevitável, e o ponto final dessa trajetória tecnológica é óbvio: armas autônomas se tornarão os Kalashnikovs do amanhã.

Mais tarde, a carta traça um forte paralelo entre guerra química/biológica e armas autônomas:

Assim como a maioria dos químicos e biólogos não tem interesse em construir armas químicas ou biológicas, a maioria dos pesquisadores de IA não tem interesse em construir armas de IA — e não quer que outros manchem seu campo fazendo isso, potencialmente criando uma grande reação pública contra a IA que limita seus futuros benefícios sociais.

O Future of Life Institute vai apresentar a carta na IJCAI. Não há clareza sobre a quem a carta foi endereçada, além dos pesquisadores e acadêmicos que estarão presentes nas conferências. É talvez destinada a aumentar a conscientização sobre a questão, para que não fechemos os olhos para qualquer pesquisa de armas autônomas sendo realizada por grandes potências militares.

Toby Walsh, professor de IA na Universidade de New South Wales, disse: “Precisamos tomar uma decisão hoje que moldará nosso futuro e determinará se seguimos um caminho de bem. Apoiamo a chamada de várias organizações humanitárias por uma proibição da ONU sobre armas autônomas ofensivas, semelhante à recente proibição de lasers cegantes.”

Elon Musk e Stephen Hawking já alertaram anteriormente sobre os perigos da IA avançada. Enquanto Hawking disse que a IA é “nossa maior ameaça existencial” e que o desenvolvimento de IA plena poderia “significar o fim da raça humana”, Musk disse que a IA é “potencialmente mais perigosa que armas nucleares.”

Recentemente, outros, incluindo Wozniak, mudaram de ideia sobre a IA, com o cofundador da Apple dizendo que robôs seriam bons para os humanos, tornando-os como “animais de estimação da família e cuidados o tempo todo”.

Discutindo o futuro da armamentação, incluindo os chamados “robôs assassinos” em uma conferência da ONU em Genebra em abril, o Reino Unido se opôs a uma proibição sobre o desenvolvimento de armas autônomas, apesar das chamadas de vários grupos de pressão, incluindo a Campanha para Parar Robôs Assassinos.