CONTRA A GUERRA DESUMANIZADA

As armas autônomas selecionam e atacam alvos sem intervenção humana. Elas incluem, por exemplo, um helicóptero quadrimotor armado capaz de localizar e eliminar pessoas segundo determinados critérios pré-definidos, mas não incluem mísseis de cruzeiro ou drones pilotados remotamente, cujas decisões sobre os alvos são todas tomadas por seres humanos. A tecnologia de inteligência artificial (IA) chegou a um ponto em que a utilização desse sistema é possível – na prática, mesmo que não na lei – dentro de anos, não décadas. As apostas são altas: as armas autônomas têm sido descritas como a terceira revolução da indústria bélica, depois da pólvora e das armas nucleares.

[texto original]

Muitos argumentos foram usados a favor e contra armas autônomas: por exemplo o de que substituir soldados humanos por máquinas é bom, por reduzir o número de vítimas entre quem as possui; mas ruim, por rebaixar os limites do que significa ir à guerra. Hoje, a questão chave para a humanidade: vamos iniciar uma corrida global por armas de Inteligência Artificial ou evitar que ela se inicie? Se uma grande potência militar qualquer tomar a dianteira no desenvolvimento de armas de IA, uma corrida armamentista global será inevitável, e o fim dessa trajetória tecnológica parece óbvio: armas autônomas serão os fuzis Kalashnikov de amanhã.

Ao contrário das armas nucleares, elas não requerem matéria-prima cara ou difícil de obter, de modo que se tornarão onipresentes e baratas para produção em massa por todas as potências militares importantes. Será apenas uma questão de tempo até que apareçam no mercado clandestino e nas mãos de terroristas, ditadores querendo controlar melhor sua população, senhores da guerra desejando executar limpezas étnicas etc. Armas autônomas são ideais para tarefas como assassinatos, desestabilizando nações, subjugando populações e matando seletivamente um grupo étnico particular. Acreditamos portanto que uma corrida por armas de IA não seria benéfica para a humanidade. Há várias maneiras por meio das quais a inteligência artificial pode tornar o mundo mais seguro para os seres humanos, especialmente civis, sem criar novas ferramentas para matar pessoas.

Assim como a maioria dos químicos e biólogos não têm interesse em construir armas químicas ou biológicas, a maioria dos pesquisadores de IA não têm interesse em construir armas de IA – e não querem que outros manchem sua área fazendo isso. Tal passo criaria uma grande oposição contra a inteligência artificial, o que poderia restringir seus benefícios sociais futuros. De fato, químicos e biólogos têm apoiado amplamente os tratados internacionais de proibição de armas químicas e biológicas, assim como a maioria dos físicos apoiaram os tratados que proíbem armas nucleares espaciais e armas laser que causam cegueira.

Em suma, acreditamos que IA tem grande potencial para beneficiar a humanidade de várias maneiras, e sua meta deveria ser essa. Iniciar uma corrida armamentista militar de IA é má ideia, e a prevenção deveria ser a proibição de armas autonômas ofensivas além de significativo controle humano.

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / Change )

Twitter picture

You are commenting using your Twitter account. Log Out / Change )

Facebook photo

You are commenting using your Facebook account. Log Out / Change )

Google+ photo

You are commenting using your Google+ account. Log Out / Change )

Connecting to %s