Quem vai prender a IA do Trump no drone do Putin? (por Felipe Sampaio)

Aconteceu finalmente! Um drone russo pilotado por uma IA dos EUA decidiu, por si próprio, matar três civis na Ucrânia. A palavra-chave aqui é “decidiu”. A pergunta-chave é “por que?”. Ou seja, por que uma arma decide que três pessoas abastecendo o carro representam uma ameaça de guerra a ser bombardeada? Foi uma tragédia histórica. Um ponto de virada. Uma máquina decide que seres humanos representam um risco e simplesmente atira contra eles, sem submeter sua decisão a nenhuma autorização superior humana.

Houve dilemas semelhantes em filmes de ficção onde computadores ou robôs tomam o controle de espaçonaves, aviões, armamentos e governos. Mas, na vida real é a primeira vez. Por que? A questão é polêmica. Assim que vi a TV noticiar o ataque do drone russo aos civis, comecei a perguntar a amigos (diplomata, militar, servidor público, político, empresário de TI e da sociedade civil) quem deveria ser responsabilizado pelo homicídio doloso praticado por um cérebro digital que resolveu emboscar e assassinar seres humanos inocentes.

Seis especialistas deram seis respostas diferentes: O próprio drone como efeito colateral; o operador do drone; o fabricante do drone; o fabricante do chip IA; o comandante da operação; a autoridade que comprou o drone… Uma pergunta foi frequente nas conversas: quem é o culpado quando alguém é morto por uma pistola, ou um míssil? Porém, no ataque na Ucrânia tem um detalhe que muda tudo. A máquina decidiu matar aquelas pessoas. Uma pistola e uma bomba não decidem matar pessoas. Não se dá voz de prisão a um revólver, nem mesmo ao seu fabricante, se a arma estiver em perfeito estado de funcionamento.

Aqui temos outra questão delicada no debate das armas autônomas. Que critérios um chip com IA utiliza para avaliar se alguém ou algo representa uma ameaça passível de eliminação? Por que um chip de uma empresa norte americana (Nvidia), implantado em um drone militar russo, sobrevoando a Ucrânia, concluiu que três pessoas comuns tocando seu dia a dia urbano deveriam ser bombardeadas? Pior ainda, a IA avaliou que aquelas pessoas seriam uma ameaça a quem? À Rússia? Ao drone? Ao chip? À Nvidia? Aos EUA? À humanidade? À vida? Ou representariam alguma espécie de ameaça aleatória genérica? Que características e atitudes sutis aquelas pessoas apresentavam naquele instante que fizeram com que a IA de Trump no drone de Putin identificasse uma ameaça digna de assassinato?

Os chips de IA, dotados de capacidade de aprendizado (machine learning), são fabricados e treinados para aprenderem respeitando parâmetros, critérios e propósitos pré-estabelecidos. Uma IA médica não toma decisões sobre engenharia hidráulica. Sendo assim, que tipo de ensinamento o fabricante do chip IA, o fabricante o drone, o comandante da operação, o ministro da Defesa, ou o presidente do País, estão introduzindo nos seus armamentos? Que acontece se a polícia utilizar drones autônomos em operações nas favelas e um chip com IA decidir que as crianças num parquinho representam uma ameaça a ser executada? Será que pobres e negros, por exemplo, parecerão mais ameaçadores? Tomara que aprendamos a lição com 2001 Uma Odisseia no Espaço e Matrix (antes que a IA o faça).

Felipe Sampaio: Chefiou a assessoria especial do Ministro da Defesa; dirigiu a área de estatísticas no Ministério da Justiça; ex-secretário executivo de Segurança Urbana do Recife; foi diretor de programa no Ministério do Empreendedorismo; sócio da Terra Consultoria e Inovação; cofundador do Centro Soberania e Clima; com atuação em grandes empresas, organismos internacionais e terceiro setor.