5 máquinas que se levantaram contra os humanos

Se você estava online na hora errada na semana passada, ouviu uma história sobre uma simulação da Força Aérea que deu terrivelmente errado. Um drone foi programado para completar uma missão e, quando seu operador tentou pará-lo, o drone o mirou. Então, descobriu-se que essa história não era verdadeira. Ninguém jamais programou tal simulação – alguém apenas especulou sobre como a IA pode ser desonesta, como as pessoas fazem há décadas, e os meios de comunicação relataram incorretamente a situação imaginária como um fato.

Muitas pessoas se afastaram desse ciclo de notícias concluindo que os robôs assassinos representam pouca ameaça, afinal. Não nós. Nós, continuamos a desconfiar de todas as máquinas. Temos uma arma apontada para nossa torradeira o tempo todo (observando desconfortavelmente que a arma também é uma máquina). Sabemos que as máquinas têm uma longa história de maldade, baseada em incidentes como o tempo em que...

Um robô de xadrez geralmente é um simples software. Ele surge com movimentos de xadrez, e o competidor humano os vê usando algum dispositivo não muito diferente daquele que você está usando para ler este artigo. Um robô de xadrez também pode ser uma máquina física, que move peças reais em um tabuleiro real. Temos uma longa história de tais robôs, desde antes de serem possíveis e eram apenas um cara em uma caixa fingindo ser um robô.

Um desses robôs de xadrez apareceu no Aberto de Moscou em julho passado. Abaixo está uma filmagem dele competindo com várias crianças simultaneamente - o que não é uma conquista real. Um jogador de xadrez humano poderia fazer a mesma coisa, e não há razão para que um robô ache a alternância entre três jogadores mais difícil do que jogar apenas um. Não, a verdadeira realização é o que mais isso faz com uma das crianças:

via CNN

Sim, ele estende a mão e fratura o dedo da criança depois que ela vai para uma peça fora de curva. Alguns relatos dizem que o robô respondeu com raiva punindo a criança. Na verdade, mirou em uma peça e acidentalmente pressionou o dedo errante, mas essa distinção trouxe pouco conforto ao menino. Nas telas seguintes, vemos oficiais levando-o para receber a eutanásia, pois ele não serve mais à nação como competidor.

via CNN

Falando sério: o garoto voltou no dia seguinte engessado e terminou o torneio, já que um dedo quebrado não é grande desvantagem. Você não precisa de todos os seus dedos. Os robôs sabem disso muito bem. Na verdade, eles estão contando com isso.

A primeira vez registrada em que um robô matou alguém foi em 1979. Como no incidente de Moscou, o problema foi que demos armas aos robôs. Não armas - braços, membros de metal que eles podem usar para manipular objetos. Um robô bateu com o braço na cabeça de um homem, matando-o.

Siaopan/Wiki Commons

Como todas as boas histórias de robôs, esta aconteceu em Michigan. Robert Williams, 25, trabalhava em uma fábrica da Ford que fabricava peças automotivas. Era trabalho de um robô recuperar peças de uma prateleira, mas, por algum motivo, Williams foi designado para subir e fazer o trabalho sozinho. Era porque o robô era muito lento, sua família reclamaria mais tarde no tribunal. Mesmo com Williams agora empoleirado nesta prateleira, o robô continuou a operar, sem que ele percebesse. Ele moveu seu braço para um espaço agora ocupado pela cabeça de Williams. Ele morreu imediatamente. Então o robô continuou trabalhando e ninguém percebeu o que havia acontecido até meia hora depois, quando olharam para a prateleira e viram o cadáver.

Este caso envolveu uma certa quantidade de erro humano, e um júri levou isso em consideração quando a família processou posteriormente. Ainda assim, certamente o fabricante do robô poderia ter incluído algum tipo de sinal sonoro para sinalizar quando o robô está se movendo, assim como a maioria dos veículos em um depósito emite bipes de alerta. Por esse motivo, o júri considerou o fabricante do robô (não a Ford) responsável por US$ 10 milhões, posteriormente aumentado para US$ 15 milhões. E todos nós aprendemos uma lição importante sobre a segurança do robô. Essa lição durou dois anos, até deixarmos o próximo robô matar outro operário de fábrica, empurrando-o contra uma retificadora.

Como esses robôs não têm a intenção de matar, essas histórias podem não soar tão diferentes de qualquer acidente industrial convencional envolvendo uma máquina. Ao que dizemos: Tudo bem. As máquinas por trás de tais acidentes merecem ser envergonhadas com a mesma intensidade, quer alguém se refira a elas como um robô ou não. Por exemplo, considere a história do Therac-25.