O problema da automação: como as máquinas podem nos destruir
problema da automação
Foto: Istock/Getty Images
Inovação > Tecnologia

O problema da automação: como as máquinas podem nos destruir

Pedro Katchborian em 19 de outubro de 2016

Cada vez mais a palavra inteligente aparecerá depois dos produtos. Casa inteligente, carro inteligente, celulares, relógios e assim por diante. A capacidade total da automação e da inteligência artificial é desconhecida totalmente e, segundo muitos especialistas, deve alcançar patamares que podem revolucionar toda a sociedade. Mas o problema da automação é que, a longo prazo, ela pode nos destruir. Ou ao menos destruir os humanos como conhecemos hoje. E não se trata, no caso, de robôs que vão assassinar todas as pessoas.

Em um longo texto no The Guardian, Tim Harford destrincha um pouco da história das máquinas e como cada vez mais somos dependentes dela. “”Nós deixamos computadores voarem aviões. Carros sem motoristas são os próximos. Mas nossa confiança na automação estaria diminuindo nossas habilidades de maneira perigosa?”, diz.

Para começar o questionamento, Tim cita um caso bem conhecido em que a máquina deixou o homem na mão — ou o contrário. O voo 447 da Air France, em maio de 2009, em que 228 pessoas morreram em um acidente de um avião que ia do Rio de Janeiro a Paris. Na época, debateu-se muito os motivos da queda, mas especialistas chegaram em um consenso de que o erro foi humano.

avião visto de baixo

Foto: Istock/Getty Images

Para Tim, a fonte de problema é um sistema que manteve a segurança do A330S por 15 anos: o fly-by-wire. Esse sistema de piloto automático deixa pouco trabalho nas mãos do piloto, que só precisam configurar e conferir os equipamentos. “Mais precisamente, o problema não era o fly-by-wire, mas o fato de que os pilotos confiável tanto nele”, diz. William Langewiesche, piloto profissional, escreveu em artigo de 2014 na Vanity Fair que o problema é que os pilotos não estavam prontos para tomar à frente em uma situação de emergência — muito por causa dessa confiança inabalável nas máquinas.

Esse problema da automação deve aparecer cada vez mais em uma sociedade dominada por algoritmos e inteligência artificial. Earl Wiener, mestre em segurança na aviação, cunhou as chamadas Lei de Wiener. Uma delas é a que “os aparelhos digitais consertam erros pequenos e criam oportunidades para os erros grandes“. E foi o que aconteceu no voo da Air France.

Embora seja relacionado a aviação, essa lei de Wiener se encaixa em diferentes campos. “Nós deduzimos que o computador está sempre certo, e quando alguém diz que o computador fez um erro, nós deduzimos que eles estão errados ou mentindo”, afirma Tim. Um exemplo dado é o de um ladrão em um shopping: e se o reconhecimento facial falhar e definir uma pessoa inocente como uma criminosa?

Segundo o autor, será cada vez mais difícil de questionar erros dos computadores. “Computadores estão lidando com informações em que não há a necessidade de humanos se envolverem ou entenderem o que está acontecendo”, diz.

Problema da automação: pessoas com menos conhecimento

Além dos erros das máquinas, essa dependência pode fazer o conhecimento das pessoas se tornar obsoleto. Gary Klein, um psicólogo especialista no estudo da tomada de decisão, resume o problema:

Quando os algoritmos estão tomando as decisões, pessoas constantemente param de trabalhar para ficar melhor. Os algoritmos podem tornar difícil diagnosticar razões para falhas.

Gary continua, afirmando que com o aumento desse problema da automação, o julgamento dessas pessoas pode ficar pior, o que criaria mais dependência ainda. Seria um círculo vicioso.

Essa teoria seria facilmente explicada pelos carros autônomos. Imagine uma sociedade em que a maioria dos veículos nas ruas se dirigem: nesse contexto, é bem capaz de que os seus filhos ou netos nunca precisem tirar carteira de motorista. Ou seja: as gerações que agora estão sofrendo na prova de direção podem ser as últimas de todas.

Isso significa que o que aconteceu com os pilotos do Air France pode acontecer com as pessoas no futuro, em relação aos carros autônomos.

Para Tim, uma solução alternativa para o problema da automação seria reverter o papel de computador e humano. Ao invés de deixar o computador pilotar o avião (ou o carro) com o humano posicionado para tomar controle em situação de emergência, talvez a melhor maneira seria o humano pilotar o avião com o computador monitorando a situação, pronto para intervir. “Computadores, afinal, estão sempre descansados, pacientes e não precisam treinar. Por que, então, pedimos para pessoas monitorar máquinas e não contrário?”, completa.

Gostou deste post? Que tal compartilhar:
Últimos
Trend Tags
Array ( [0] => 76 [1] => 222 [2] => 237 [3] => 115 [4] => 17 [5] => 238 [6] => 92 [7] => 125 [8] => 173 [9] => 16 [10] => 276 [11] => 157 [12] => 25 [13] => 66 [14] => 67 [15] => 62 [16] => 153 [17] => 127 [18] => 12 [19] => 19 [20] => 187 [21] => 69 [22] => 154 [23] => 175 )
Vídeos
Copyright © 2016 Free the Essence