Uma equipe de cientistas listou vários de seus riscos e propôs 3 princípios para se defender contra a “tirania da tecnologia”.
Recentemente, uma equipa internacional de especialistas em humanidades examinou como o julgamento e os valores humanos são frequentemente subservientes ao imperativo de eficiência da inteligência artificial (IA) e por que os custos podem ser elevados. A equipe explica que embora a IA tenha um grande potencial para beneficiar a sociedade, é necessário saber o que pode dar errado com o seu uso, pois é importante levar em conta o seu lado negro.
Quando a IA falha, acontece “de forma bastante espetacular”, diz Vern Glaser, professor da Escola de Negócios da Universidade de Alberta, no Canadá. “Se você não tentar pensar ativamente nas implicações de valor, acabará criando resultados ruins”, enfatiza.
Os perigos já estão se manifestando
Em seu estudo, publicado recentemente no MIT Sloan Management Review, os pesquisadores defenderam seu ponto de vista com vários casos reais de resultados desastrosos da implementação de IA. Por exemplo, quando o chatbot Tay foi introduzido no Twitter em 2016, foi removido em 24 horas porque os trolls o ensinaram a desenvolver uma linguagem racista.
Embora a IA prometa trazer enormes benefícios para a sociedade, também começamos agora a ver o seu lado mais sombrio, disseram os analistas. Mais recentemente, alguns especialistas, como Lawrence Martin, apontam para as possibilidades distópicas da IA, incluindo armas que podem disparar sem supervisão humana , ataques cibernéticos, falsificação e campanhas de desinformação.
Comprometer valores para ganhar eficiência?
Os especialistas apoiaram suas análises na noção de “técnica” do filósofo francês Jacques Ellul, apresentada em seu livro ‘A sociedade tecnológica’, de 1954, segundo a qual cada campo da atividade humana é determinado pelos imperativos de eficiência e produtividade. “Ellul foi muito presciente”, escreveram eles. “Seu argumento é que quando você passa por esse processo técnico, você está inerentemente removendo valores e criando esse mundo mecânico onde seus valores se resumem essencialmente à eficiência ”, observaram.
Três princípios fundamentais
Para se proteger da “tirania da técnica” da IA, os especialistas sugerem aderir a três princípios:
- Reconheça que, como os algoritmos são matemáticos, eles se baseiam em representações digitais de fenômenos reais. Um exemplo disso é que as redes sociais medem a amizade pelo número de amigos que um usuário tem ou pelo número de ‘curtidas’ que ele recebe dos amigos nas postagens. “Isso é realmente uma medida de amizade?”, perguntam.
- Os designers de IA devem inserir estrategicamente intervenções humanas na tomada de decisões algorítmicas e criar sistemas avaliativos que levem em conta múltiplos valores.
- Por último, a IA que incorpora valores humanos requer supervisão vigilante contínua para evitar que o seu terrível potencial emerja.
Os analistas apontam que a IA é simplesmente um reflexo de quem somos, no que temos de melhor e de pior. “Sem uma boa e cuidadosa olhada no espelho, este último poderia assumir o controle”, disseram eles. “ Queremos ter certeza de que entendemos o que está acontecendo, para que a IA não nos controle ”, concluíram.
-
Por RT News.
