Em uma carta aberta assinada por mais de 2 mil pessoas, incluindo Elon Musk, a Future of Life Institute pede a interrupção do desenvolvimento de IAs que superem o ChatGPT-4; entenda o que isso significa
O Future of Life Institute, uma organização sem fins lucrativos, publicou recentemente uma carta aberta em que alerta sobre os riscos que o desenvolvimento de inteligências artificiais (IA) cada vez mais poderosas pode trazer para a sociedade. O documento foi incitado principalmente pelo lançamento do ChatGPT-4, mas também por IAs geradoras de imagem, como Midjourney e Dall-E. Recentemente, imagens criadas por essas ferramentas enganaram usuários nas redes e levantaram questionamentos não apenas sobre o que é arte, mas também sobre o possível impacto negativo que elas podem ter no fluxo de desinformação e no mercado de trabalho.
O documento foi assinado por mais de mil pessoas e organizações ligadas à área de tecnologia, e pede para que as pesquisas envolvendo IAs sejam interrompidas por pelo menos seis meses, para que se possa ter ideia de como essas ferramentas podem pesar na sociedade. Ainda é sugerido que, se a pausa não for decretada rapidamente, os governos devem intervir e estabelecer um prazo. A carta foi assinada pelo CEO do Twitter, Elon Musk, e publicada pelo instituto na última quinta-feira (31). Nas próximas linhas, saiba tudo sobre a publicação e como ela pode impactar o mundo da inteligência artificial.
 |
| Future of Life é uma organização sem fins lucrativos responsável pela carta aberta — Foto: Reprodução/Júlio César Gonsalves |
O que é a carta aberta sobre inteligência artificial? Quem assinou?
A carta aberta sobre inteligência artificial é um documento desenvolvido pela organização Future of Life Institute, focada em estudos sobre tecnologia e seus impactos na sociedade. Com o documento, a instituição busca chamar atenção para os potenciais perigos da corrida desenfreada pelo desenvolvimento de IAs cada vez mais poderosas - que, atualmente, tem acontecido sem o devido planejamento ou pesquisa aprofundada sobre seus efeitos na sociedade.
A carta aberta para a pausa das IAs destaca que os sistemas de inteligência artificial atuais, como o ChatGPT - 4 e Dall-E, estão se tornando competitivos, o que pode levar a humanidade à obsolescência em diversas tarefas. Além disso, o documento da Future of Life também aponta para o risco de que canais de comunicação sejam inundados com propagandas e fake news - estas últimas, vale frisar, cada vez mais potencializadas pelo poder das IAs, que agora criam imagens extremamente realistas.
 |
| ChatGPT é uma das principais inteligências artificias do momento — Foto: Divulgação/Pexels |
A carta ainda aponta para a necessidade dos governos tomarem ação em relação ao desenvolvimento desenfreado das IAs, além de propor uma interrupção temporária nas pesquisas por inteligências artificiais mais poderosas do que a nova versão do ChatGPT. Vale frisar, porém, que não é proposta uma pausa completa, e sim um retrocesso na produção de sistemas cada vez maiores e imprevisíveis. Isto porque, como tudo é ainda muito incipiente, não é possível mensurar por ora o possível impacto real dessas tecnologias na sociedade, e lançar IAs cada vez mais poderosas sem ter esse conhecimento pode ser negativo a longo prazo.
Como forma de justificar essas preocupações, a carta traz uma declaração dada própria OpenAI, desenvolvedora do ChatGPT, em um de seus documentos sobre inteligência artificial:
“Em algum momento pode ser importante obter uma revisão independente antes de começar a treinar sistemas futuros e para os esforços mais avançados concordar em limitar a taxa de crescimento da computação usada para criar novos modelos".
A carta foi assinada por mais de duas mil pessoas, incluindo Elon Musk, Emad Mostaque (fundador da Stability AI), Steve Wozniak (cofundador da Apple), o cientista cognitivo Gary Marcus, e engenheiros da Amazon, DeepMind, Google, Meta e Microsoft. Vale lembrar que as últimas três empresas mencionadas têm investido cada vez mais em novidades geradas por IA.
O que as instituições buscam com a carta aberta?
Os principais objetivos da carta são propor uma pausa no desenvolvimento de inteligências artificiais mais poderosas do que o ChatGPT-4 por pelo menos seis meses, para que seja possível entender todos os efeitos que esse tipo de sistema terá sobre a sociedade. O documento também chama a atenção para a necessidade de um desenvolvimento responsável e com o devido planejamento desse tipo de tecnologia, além da criação de sistemas robustos de governança de IA para guiar projetos futuros. Em um dos trechos, a carta resume bem alguns de seus principais objetivos:
“A pesquisa e o desenvolvimento de IA devem ser reorientados para tornar os sistemas avançados e poderosos de hoje mais precisos, seguros, interpretáveis, transparentes, robustos, alinhados, confiáveis e leais.”
Por que a carta foi liberada agora?
A carta foi liberada devido à preocupação de diversos especialistas sobre os efeitos da inteligência artificial na sociedade. São exemplos disso a automatização de algumas tarefas e diminuição dos postos de trabalho. De acordo com a carta, essa preocupação ficou mais clara após o lançamento do ChatGPT-4, que mostrou capacidades mais impressionantes do que seu antecessor.
Além disso, grandes empresas como o Google e a Meta também entraram nessa corrida - o que leva, segundo a carta, a um desenvolvimento desenfreado e sem o devido planejamento para entender ou mitigar possíveis riscos. Vale lembrar que, no início de março, a gigante de buscas liberou sua IA, o Bard, para testes nos EUA e no Reino Unido. Além disso, a dona do Facebook, WhatsApp e Instagram anunciou a criação de uma equipe focada em desenvolvimento de IA.
A expectativa com isso é de que sejam lançadas cada vez mais ferramentas desse tipo - o que, sem o devido cuidado, pode ser preocupante a longo prazo.
Instituições como a OpenAI já se manifestaram?
O CEO da OpenAI, Sam Altman, já fez suas primeiras manifestações sobre a carta aberta. Em um tuíte publicado na quinta-feira, ele declarou: “Muita calma no olho do furacão”. Ele também afirmou que a carta “prega para convertidos” e que os problemas citados já estão sendo discutidos há mais tempo e com intensidade.
Vale lembrar que também há especialistas que criticam o conteúdo da carta, especialmente no que diz respeito à substituição de pessoas no mercado de trabalho por inteligências artificiais. Alguns estudiosos afirmam que esse tipo de efeito ainda é muito difícil de prever - porém, isso não retira as demais preocupações sobre os impactos das IAs, principalmente no que diz respeito ao fluxo de fake news.
 |
| OpenAI é a criadora do ChatGPT — Foto: Getty Images |
Qual é o impacto que isso pode ter?
A carta aberta reacende o debate sobre os perigos e benefícios das inteligências artificiais para a humanidade. Enquanto alguns defensores afirmam que as IAs já estão trazendo benefícios sociais e econômicos para as pessoas, outros sustentam a ideia de que essa tecnologia carrega um potencial catastrófico.
De maneira geral, o documento traz um novo destaque para preocupações que já estão em pauta na sociedade, inclusive a nível governamental. Países como EUA, Reino Unido e até mesmo Brasil estudam propostas para a regulamentação dessas tecnologias, embora, por ora, o Reino Unido tenha descartado a criação de um regulador dedicado à IA.
Caso queira, você pode ler a carta na íntegra aqui.
Com informações de Future of Life, The Guardian, BBC (1 e 2), CNBC, Twitter e Yahoo
-
Por TechTudo.
