Um grupo de especialistas e líderes da indústria tecnológica, que incluem Elon Musk e o co-fundador da Apple, Steve Wozniak, partilharam uma carta aberta a apelar a uma pausa de seis meses no desenvolvimento de experiências com inteligência artificial que queiram copiar e melhorar o que o GPT-4 faz. Trata-se do modelo mais recente do laboratório de inteligência artificial OpenAI utilizado pelo programa ChatGPT para produzir textos, programar e analisar imagens como um ser humano. Elon Musk fez parte do grupo de fundadores em 2015.

“​[Estes] poderosos sistemas de inteligência artificial só devem ser desenvolvidos quando estivermos confiantes de que os seus efeitos serão positivos e de que os seus riscos serão controláveis”, lê-se na carta aberta, publicada nesta quarta-feira através do Future of Life Institute (Instituto para o Futuro da Vida, numa tradução livre para português), uma organização sem fins lucrativos que trabalha para reduzir os riscos da utilização de novos sistemas de inteligência artificial. Nos últimos anos, têm escrito bastante sobre armas autónomas.”

“Apelamos a todos os laboratórios de inteligência artificial para que parem imediatamente, durante pelo menos seis meses, a formação de sistemas de inteligência artificial mais potentes do que o GPT-4. Esta pausa deve ser pública e verificável, e incluir todos os actores-chave. Se tal pausa não puder ser decretada rapidamente, os governos deveriam intervir e instituir uma moratória”, pedem os co-signatários.

Os riscos identificados com tecnologia como o GPT-4 incluem a produção em massa de notícias falsas e o aumento do desemprego. “Devemos deixar que as máquinas inundem os nossos canais de informação com propaganda e mentira? Devemos automatizar todos os trabalhos, incluindo os que deixam as pessoas satisfeitas?”, são algumas das questões levantadas pela carta.

O comunicado surge dias depois de o Serviço Europeu de Polícia (Europol) ter alertado para a potencial má utilização de grandes modelos linguísticos, como o ChatGPT, em esquemas de desinformação e criminalidade online.

Estes modelos são treinados com enormes bases de dados para encontrar padrões em sequências e perceber qual é a melhor palavra para continuar uma ideia. A arquitectura por detrás da tecnologia foi partilhada pela primeira vez por investigadores da Alphabet (a empresa-mãe da Google) num artigo académico de 2017.

Nos últimos meses, várias empresas têm desenvolvido ferramentas semelhantes ao ChatGPT. A app de mensagens Snapchat foi alvo de críticas depois de lançar um chatbot para jovens que ajudava os mais novos a mentir aos pais e dava conselhos sobre como disfarçar o cheiro a álcool e drogas.

“A sociedade fez uma pausa sobre outras tecnologias com efeitos potencialmente catastróficos na sociedade. Podemos fazer isto aqui”, conclui a mensagem do Future of Life, dando como exemplo a eugenia, a prática destinada a melhorar a espécie humana através da selecção ou eliminação de certas características hereditárias que serviu de base às políticas raciais do século XX.

Às 11h30 desta quarta-feira, a carta já tinha sido assinada por mais de 1120 pessoas. Além de Musk e Wozniak, os co-signatários incluem o cientista de computação britânico Stuart Russel e o canadiano Yoshua Benfio, conhecido pelo seu trabalho com redes neurais artificiais (algoritmos que simulam o cérebro humano). Vários especialistas da DeepMind (a empresa de inteligência artificial da Google) também assinaram o documento.

Até agora, nenhum dos executivos da OpenAI assinou a carta. O PÚBLICO contactou o laboratório para mais informação, mas não obteve resposta até à hora de publicação deste artigo.

O Future of Life Institute é financiado em grande parte pela Musk Foundation, pela Silicon Valley Community Foundation e pelo Founders Pledge, um grupo de altruísmo efectivo com sede em Londres. Este é movimento filosófico que defende a distribuição de donativos e apoios com base em provas sobre onde terão mais resultado.

Elon Musk saiu do conselho de direcção da OpenAI em 2018. Durante o tempo em que apoiou o laboratório, forneceu cerca de 100 milhões de dólares (perto de 92 milhões de euros) para o desenvolvimento de vários projectos. Nos últimos meses, tem-se queixado do facto de a OpenAI — inicialmente uma organização sem fins lucrativos — se ter transformado numa empresa com lucro.