Presidente da Telefónica afirma que, sem controle, desenvolvimento de IA gera risco existencial

“Nem tudo que a tecnologia é capaz de fazer é necessariamente bom ou socialmente aceitável”, ressalta José María Álvarez-Pallete; executivo também diz que desenvolvedoras não estão pensando em como evitar que IAs generativas saiam do controle
Presidente da Telefónica diz que "é hora de parar e pensar" em IA
José María Álvarez-Pallete, da Telefónica, diz que “é hora de parar e pensar” a respeito dos avanços em IA (crédito: Arduino Vannucchi/Telefónica)

Seguindo outros nomes importantes da indústria de tecnologia, o presidente e CEO do Grupo Telefónica, José María Álvarez-Pallete, levantou preocupações a respeito do desenvolvimento de aplicações com base em Inteligência Artificial (IA) generativa.

Em um post publicado em um blog, com o sugestivo título “IA: É hora de parar e pensar”, o executivo afirma que “uma IA generativa fugitiva ou sedenta de poder é um risco existencial”.

No texto, publicado na segunda-feira, 17, Álvarez-Pallete, também presidente da GSMA, associação que representa as operadoras de rede móvel em todo o mundo, aponta que “as próprias empresas que desenvolvem IAs generativas o fazem sem saber como interromper o processo quando a IA generativa adquire um grau de autonomia desenfreada”.

O presidente do Grupo Telefónica reforça as preocupações destacando que a velocidade de aprendizado dos atuais modelos de IA aumentou 100 milhões de vezes nos últimos dez anos. Além disso, segundo ele, no primeiro trimestre deste ano, as empresas que desenvolvem soluções de IA generativa receberam US$ 11 bilhões (aproximadamente R$ 54,68 bilhões), o mesmo valor aportado por investidores nelas ao longo dos dez anos anteriores.

Na visão de Álvarez-Pallete, é tempo de “decidir e determinar quais são os direitos e as obrigações de pessoas e máquinas neste mundo”. À semelhança do que houve no período da Revolução Industrial e com o advento da energia atômica, clama para que a humanidade não deixe “que isso saia do controle”.

“Nem tudo que a tecnologia é capaz de fazer é necessariamente bom ou socialmente aceitável”, frisa.

Em sua argumentação, o executivo também expressa preocupações com a possibilidade de IAs generativas criarem moléculas prejudicais aos seres humanos, propagarem campanhas de notícias falsas para corroer os sistemas democráticos ou serem usadas para desenvolver armar químicas ou cibernéticas.

Por fim, Álvarez-Pallete sinaliza que, se as IAs continuarem evoluindo de forma exponencial como no ritmo atual, provavelmente excederão as capacidades do cérebro humano. “É uma questão de valores. Devemos ser centrados nas pessoas. Os direitos das pessoas devem ser priorizados sobre qualquer outro critério”, pontua.

Corrida por IA

O lançamento do ChatGPT, chatbot de IA generativa desenvolvido pela OpenAI e disponibilizado ao público em novembro do ano passado, acelerou os investimentos em laboratórios e startups especializados em tecnologia de inteligência artificial.

A Microsoft, por exemplo, fez um aporte multibilionário na OpenAI e integrou o ChatGPT a seus serviços, como o buscador Bing e a plataforma de computação em nuvem Azure. Nesta semana, a dona do sistema Windows anunciou uma parceria para levar soluções de IA generativa ao setor de saúde.

Outras big techs, como Google e Amazon, também anunciaram investimentos e aplicações com base em IA.

A corrida pelo desenvolvimento de aplicações fez com que um grupo de especialistas em tecnologia, acadêmicos e empresários publicasse uma carta, no fim de março, pedindo uma pausa de seis meses no treinamento de IA em todo o mundo. Entre os signatários, estão Elon Musk (dono do Twitter, fundador da SpaceX e CEO da Tesla), Steve Wozniak (cofundador da Apple) e Yuval Noah Harari (professor e autor de Sapiens – uma breve história da humanidade), entre outras referências.

Também por meio de carta, alguns legisladores do Parlamento Europeu se manifestaram expressando preocupações e pedindo regras adicionais para regular IA, tecnologia que, segundo eles, deve ser “centrada no ser humano”. Eles também solicitam um encontro de alto nível entre autoridades para debater o assunto.

Enquanto isso, ao menos na União Europeia (UE), o ChatGPT virou alvo de uma força-tarefa do comitê especializado em proteção de dados, após países como França e Espanha abrirem investigações contra a ferramenta. As autoridades italianas foram mais rígidas e suspenderam o funcionamento da aplicação no país.

Avatar photo

Eduardo Vasconcelos

Jornalista e Economista

Artigos: 684