Nova descoberta da OpenAI é um alerta para a humanidade

Nos últimos dias, a OpenAI tem estado no centro das atenções no universo da tecnologia, com a controvérsia em torno da demissão — e subsequente recontratação — do CEO Sam Altman, uma figura emblemática na área de inteligência artificial generativa.

Apesar do anúncio de seu retorno ao cargo, muitas incertezas persistem em relação às circunstâncias de sua demissão.

Uma carta que sacudiu a OpenAI

Imagem: Shutterstock/PopTika

Uma recente reportagem da Reuters lança luz sobre os bastidores e os eventos que culminaram na destituição do líder da empresa-mãe do ChatGPT.

Conforme revelado, pesquisadores enviaram uma carta ao conselho de administração alertando sobre uma descoberta classificada como uma potencial ameaça à humanidade.

O material indica que Altman mencionou o avanço durante uma conferência no dia anterior à sua inesperada demissão.

A carta, considerada um dos fatores-chave para a saída do CEO, abordou preocupações cruciais, incluindo a cultura de priorizar o lucro em detrimento da compreensão das consequências dos avanços tecnológicos em inteligência artificial na vida das pessoas.

A principal inquietação manifestada na carta gira em torno de um notável progresso no chamado ‘Q*’ (lê-se Q-Star), um modelo que pode ter alcançado o que a OpenAI denomina como Inteligência Artificial Geral (AGI, na sigla em inglês).

A AGI é definida pela OpenAI como “sistemas autônomos que superam humanos em atividades economicamente mais valiosas”.

As informações sugerem que o modelo é capaz de resolver problemas matemáticos, representando um avanço significativo na pesquisa de inteligência artificial. Atualmente, a matemática é vista como um fator limitante no desenvolvimento dessa tecnologia.

Enquanto a IA generativa demonstra eficácia em trabalhar com textos e traduções, a resolução de problemas matemáticos — nos quais existe apenas uma resposta exata — tem sido desafiadora.

Superar essa barreira implica que o modelo tem potencial para se aproximar da capacidade de raciocínio humano.

Conforme relatado pela Reuters, a carta destacou tanto os benefícios quanto os potenciais prejuízos que o avanço da OpenAI poderia acarretar.

No entanto, as fontes consultadas pela agência de notícias britânica não forneceram detalhes sobre os riscos potenciais mencionados no documento.

A revelação desta descoberta revolucionária pela OpenAI desencadeou um desafio ético para o futuro da inteligência artificial, suscitando questionamentos sobre como a sociedade deve lidar com tais avanços tecnológicos e quais são os possíveis desdobramentos para a humanidade.