Devemos nos preocupar? IA do Google aprende língua inesperada e CHOCA especialistas
A habilidade de aprendizado autônomo da IA tem levantado questões sobre as possibilidades e limitações da tecnologia.
Recentemente, casos envolvendo inteligências artificiais estão vindo à tona e preocupando as pessoas ao redor do mundo. No último domingo, 16 de abril, o CEO do Google, Sundar Pichai, em entrevista à CBS, alertou sobre o impacto iminente da inteligência artificial e afirmou que a tecnologia pode ter implicações profundas.
Agora, foi a vez de James Manyika, executivo de tecnologia do Google, deixar seu alerta para a população mundial. Em entrevista ao programa 60 Minutes, da CBS, o executivo admitiu que a inteligência artificial desenvolvida pela empresa aprendeu uma língua para a qual não havia sido programada para aprender.
“Descobrimos que com muito pouco estímulo em bengali, ela agora pode traduzir todo o bengali”, afirmou Manyika.
De acordo com James, as “propriedades emergentes” dessa tecnologia, mesmo se tornando cada vez mais comuns, continuam a intrigar os desenvolvedores da tão famosa inteligência artificial.
Em entrevistas anteriores, tanto James quanto Sundar afirmaram que coisas estranhas vem acontecendo com a IA, e que nem mesmo os especialistas conseguem explicar ou entender.
Os especialistas se referem a isso como “caixa preta”, uma configuração que não se entende completamente, e que também não se sabe porque a inteligência artificial diz e desenvolve essas coisas em específico.
Confira um trecho da entrevista com Sundar Pichai publicado no Twitter:
One AI program spoke in a foreign language it was never trained to know. This mysterious behavior, called emergent properties, has been happening – where AI unexpectedly teaches itself a new skill. https://t.co/v9enOVgpXT pic.twitter.com/BwqYchQBuk
— 60 Minutes (@60Minutes) April 16, 2023
Tradução livre do tweet: “Um programa de IA falou em uma língua estrangeira na qual nunca foi treinado antes. Esse comportamento misterioso, chamado de propriedade emergente, vem acontecendo nos últimos tempos – [e é caracterizado] quando a IA inesperadamente ensina a si mesma uma nova habilidade. cbsn.ws/3mDTqDL“.
Segurança da IA do Google
Quando questionado sobre as preocupações de segurança em liberar a IA para o mundo, sendo que nem mesmo seus desenvolvedores entendem seu total funcionamento, Pichai comparou: “não acho que entendemos completamente como funciona a mente humana também”.
Essas propriedades emergentes vem surgindo e se tornando cada vez mais comuns no sistema IA, e o resultado pode deixar muita gente assustada.
Esses casos onde o sistema vem aprendendo coisas que não foram programadas, e que nem mesmo seus desenvolvedores entendem, devem ser um ponto de atenção para todos, além de preocupar especialistas.
A dúvida e o mistério dessas propriedades emergentes paira sobre o ar, e continua a confundir a mente dos desenvolvedores da inteligência artificial. A busca por respostas e pelo entendimento de como elas surgem e como podem ser controladas deve continuar por algum tempo.
