Quando a IA erra: estudo sobre células-tronco vira piada por causa de imagem

A inteligência artificial (IA) e a geração de imagens estão cada vez mais em alta. É crescente a preocupação com notícias falsas que a IA pode criar, ou até desinformações que podem acontecer quando a IA não é usada com sabedoria.

Um rato incomum

Recentemente, uma situação peculiar resultou na retirada de um artigo da revista científica ‘Frontiers in Cell and Developmental Biology’, o estudo incluía uma figura gerada por IA.

Ao utilizarem inteligência artificial para gerar imagens que deveriam ilustrar suas descobertas, uma delas, que retratava um rato com aspectos anatômicos grotescos e erros, chamou mais atenção que o próprio conteúdo da pesquisa.

A imagem foi considerada no mínimo bizarra pela comunidade científica. Os pesquisadores tiveram de remover do ar o trabalho científico que continha tal ilustração.

O estudo que causou polêmica na publicação científica era sobre células-tronco. Os cientistas investigavam as propriedades e o potencial terapêutico dessas células em regeneração de tecidos.

Rato feito por IA causou um alvoroço entre cientistas – Imagem: Frontiers in Cell and Developmental Biology/Reprodução

A imagem exibia um rato desenhado pelo Mid Journey que, além de características estranhas, continha vários falhas de digitação e células que não correspondiam à anatomia do animal.

Mas, por fim, a revista pediu “desculpas à comunidade científica pelo erro e agradeceu aos seus leitores que rapidamente trouxeram isso à atenção”.

O que aprendemos com tudo isso?

Essa situação destaca a importância de prestar atenção ao depender da IA. A inteligência artificial pode gerar informações imprecisas e erradas, o que prejudica vários aspectos da realidade.

É fundamental que os cientistas e pesquisadores estejam atentos à qualidade e à precisão das informações geradas pela inteligência artificial, especialmente quando se trata de publicações científicas.

Além disso, a utilização responsável dessa tecnologia é essencial para evitar consequências negativas, como disseminação de desinformação e perda de confiança na ciência.

Os pesquisadores devem garantir que os algoritmos de IA sejam treinados com dados precisos e relevantes, e que os resultados sejam verificados cuidadosamente antes de serem utilizados em estudos e pesquisas.

Resumindo, sabemos que, embora a inteligência artificial ofereça muitas oportunidades e avanços na geração de imagens e em outras áreas, é crucial exercer cautela e responsabilidade ao aplicá-la.

A confiança na IA só pode ser mantida se ela for empregada de forma ética e cuidadosa, garantindo que as informações geradas sejam precisas e confiáveis.