AI Slop: os conteúdos que invadiram a internet

Talvez você não saiba o que significa AI Slop ainda, mas provavelmente já passou por algum conteúdo que pode ser classificado como tal. De imagens de figuras religiosas cobertas por crustáceos à artigos científicos, os conteúdos de AI Slop já estão espalhados por toda a internet.

Neste artigo, vamos explorar o que faz com que um conteúdo seja definido como AI Slop, quais são os seus riscos e por que devemos nos preocupar com eles. Por fim, também abordaremos maneiras de utilizar ferramentas de IA como aliadas no processo de produção de conteúdos e informações e, ainda, como ser transparente sobre o uso delas.

O que é AI Slop e por que precisamos falar sobre isso?

O termo “slop” pode ser traduzido para o português como “desleixo”, sendo que no contexto de “AI Slop” remete a algo como “desleixo da inteligência artificial”. Não há uma certeza sobre quem cunhou o termo, mas ele tem sido usado para denominar conteúdos rasos e, na maioria das vezes, sem sentido gerados por inteligência artificial. Esses conteúdos vão desde vídeos e imagens, até artigos e textos “informativos”.

De Shrimp Jesus (Jesus Camarão, em tradução livre) a artigos científicos com informações questionáveis, esses conteúdos invadiram a internet e estão sendo produzidos e publicados em grande quantidade e em diversos portais e redes sociais diferentes.

A reação à esse tipo de conteúdo vai do divertimento à estranheza, mas nossa preocupação sobre o assunto deve ser ainda mais profunda. Além de ocupar o espaço de conteúdos desenvolvidos por pessoas reais, o que gera incômodo em muitos usuários, também causa desinformação, sensacionalismo e, ainda, pode gerar alucinações na própria base de dados das ferramentas de inteligência artificial.

Há mais de um motivo por trás da produção em massa desses conteúdos. A promessa de ganhos financeiros através do número de visualizações é um deles. Seja através de novelas e histórias no YouTube, “bandas” com milhares de ouvintes no Spotify ou até mesmo em conteúdos ligeiramente viciantes no feed das suas redes sociais favoritas. O AI Slop funciona perfeitamente bem para esses casos, pois o foco não é a qualidade do que está sendo entregue para os usuários, mas sim a atenção e retenção dessas pessoas.

Podemos citar também a busca por status com a tentativa de alimentar o algoritmo de algumas redes sociais usando ferramentas de IA para aumentar a produtividade, mas com pouco zelo quanto a qualidade do conteúdo produzido. Estes e outros fatores podem ser motivações por trás da produção de conteúdo com IA, mas as pessoas que estão por trás dessas produções desconsideram (ou ignoram) os riscos que elas podem causar.

Os riscos do AI Slop

Estes conteúdos gerados por Inteligência Artificial, para algumas pessoas pode ser visto apenas como uma brincadeira ou uma forma de entretenimento, mas esconde certos riscos que podem ser prejudiciais tanto para sociedade quanto para empresas.

Riscos para a sociedade

Parte destes conteúdos de AI Slop tem pouca, ou nenhuma, informação relevante sendo repassada. São conteúdos que contam com histórias genéricas com protagonistas como animais fofinhos, os chamados “vídeos satisfatórios” com conclusão de tarefas ou jogos e uma narração qualquer para acompanhar, imagens surrealistas, entre outras coisas que “sequestram” a atenção de milhares de usuários e os prendem por mais tempo em suas redes sociais. O uso excessivo das redes não é um debate recente, mas nunca deixou de ser recorrente à medida que analisamos o aumento da dependência e da necessidade de estar conectado sempre.

Mas, indo além da retenção dos usuários nesses conteúdos, devemos também nos preocupar com o risco de desinformação que eles podem causar. No quesito desinformação, há dois caminhos que devemos observar: o erro da ferramenta e a produção mal intencionada.

Em alguns casos, a ferramenta de Inteligência Artificial utilizada, que desenvolve suas respostas a partir da análise de um banco de dados, oferece como resultado um conteúdo com informações incorretas, imprecisas e até mesmo falsas. E isso pode acontecer por inúmeros motivos, desde um banco de dados com informações incorretas, até a programação da ferramenta de responder a qualquer pergunta mesmo quando não possui base para gerar essa informação. 

Agora, quando falamos sobre o uso mal intencionado dessas ferramentas, falamos sobre a disseminação de informações falsas com o objetivo de causar sensacionalismo e manipular as pessoas. Um caso que ganhou bastante notoriedade foram as imagens geradas por IA simulando vítimas do Furacão Helene (2024), nos Estados Unidos, usadas para criticar o governo. A má intenção por trás desses conteúdos costuma envolver a difamação de pessoas, marcas e governos ou, em alguns casos, golpes financeiros.

Grande parte da população não possui o que chamamos de “letramento em IA” e não conseguem diferenciar conteúdos gerados por essas ferramentas de conteúdos reais. Por isso, muitas pessoas acreditam que aquilo que estão vendo é real, podendo ser mais facilmente influenciadas e suscetíveis a esses conteúdos.

Riscos para empresas

Apesar de não ser o caso mais comum, o uso de AI Slop por empresas também pode ser bastante prejudicial, principalmente quando pensamos em reputação dessas marcas. Como dissemos anteriormente, o AI Slop baseia-se na produção de conteúdo de baixa qualidade, o que no mundo dos negócios pode refletir diretamente em como o público interpreta a qualidade de serviços e produtos das empresas que se apoiam nesse tipo de conteúdo.

É claro que, hoje em dia, diversas áreas de uma empresa utilizam ferramentas de inteligência artificial no dia a dia para executar tarefas. Mas, utilizar essas ferramentas na produção de conteúdo com pouca ou nenhuma supervisão, gera um grande risco de diluir a autoridade da marca em seu setor e impactar negativamente sua reputação, tanto pela baixa qualidade do conteúdo quanto pela divulgação de informações rasas e, até mesmo, incorretas.

IA como ferramenta de apoio

Hoje, já contamos com inúmeras ferramentas de inteligência artificial que executam diversas tarefas diferentes. A função principal dessas ferramentas é tornar as demandas do dia a dia de trabalho mais fluidas e otimizadas, executando tarefas que podem ser automatizadas e fornecendo insights. Porém, apesar de fornecerem resultados bastante convincentes e satisfatórios, é importante que sempre seja feito uma revisão do conteúdo e uma checagem dos fatos. 

Diferente de ferramentas de IA corporativa, que usam bases de dados controladas e são desenvolvidas para propósitos específicos, ferramentas como ChatGPT, Gemini, Perplexity, entre outras, usam bases de dados bastante amplas. Dessa forma, essas ferramentas podem gerar resultados a partir de diversas fontes de informações, que podem ter ou não comprovação sobre o conteúdo divulgado.

Outro ponto importante é que, com o uso em grande volume da IA, a internet como um todo passou a ter muitos conteúdos gerados artificialmente e, como um ciclo, esses conteúdos entram para a base de dados das ferramentas de IA novamente. Essa “retroalimentação” das IAs com conteúdos gerados por outras IAs causa o que chamamos de alucinação, que são respostas incorretas ou incoerentes fornecidas por essas ferramentas, o que reforça a necessidade de verificar a veracidade das informações que elas nos fornecem.

Conclusão

Em um mundo onde as ferramentas de IA estão cada vez mais eficientes e facilitando o desenvolvimento de novas oportunidades, é muito difícil dizermos que elas não devem ser utilizadas ou que são completamente dispensáveis do dia a dia.
Mas, quando observamos a crescente invasão da AI Slop por diversos espaços digitais, e começamos a discutir sobre a internet não ser mais humana, precisamos ter mais consciência sobre os riscos que isso apresenta. E para além da conscientização, precisamos também nos responsabilizar e ter transparência sobre os conteúdos e informações que produzimos, publicamos e divulgamos. No final do dia, as ferramentas de IA serão sempre ferramentas, desenvolvidas para nos dar suporte e facilitar nosso dia a dia, enquanto nós, seres humanos, somos os responsáveis por utilizá-las de forma consciente e sensata.