Em breve, redes sociais estarão cheias de perfis e influenciadores gerados por IA

A Meta revelou recentemente um de seus projetos ambiciosos e possivelmente exagerados, após o Metaverso ser escanteado e praticamente sumir. O principal deles é o AI Studio, que já existe e permite a criação de perfis e chatbots gerados pelo modelo de inteligência artificial da empresa. Mas a ideia é torná-lo onipresente no ambiente das redes sociais da empresa.

Segundo a Meta, em breve as principais redes sociais estarão repletas de perfis e chatbots gerados por IA. O plano é que usuários humanos criem personagens e perfis para que outras pessoas interajam com eles. Por quê? Porque sim, já que inteligência artificial é o termo do momento entre as big techs.

“Esperamos que essas IAs, com o tempo, realmente existam em nossas plataformas, mais ou menos da mesma forma que as contas”, afirmou Connor Hayes, vice-presidente de produto para IA generativa na Meta, em entrevista ao Financial Times.

A ideia, segundo Hayes, é que esses perfis de IA tenham fotos realistas, biografias e compartilhem conteúdo na timeline. O executivo destaca que inundar as redes com esse tipo de perfil é a “prioridade” da empresa para os próximos dois anos.

Mas essa invasão de conteúdo gerado por IA já está acontecendo, principalmente no Facebook, onde centenas de milhares de perfis e chatbots já estão em funcionamento. Os principais usuários são influenciadores, que usam as ferramentas de IA generativa para editar fotos, interagir em posts e responder seguidores.

Não deve demorar para centenas de IA interagirem apenas entre si, em um estranho e destrutivo ciclo de retroalimentação. Existe até um nome para isso: “lixo entra, lixo sai” (garbage in, garbage out, no original em inglês).

O TikTok e o Snapchat (lembra dele?) possuem ferramentas similares, que dão aos criadores de conteúdo a capacidade de criar vídeos e cenários 3D com tecnologia do tipo, e cada vez mais borrando os limites entre realidade e a pura falsidade das imagens de redes sociais.

Como lembra o Financial Times, Mark Zuckerberg em pessoa disse anteriormente que uma das ferramentas que serão lançadas em um futuro próximo permitirá que pessoas façam videochamadas com perfis totalmente gerados por IA.

Consequências desconhecidas

Segundo a empresa, todo conteúdo do tipo deve ser rotulado claramente como criado por uma ferramenta de IA, mas ainda assim não é difícil apontar consequências negativas de incentivar esses posts automatizados. Além da possibilidade de conteúdos de baixa qualidade soterrarem redes sociais, especialistas temem também que programas do tipo possam ser usados para criar quantidades massivas de notícias falsas e desinformação.

Aliás, isso já é parcialmente uma realidade. Fazendas de conteúdo sediadas na Índia, Filipinas e Vietnã já espalham imagens sem sentido, mas que apelam a emoções baratas e o puro choque, para ganhar curtias e viralizar. E ainda ganham uma grana no processo, tudo com pouco trabalho.

Existem até vídeos de tutorial no YouTube que ensinam a ganhar dinheiro, como conta o site 404 Media. A própria Meta foi advertida sobre tais perfis e disse que as imagens e vídeos do tipo não violam seus termos de uso e libera pagamentos para tais criadores, por meio de suas Políticas de Monetização de Conteúdo.

“Se você consegue descobrir como postar conteúdo em grande escala, isso significa que você consegue descobrir como explorar fraquezas em grande escala”, afirmou um ex-funcionário da Meta ao site 404 Media.

Fora o fato de que existem casos confirmados de danos psicológicos em pessoas que passaram tempo demais conversando com chatbots do tipo.

Mas, esse é o futuro!