O executivo Jack Dorsey, fundador e ex-CEO do Twitter, hoje conhecido como X, e que também passou pela rede social Bluesky, fez uma previsão um tanto preocupante com a relação ao avanço das capacidades das IAs generativas.

“Não confie; verifique. Você tem que experimentar por si. E você tem que aprender sozinho. Isso será muito crítico quando entrarmos neste momento nos próximos cinco ou 10 anos pela forma como as imagens são criadas e você não saberá, literalmente, o que é real e o que é falso”, afirmou Dorsey, durante uma palestra.

A forte declaração de Dorsey contrasta com o momento em que imagens de IA generativa passam a surgir com mais frequência pela internet e vem se tornando mais difícil, em alguns casos, de distinguir o que é uma deepfake e o que é legítimo.

Combate contra deepfakes geradas em ferramentas de IA ainda parece tímido

• Ferramentas alimentadas por IA, como o Image Creator Designer da Microsoft ou o ChatGPT da OpenAI já são capazes de gerar imagens incrivelmente detalhadas, o que também gera preocupação sobre sua capacidade de substituir profissionais humanos.
• Quando se trata de vídeos, a Sora já consegue gerar vídeos de até um minuto que tem aparências de produções reais.
• A OpenAI já apresentou medidas de segurança, como marcas d’água em imagens geradas usando ChatGPT e a tecnologia DALL-E 3, mas já admitiu que não é uma solução definitiva contra todas as deepfakes.

“Será como se você estivesse em uma simulação. Porque tudo parecerá fabricado, tudo parecerá produzido. É muito importante que você mude sua mentalidade ou tente mudar sua mentalidade para verificar as coisas que você sente que precisa através de sua experiência e intuição”, acrescentou Jack Dorsey.

Ao responder ao vídeo de Dorsey compartilhado no X (antigo Twitter), o bilionário e proprietário do X, Elon Musk, compartilhou sentimentos semelhantes. “Como sabemos que já não estamos lá?” acrescentou Musk.

Dorsey também falou sobre a automação de tarefas usando IA tradicionalmente executadas pelo cérebro humano. Ele acrescentou que a maioria das funções está disponível em seus dispositivos, evitando que os usuários “construam essas conexões em seu cérebro”.