A Apple está cada vez mais atenta ao impacto da inteligência artificial (IA) na autenticidade das fotos. Craig Federighi, chefe de software da empresa, afirmou em uma entrevista ao The Wall Street Journal que a Apple busca preservar a veracidade das imagens com o lançamento do Apple Intelligence, especialmente em um cenário onde a manipulação digital se torna mais acessível.
Com o lançamento do iOS 18.1, a Apple introduzirá novas ferramentas de edição de imagens que, embora possam remover objetos indesejados, têm limitações em comparação com os recursos oferecidos por concorrentes como Google e Samsung, que permitem a inserção de elementos gerados por IA nas fotos.
Nova função de edição no iOS 18.1
- O iOS 18.1 trará uma nova ferramenta chamada “Clean Up” ao aplicativo Fotos, que permitirá a remoção rápida de objetos e pessoas das imagens.
- Apesar dessa funcionalidade, Federighi destacou que a abordagem da Apple é muito mais contida em comparação com ferramentas oferecidas por concorrentes, como Google e Samsung.
- Esses competidores já oferecem recursos de IA que adicionam elementos gerados artificialmente às fotos, algo que a Apple optou por não seguir até o momento.
Debate sobre autenticidade
Federighi explicou que, internamente, houve intensos debates sobre a inclusão da ferramenta “Clean Up”. A discussão principal girava em torno da remoção de objetos que, embora não alterem a essência do que aconteceu na foto, podem ser considerados indesejados pelos usuários.
Ele exemplificou com o caso de uma garrafa de água ou um microfone que aparecem em segundo plano, destacando que o desejo dos usuários em limpar detalhes tidos como “desnecessários” na foto tem sido muito grande.
“É importante para nós ajudarmos a transmitir informações precisas, não fantasias”, enfatizou Federighi. A empresa está preocupada com a possibilidade de que a crescente manipulação de fotos por IA possa prejudicar a confiança das pessoas na fotografia como uma representação fiel da realidade.
Preocupações com a IA generativa
Federighi também manifestou preocupação com o uso de IA para modificar fotos de maneira mais agressiva, como já é possível com ferramentas de concorrentes, que permitem adicionar elementos completamente novos e irreais, como animais selvagens ou objetos perigosos, com apenas uma descrição de texto.
Ele mencionou o impacto que isso pode ter na forma como as pessoas enxergam a fotografia e em sua credibilidade, especialmente quando essas edições são usadas de forma maliciosa.
Proteção contra manipulações
Para lidar com a questão da autenticidade, a Apple implementará um sistema que marcará imagens editadas com a função “Clean Up” como “Modificado com Clean Up” no aplicativo Fotos. Essas fotos também terão metadados que indicam que foram alteradas, uma medida que visa evitar confusões sobre a integridade da imagem.
Esse movimento da Apple acompanha uma tendência já seguida por outras empresas, como a Adobe, que lidera a Content Authenticity Initiative, um projeto que busca diferenciar imagens não alteradas de criações ou manipulações feitas por IA.
Olhar Digial