À medida que os sistemas de inteligência artificial (IA) criam imagens cada vez mais realistas, e chegam até mesmo a oferecer riscos reais de fraudes com deepfakes, torna-se importante criar sistemas que possam fornecer segurança.
Pensando nisso que o Google desenvolveu uma nova ferramenta chamada SynthID, que foi projetada essencialmente para marcar uma imagem gerada por IA de uma forma que seja imperceptível ao olho humano, mas facilmente detectada por uma ferramenta de detecção de IA dedicada.
Embora inicialmente disponível para clientes selecionados do Google Cloud, essa tecnologia representa um passo na identificação de imagens geradas por IA, permitindo que sejam detectadas mesmo após modificações como cortes ou mudanças de cor.
Como funciona o SynthID?
Ao contrário das marcas d’água visíveis comumente usadas hoje, essa está embutida nos pixels da imagem. Mas, de acordo com o CEO do Google Deepmind, Demis Hassabis, a imagem em si não é alterada de forma perceptível:
Isso não muda a imagem, a qualidade da imagem ou a experiência dela. Mas é robusto para várias transformações – corte, redimensionamento, todas as coisas que você pode fazer para tentar contornar marcas d’água normais, tradicionais e simples.
À medida que os modelos subjacentes do SynthID melhoram, diz Hassabis, a marca d’água será ainda menos perceptível para os humanos, mas ainda mais facilmente detectada pelas ferramentas do DeepMind.
Ainda não há muitos detalhes sobre o funcionamento do SynthID, porque é um sistema novo e está em teste. “Quanto mais você revelar sobre como funciona, mais fácil será para hackers e entidades nefastas contornarem isso”, diz Hassabis.
O Google está lançando o SynthID primeiro de forma centrada: os clientes do Google Cloud que usam a plataforma Vertex AI da empresa e o gerador de imagens Imagen poderão incorporar e detectar a marca d’água.
Conforme o sistema passe por mais testes, espera-se que ele evolua. Assim, o Google poderá usá-lo em mais lugares e obter ainda mais dados sobre como funciona.
Por que eu devo me importar?
Embora a ferramenta SynthID esteja ainda no seu início, o seu possível avanço na detecção de imagens geradas por IA pode ter algumas implicações para empresas e profissionais de marketing, como:
- Mais responsabilidade: a incorporação de marcas d’água imperceptíveis em imagens geradas por IA fornece uma maneira de identificar o sistema de IA usado para criá-las. Assim, você deve se preocupar em sempre deixar claro quando uma imagem for gerada artificialmente.
- Novas considerações: os profissionais de marketing devem considerar se e como identificar imagens geradas por IA que usam para campanhas. A atribuição adequada pode construir a confiança dos consumidores.
- Novas oportunidades: a tecnologia de marca d’água abre possibilidades criativas para a geração de imagens de IA em escala, mantendo a atribuição. Profissionais de marketing experientes podem encontrar novas aplicações para redes sociais e criativos.
Resumindo, o SynthID pode remodelar a conversa em torno do uso responsável da IA. Será uma tecnologia intrigante a ser seguida à medida que a corrida pela IA esquenta.
As inteligências artificiais estão evoluindo cada vez mais e, com isso, é necessário saber utilizá-las da forma certa. Você está pronto para usar esses recursos para ter mais velocidade, tempo e resultado na sua empresa?
Com a inteligência artificial, temos a oportunidade de criar um mundo onde a informação é acessível e confiável, mas você precisa saber utilizar corretamente.
Para isso, você precisa estar na Amplia8. O espaço onde empresários colocam em prática as maiores evoluções para ganharem mais tempo e mais velocidade!
Com informações de The Verge e Search Engine Land
