Assim como a Meta fez recentemente, o YouTube anunciou que abordará um tratamento mais cauteloso em sua plataforma em relação a conteúdo criado por inteligência artificial (IA). Agora existirão uma série de novas políticas relacionadas à divulgação responsável, bem como novas ferramentas para solicitar a remoção de deepfakes, entre outras coisas.
A empresa afirma que, embora já tenha políticas que proíbam a manipulação de mídia, a IA exigiu a criação de novas políticas devido ao seu potencial para enganar os espectadores se eles não souberem que o vídeo foi “alterado ou criado sinteticamente”.
Quais serão as mudanças implementadas?
Uma das mudanças que serão implementadas envolve a criação de novos requisitos de divulgação para criadores do YouTube.
Agora, eles terão que divulgar quando criarem conteúdo alterado ou sintético que pareça realista, incluindo vídeos feitos com ferramentas de IA.
Por exemplo, esta divulgação seria utilizada se um criador carregasse um vídeo que parece retratar um eventoClique e veja os próximos Eventos de Marketing Digital... do mundo real que nunca aconteceu ou mostra alguém dizendo algo que nunca disse ou fazendo algo que nunca fez.
Vale ressaltar que esta divulgação é limitada ao conteúdo que “parece realista” e não é um requisito geral de divulgação para todos os vídeos sintéticos feitos por meio de IA.
As novas e poderosas formas de contar histórias da IA também podem ser usadas para gerar conteúdo que tem o potencial de enganar os espectadores, especialmente se eles não sabem que o vídeo foi alterado ou criado sinteticamente. Para resolver essa preocupação, nos próximos meses apresentaremos atualizações que informarão aos espectadores quando o conteúdo que estão vendo for sintético.
[….] Isto é especialmente importante nos casos em que o conteúdo aborda temas sensíveis, como eleições, conflitos em curso e crises de saúde pública, ou funcionários públicos.
Como ficam os recursos de IA fornecidos pelo próprio YouTube?
O conteúdo gerado por IA é uma área em que o próprio YouTube está se aventurando, na verdade.
A empresa anunciou em setembro que estava se preparando para lançar um novo recurso generativo de IA chamado Dream Screen no início do próximo ano, que permitiria aos usuários do YouTube criar um vídeo ou imagem de fundo gerado por IA, digitando o que desejam ver.
Dessa forma, todos os produtos e recursos generativos de IA do YouTube serão automaticamente rotulados como alterados ou sintéticos.
Quais serão as punições para quem não seguir as diretrizes?
A empresa também alerta que os criadores que não divulgarem adequadamente o uso da IA de forma consistente estarão sujeitos à “remoção de conteúdo, suspensão do Programa de Parcerias do YouTube ou outras penalidades”.
No entanto, o YouTube afirma que trabalhará com os criadores para garantir que eles entendam os requisitos antes de irem ao ar. Mas observa que algum conteúdo de IA, mesmo que rotulado, pode ser removido se for usado para mostrar “violência realista” se o objetivo for chocar ou enojar os espectadores. Esta parece ser uma consideração oportuna, dado que deepfakes já foram usados para confundir as pessoas sobre a guerra Israel-Hamas.
No entanto, quanto às denúncias de outros usuários para remoção de conteúdo gerado por IA ou outro conteúdo sintético ou alterado que simule um indivíduo identificável – também conhecido como deepfake, a empresa esclarece que nem todo conteúdo sinalizado será removido, abrindo espaço para paródias ou sátiras. Afirma também que irá considerar se a pessoa que solicita a remoção pode ou não ser identificada de forma única ou se o vídeo apresenta um funcionário público ou outro indivíduo conhecido, caso em que “pode haver um padrão mais elevado”, diz o YouTube.
O YouTube e o avanço da IA
A IA está sendo usada em outras áreas de negócios do YouTube, inclusive aumentando o trabalho de seus 20.000 revisores de conteúdo em todo o mundo e identificando novas formas de surgimento de abusos e ameaças, observa o anúncio. A empresa diz que entende que malfeitores tentarão contornar suas regras e evoluirá suas proteções e políticas com base no feedback dos usuários.
De acordo com o anúncio da empresa:
Ainda estamos no início da nossa jornada para desbloquear novas formas de inovação e criatividade no YouTube com IA generativa. Estamos tremendamente entusiasmados com o potencial desta tecnologia e sabemos que o que vem a seguir repercutirá nas indústrias criativas nos próximos anos. Estamos dedicando um tempo para equilibrar esses benefícios com a garantia da segurança contínua de nossa comunidade neste momento crucial – e trabalharemos de mãos dadas com criadores, artistas e outros nas indústrias criativas para construir um futuro que beneficie nós todos.
Fonte: TechCrunch
