A OpenAI recentemente anunciou que utilizou o GPT-4 para desenvolver um sistema que auxilia na moderação de conteúdo em plataformas online.
De acordo com a empresa, esse sistema permite uma atualização mais ágil nas mudanças de política e uma rotulagem de conteúdo mais uniforme em comparação com a moderação tradicional conduzida por seres humanos.
Em seu anúncio, a empresa afirma que:
A moderação de conteúdo desempenha um papel crucial na manutenção da saúde das plataformas digitais. Um sistema de moderação de conteúdo usando GPT-4 resulta em uma iteração muito mais rápida nas mudanças de política, reduzindo o ciclo de meses para horas.
O intuito dessa mudança é melhorar a consistência na rotulagem de conteúdo, acelerar as atualizações de políticas e reduzir a dependência de moderadores humanos.
Essa redução não visa substituir humanos, e sim impactar positivamente a saúde mental dos moderadores, uma vez que o trabalho mais árduo seria feito pela inteligência artificial (IA).
Desafios na moderação de conteúdo
Em seu anúncio, a OpenAI explicou que a moderação de conteúdo é um trabalho desafiador que requer esforço meticuloso, uma compreensão diferenciada do contexto e adaptação contínua a novos casos de uso.
Essas tarefas de trabalho intensivas recaem sobre os moderadores humanos. Sendo assim, eles precisam revisar grandes volumes de conteúdo gerado pelo usuário para remover materiais nocivos ou inapropriados.
Isso pode ser um trabalho mentalmente desgastante. Dessa forma, a empresa diz que é vantajoso empregar IA nesse caso, uma vez que reduzirá o esforço e o custo excessivo.
Como funciona o sistema de moderação de conteúdo IA da OpenAI
O novo sistema da OpenAI visa auxiliar os moderadores humanos usando o GPT-4 para interpretar as políticas de conteúdo e fazer julgamentos de moderação.
Dessa maneira, os especialistas em políticas primeiro escrevem diretrizes de conteúdo e rotulam exemplos que se alinham com a política. O GPT-4 então atribui os rótulos aos mesmos exemplos sem ver as respostas do revisor.
Ao comparar os rótulos do GPT-4 com os rótulos humanos, a OpenAI pode refinar definições de políticas ambíguas e treinar novamente a IA até que ela interprete as diretrizes de maneira confiável.
Exemplo
A OpenAI demonstrou como um revisor humano pode esclarecer as políticas quando discorda de um rótulo que o GPT-4 atribui ao conteúdo.
No exemplo, um revisor humano classificou algo como K3 (promoção de danos não violentos), mas o GPT-4 sentiu que não violava a política de comportamento ilícito.
Ter o GPT-4 explicando por que escolheu um rótulo diferente permite que o revisor humano entenda onde as políticas não estão claras.
Essa interação destaca como a supervisão humana pode treinar ainda mais os sistemas de IA, esclarecendo políticas em áreas onde o conhecimento da IA é imperfeito.
Desse modo, depois que a política é compreendida, o GPT-4 pode ser implantado para moderar o conteúdo em escala.
Benefícios da moderação de conteúdo com o GPT-4
A OpenAI destacou vários benefícios que acredita que o sistema de moderação assistida por IA oferece:
- Rotulagem mais consistente, já que a IA se adapta rapidamente às mudanças de política;
- Ciclo de feedback mais rápido para melhorar as políticas, reduzindo os ciclos de atualização de meses para horas;
- Carga mental reduzida para moderadores humanos.
A empresa enfatiza bem este último ponto, uma vez que ela defende que usar o GPT-4 pode ajudar os moderadores, evitando que tenham que ver materiais traumáticos.
Segundo a OpenAI, esse desenvolvimento pode diminuir a necessidade de moderadores humanos se envolverem diretamente com conteúdo ofensivo ou prejudicial, reduzindo assim sua carga mental.
Limitações e considerações éticas
Os julgamentos reconhecidos pela OpenAI feitos por modelos de IA podem conter vieses indesejados, portanto, os resultados devem ser monitorados e validados. Ele enfatizou que os humanos devem permanecer “no circuito” para casos complexos de moderação.
A empresa está explorando maneiras de aprimorar os recursos do GPT-4 e visa alavancar a IA para identificar riscos de conteúdo emergentes que podem informar novas políticas.
E se você ainda está se perguntando como utilizar da melhor forma a inteligência artificial nos seus negócios, não perca tempo e conheça a Amplia8. Uma comunidade que deixará sua empresa 5 anos à frente da concorrência!
Fonte: Search Engine Journal
