O YouTube anunciou que implementará medidas mais rígidas sobre conteúdo realista gerado por inteligência artificial (IA) hospedado pelo serviço. “Exigiremos que os criadores divulguem quando criaram conteúdo alterado ou sintético que seja realista, incluindo o uso de ferramentas de IA”, diz a empresa em comunicado. As mudanças serão implementadas nos próximos meses e no próximo ano.

A mudança do YouTube faz parte de uma série de esforços da plataforma para enfrentar os desafios colocados pela IA generativa na criação de conteúdo, incluindo deepfakes, clonagem de voz e desinformação. Quando os criadores enviam conteúdo, o YouTube oferece novas opções para indicar se o conteúdo inclui material realista gerado por IA ou alterado por IA. “Por exemplo, pode ser um vídeo gerado por IA que retrata realisticamente um evento que nunca aconteceu, ou conteúdo que mostra alguém dizendo ou fazendo algo que na verdade não fez”, aponta o YouTube.

No anúncio detalhado, Jennifer Flannery O’Connor e Emily Moxley, vice-presidentes de gerenciamento de produtos do YouTube, explicaram que a atualização da política visa manter um ecossistema positivo diante da IA ​​generativa. “Acreditamos que é do interesse de todos manter um ecossistema saudável de informações no YouTube”, dizem. “Temos políticas de longa data que proíbem conteúdo tecnicamente manipulado que engana os espectadores. No entanto, as novas formas poderosas de contar histórias da IA ​​também podem ser usadas para gerar conteúdo que tem o potencial de enganar os espectadores – especialmente se eles não sabem que o vídeo foi alterado ou foi criado sinteticamente.”

O YouTube também introduzirá um novo sistema de rotulagem na plataforma que informará os espectadores sobre a natureza do conteúdo que estão assistindo. Por exemplo, um novo rótulo será adicionado ao painel de descrição e ao player de vídeo para conteúdo que foi alterado ou é sintético, especialmente ao discutir temas delicados como “eleições, conflitos em curso e crises de saúde pública, ou funcionários públicos”, diz a empresa. .

Além disso, o conteúdo criado pelos próprios produtos generativos de IA do YouTube, como o Dream Screen, criador de vídeos com tecnologia de IA, será automaticamente rotulado como alterado ou sintético. A empresa compartilhou três modelos da aparência desses rótulos, embora possam mudar com o tempo.

Os criadores que optarem por evitar a divulgação do uso de IA podem estar sujeitos a penalidades, incluindo remoção de conteúdo ou suspensão do Programa de Parcerias do YouTube. Além disso, o YouTube está planejando implantar ferramentas de moderação de conteúdo baseadas em IA que visam aumentar a velocidade e a precisão na identificação e tratamento de conteúdo que viola as novas regras.

O YouTube também anunciou planos para permitir que indivíduos solicitem a remoção de conteúdo gerado por IA que simule indivíduos identificáveis, incluindo seus rostos ou vozes, como deepfakes, por meio de um processo de solicitação de privacidade. “Nem todo o conteúdo será removido do YouTube e consideraremos vários fatores ao avaliar essas solicitações”, escrevem eles. “Isso pode incluir se o conteúdo é paródia ou sátira, se a pessoa que faz a solicitação pode ser identificada de forma única ou se apresenta um funcionário público ou indivíduo conhecido, caso em que pode haver um padrão mais elevado”.

Nesse sentido, o YouTube também introduzirá uma política para artistas ou editoras musicais solicitarem a remoção de músicas geradas por IA que imitem a voz única de canto ou rap de um artista. Assim como as solicitações de privacidade, as possíveis remoções levarão em consideração se o conteúdo faz parte de reportagens, análises ou críticas aos vocais sintéticos, diz a empresa.

Tendo em mente as necessidades de paródia, uso justo e comentários políticos, o YouTube diz que está tentando equilibrar novas aplicações de IA com seus esforços de segurança comunitária. “Ainda estamos no início da nossa jornada para desbloquear novas formas de inovação e criatividade no YouTube com IA generativa”, escrevem. “Trabalharemos de mãos dadas com criadores, artistas e outras pessoas das indústrias criativas para construir um futuro que beneficie a todos nós”.

Fonte: Convergência Digital