Como estamos a ajudar os criadores a divulgar conteúdo alterado ou sintético
A IA generativa está a transformar a forma como os criadores se expressam – das ideias até a experiências que melhoram o processo criativo, Contudo, os espectadores querem, cada vez mais, transparência sobre se o conteúdo que estão a ver é alterado ou sintético.
É por isso que hoje estamos a disponibilizar uma nova ferramenta no Creator Studio a exigir que os criadores revelem aos espectadores quando o conteúdo realista (conteúdo que um espectador poderia facilmente confundir com uma pessoa, lugar, cena ou evento real) é alterado ou sintético, incluindo IA generativa. Não estamos a exigir que os criadores identifiquem conteúdo claramente irrealista, animado, que inclua efeitos especiais ou que tenha usado IA generativa no apoio à produção.
Isto vem na sequência da nossa abordagem à inovação responsável em IA anunciada em novembro, que inclui requisitos e marcadores de divulgação, um processo atualizado de solicitação de privacidade e que garante que a responsabilidade está integrada em todos os nossos produtos e funcionalidades de IA.
O novo marcador visa fortalecer a transparência com os espectadores e construir a confiança entre os criadores e seu público. Alguns exemplos de conteúdo que exigem divulgação incluem:
- Usar a imagem de uma pessoa realista: alterar digitalmente o conteúdo para substituir o rosto de um indivíduo por outro de ou gerar sinteticamente a voz de uma pessoa para narrar um vídeo.
- Alterar imagens de eventos ou lugares reais: como, por exemplo, fazer parecer que um edifício real se incendiou ou alterar uma paisagem real de uma cidade para fazê-la parecer diferente da realidade.
- Gerar cenas realistas: mostrar uma representação realista de grandes eventos fictícios, como um tornado a dirigir-se para uma cidade real.
É claro que reconhecemos que os criadores utilizam a IA generativa de diversas maneiras ao longo do processo de criação. Não vamos exigir que os criadores divulguem se a IA generativa foi usada para produtividade, como geração de scripts, ideias de conteúdo ou legendas automáticas. Também não vamos exigir que os criadores divulguem quando o sintético for irrealista e/ou as mudanças forem inconsequentes. Estes casos incluem:
- Conteúdo claramente irreal, como animação ou alguém em cima de um unicórnio num mundo fantástico;
- Ajuste de cor ou filtros de iluminação;
- Efeitos especiais como o desfoque de fundo ou efeitos vintage;
- Filtros de beleza ou outras melhorias visuais.
Pode ver uma lista mais longa de exemplos no nosso Centro de Ajuda. Para a maioria dos vídeos, irá aparecer um marcador na descrição alargada, mas nos casos de vídeos que abordam tópicos mais sensíveis, como saúde, notícias, eleições ou finanças, também iremos mostrar um marcador mais proeminente no próprio vídeo.
Irá começar a ver estes marcadores a serem implementados em todas as plataformas e formatos do YouTube ao longo das próximas semanas, a começar com a aplicação do YouTube no seu telefone e, em breve, no desktop e TV. Embora queiramos dar tempo à comunidade para se ajustar aos novos processos e funcionalidades, iremos analisar, no futuro, medidas de fiscalização para criadores que optam consistentemente por não divulgar essas informações. Em alguns casos, o YouTube pode adicionar um marcador mesmo quando o criador não o divulga, especialmente se o conteúdo alterado ou sintético tiver o potencial de confundir ou enganar as pessoas.
É importante ressaltar que continuamos a colaborar com a indústria para ajudar a aumentar a transparência no conteúdo digital. Isto inclui nosso trabalho como membro diretor da Coalition for Content Provenance and Authenticity (C2PA).
Em paralelo, conforme anunciámos anteriormente, continuamos a trabalhar num processo de privacidade atualizado para que as pessoas solicitem a remoção de conteúdo gerado por IA ou outro conteúdo sintético ou alterado que simule um indivíduo identificável, incluindo o seu rosto ou voz. Em breve iremos partilhar mais sobre como vamos apresentar este processo globalmente.
Os criadores são o coração do YouTube e irão continuar a desempenhar um papel extremamente importante para ajudar o seu público a compreender, abraçar e adaptar-se ao mundo da IA generativa. Este será um processo em constante evolução, e no YouTube iremos continuar a melhorar à medida que aprendemos. Esperamos que esta maior transparência nos ajude a apreciar melhor as formas como a IA continua a capacitar a criatividade humana.