Sério, você fez isso sem IA? Prove

“Isso parece IA.”

É uma frase que temo ver como escritor que se interessa por ilustração e fotografia amadora. Num mundo onde a tecnologia generativa de IA está cada vez mais apta a imitar o trabalho dos seres humanos, as pessoas ficam naturalmente céticas quando as plataformas online se recusam a rotular até mesmo conteúdos óbvios de IA.

Isto leva-me a uma conclusão: talvez devêssemos começar a rotular textos, imagens, áudio e vídeos produzidos pelo homem com algo semelhante a um logótipo de Comércio Justo universalmente reconhecido. As máquinas com certeza não estão motivadas a rotular seu trabalho, mas os criadores que correm o risco de serem desalojados definitivamente estão.

Felizmente, não estou sozinho em meu pensamento.

O chefe do Instagram, Adam Mosseri, sugeriu isso em dezembro, dizendo que será “mais prático identificar mídia real do que mídia falsa”, à medida que a tecnologia de IA melhora a ponto de tornar o conteúdo visualmente indistinguível daquele produzido por profissionais criativos.

Ninguém pode dizer com certeza quanto do que encontramos na Internet é gerado pela IA, mas há uma percepção generalizada de que sites de notícias, plataformas de redes sociais e resultados de motores de busca estão repletos disso, de acordo com uma pesquisa recente do Reuters Institute.

Autenticar obras feitas pelo homem era algo que o padrão de credenciais de conteúdo C2PA – que já é usado pelas plataformas Meta – deveria fazer. Mas até agora, a sua implementação tem sido totalmente ineficaz, apesar de ter recebido amplo apoio da indústria. Acontece que muitas pessoas que criam e promovem conteúdo de IA são motivadas a esconder suas origens por causa dos cliques, do caos e do dinheiro que isso pode gerar.

Numa tentativa de ajudar os criativos humanos a distinguir o seu trabalho daquele produzido pelos geradores de IA, surgiu um grande número de soluções nos últimos anos. E, tal como o C2PA, enfrentam uma série de desafios para uma adoção generalizada.

No momento, existem muitas alternativas de rotulagem sem IA para você escolher. No total, conto pelo menos 12, todos tentando resolver o mesmo problema com uma variedade de critérios de elegibilidade e abordagens de autenticação. Algumas são específicas do setor, como a “certificação de autoria humana” do Authors Guild para livros e outros trabalhos escritos, e não podem ser amplamente aplicadas a todas as formas de conteúdo criativo.

Outras soluções, como Proudly Human e Not by AI, pretendem ser mais amplas, abrangendo textos publicados, artes visuais, videografia e música, mas os processos de verificação utilizados por estes serviços podem ser tão questionáveis ??como os utilizados pelas soluções de rotulagem de IA. Alguns, como o Made by Human, operam puramente com base na confiança, disponibilizando publicamente crachás e rótulos para qualquer pessoa baixar e aplicar em seu trabalho sem realmente estabelecer a procedência. Outros, como o No-AI-Icon, dizem que inspecionam visualmente as obras e as executam por meio de serviços de detecção de IA, que podem ser notoriamente não confiáveis.

A maioria dos serviços que verifiquei fazem isso da maneira mais difícil: fazendo com que os criativos mostrem manualmente seus processos de trabalho a um auditor humano, como esboços e rascunhos escritos. É extremamente trabalhoso, mas sem quaisquer atalhos tecnológicos, é o método mais confiável que temos atualmente para estabelecer se algo foi feito por um ser humano real.

Outra questão é concordar sobre o que significa “feito pelo homem”. Com a IA agora incorporada em tantas ferramentas criativas e seu uso sendo incentivado por educadores criativos, onde traçar o limite?

“O problema será a definição e a verificação. Conversar com um LLM sobre a ideia antes de executá-la manualmente conta como uso de IA? E como o criador poderia provar que não havia IA envolvida?” Jonathan Stray, cientista sênior do Centro de IA compatível com humanos da UC Berkeley, disse A beira. “Outros rótulos de consumo, como ‘Orgânico’, têm regulamentos e agências que os aplicam.”

A professora da Escola de Informação da UC Berkeley, Nina Beguš, diz que já entramos na era do conteúdo híbrido que entra em conflito com a forma como definimos algo como sendo feito de forma autêntica.

“Qualquer produção criativa hoje pode ser tocada pela IA de uma forma ou de outra, sem que possamos provar isso”, disse Beguš. A beira. “A autoria está se desintegrando em novas direções, tornando-se mais aprimorada tecnologicamente e mais coletiva. Precisamos renovar nossos critérios de criatividade que foram feitos exclusivamente para humanos.”

Uma solução oferecida por um concorrente de rótulo feito pelo homem, chamado Not by AI, está tentando levar em conta essa ambiguidade. Ele oferece uma variedade de emblemas que os criadores podem aplicar a sites, blogs, arte, filmes, ensaios, livros, podcasts e muito mais, desde que pelo menos 90% do trabalho seja criado por um ser humano real. Mas a abordagem voluntária carece de qualquer verificação de veracidade.

Outras soluções, como Proof I Did It, baseiam-se na tecnologia blockchain para fornecer um registro permanente que qualquer pessoa pode usar para fazer referência a criadores e obras que foram verificadas pelo serviço. Ao armazenar a verificação no blockchain, os criadores obtêm um certificado digital impossível de ser falsificado que prova que um ser humano fez seu trabalho, o que é muito mais confiável do que tentar usar software para adivinhar se uma mídia foi gerada por IA.

Thomas Beyer, diretor executivo da Rady School of Management da Universidade da Califórnia, diz que a Web3 e a tecnologia blockchain podem fornecer uma solução robusta, mudando a questão de “isso se parece com IA?” para “este relato pode provar sua história humana?”

“Ao emitir tokens ‘Made by Human’ para criadores verificados, o mercado cria um ‘nível premium’ de arte onde a autenticidade é matematicamente garantida”, disse Beyer. A beira. Outros especialistas como Beguš expressaram sentimentos semelhantes relativamente ao potencial aumento do valor da “criatividade humana e biológica” no meio da enxurrada de meios de comunicação sintéticos.

Apesar de suas falhas, padrões estabelecidos como o C2PA fornecem algo que as soluções de etiquetagem sem IA precisam desesperadamente: unificação. Grandes nomes da indústria tecnológica, como Adobe, Microsoft e Google, comprometeram-se com o padrão, e os fornecedores de IA estão a implementá-lo para apaziguar os reguladores globais. Dito isto, quando avalio os vários prós e contras entre os esforços de rotulagem de IA e aqueles que se concentram na verificação de conteúdo autêntico produzido pelo homem, sinto que este último tem mais probabilidade de ter sucesso.

Muitos profissionais criativos, mesmo aqueles que não se opõem totalmente à utilização de ferramentas de IA, estão compreensivelmente motivados para distinguir o seu trabalho da concorrência gerada sinteticamente que está a saturar a indústria e a ameaçar a sua subsistência. E embora, sim, existam muitos evangelistas da IA ??nas plataformas de redes sociais que ficam felizes em mostrar o que a tecnologia pode alcançar, há hesitação em divulgar a sua utilização quando dinheiro e influência podem ser perdidos.

Tomemos como exemplo os atores pornográficos que criam clones digitais de si mesmos que permanecerão quentes e jovens para sempre, ou os influenciadores de IA que vendem uma vida de fantasia que não existe. Revelar que são IA pode quebrar a ilusão das pessoas que pensam que estão tendo uma experiência humana genuína. Os golpistas que usam imagens geradas por IA para vender produtos online certamente também não querem ser descobertos, e as plataformas como o Etsy que os hospedam não parecem muito preocupadas. Da mesma forma, qualquer pessoa que use IA generativa para semear discórdia ou criar travessuras nas redes sociais só terá sucesso quando as pessoas acreditarem que é real. Não é de admirar que a rotulagem de IA com C2PA não tenha conseguido pegar.

Sabemos que alguns criadores focados em IA evitarão ser transparentes porque isso já está acontecendo. Um exemplo notável disso é Coral Hart, uma autora de romances que contou O jornal New York Times que ela ganhou uma soma de seis dígitos depois de produzir mais de 200 romances gerados por IA no ano passado. Ela não tem um rótulo em nenhum de seus livros que revele que eles foram escritos usando ferramentas de IA, no entanto, por temer que isso “prejudicasse seu negócio por esse trabalho” por causa do “forte estigma” em torno da tecnologia.

Podemos ver esse desdém em ação com a frequência com que o conteúdo gerado sinteticamente é descrito como “desleixado”, mesmo que as próprias obras sejam visualmente, audivelmente ou tecnologicamente impressionantes. E isso levanta a questão de como estes fornecedores de rotulagem feita pelo homem ou sem IA impedirão que os seus logótipos sejam abusados ??por aqueles que lucram com o engano. Trevor Woods, CEO da Proudly Human, reconhece que isso pode não ser possível.

“Como outras marcas de certificação e logotipos de empresas, não podemos impedir a exibição fraudulenta da marca de certificação Proudly Human. No entanto, facilitamos a verificação pelos consumidores”, disse Woods. A beira. “Se um mau ator identificado por nós se recusar a parar de usar o rótulo, tomaremos medidas legais contra ele.”

Se o objetivo é alcançar uma solução universalmente reconhecida e aplicada, então é necessário acordar uma norma não apenas entre os criadores e as plataformas online, mas também entre os governos globais e as autoridades reguladoras. No meu entender, essas conversas são atualmente poucas e raras.

“A Proudly Human ocasionalmente informa associações governamentais e industriais, mas não está envolvida em negociações formais sobre uma certificação unificada de origem humana”, disse Woods. “A rápida evolução das capacidades de IA e do conteúdo gerado por IA ultrapassará as respostas do governo e dos reguladores.”

Claramente, há uma procura para tornar as obras feitas pelo homem mais fáceis de identificar pelos consumidores, pelo que os criativos, os reguladores e as agências de autenticação precisam de escolher qual a abordagem a apoiar. Se um padrão singular puder atingir o mesmo nível de símbolos como Comércio Justo e Orgânico – que carregam as suas próprias preocupações, mas são reconhecidos globalmente como algo que se alinha com um etos específico – talvez possamos regressar aos dias de confiar no que vemos com os nossos olhos.