*Por Mike Ananny e Jake Karr
A IA (Inteligência Artificial) generativa representa a maior ameaça à liberdade de imprensa em décadas, e os jornalistas devem agir rapidamente para se organizarem e remodelarem radicalmente o seu poder de produzir notícias.
A indústria de notícias há muito tempo vem sendo afetada por desafios econômicos e tecnológicos além de seu controle. Desde as primeiras inovações em tipos móveis e reprodução de fotos até preocupações mais recentes com classificações de mecanismos de busca, algoritmos de mídia social, análises de audiência, cortes de financiamento tecnológico e o infame “pivô para vídeo“, as organizações de notícias tentaram se adaptar aos ecossistemas de informação em rápida evolução, seguindo o poder e o dinheiro das novas tecnologias, ao mesmo tempo, em que tentavam alinhá-las com os valores e julgamentos editoriais das notícias. A imprensa de hoje depende de infraestruturas tecnológicas distribuídas e operadas por algumas poucas corporações poderosas.
E agora surge o GenAI (Inteligência Artificial Generativa), ameaçando revolucionar as indústrias. Professores questionam o valor das redações, médicos estão usando o GenAI para se comunicar com os pacientes, e atores e escritores de Hollywood estão montando defesas vigorosas contra estúdios que pretendem usar o GenAI para criar roteiros, capturar semelhanças de atores e gerar filmes sinteticamente.
O jornalismo também está tentando entender e aproveitar o poder do GenAI. Existem inúmeras experiências para fabricar computacionalmente manchetes, histórias, imagens, vídeos, podcasts, personalidades de transmissão e até entrevistas por meio de tecnologias prontas para uso que, até recentemente, eram coisas de protótipos da indústria e laboratórios de ciência da computação.
Embora as redações tenham usado alguma versão de IA há anos –para criar histórias simples, pesquisar arquivos, testar manchetes e analisar dados de audiência– e os jornalistas tenham desenvolvido rotinas de verificação forense para se proteger contra mídias falsas, os jornalistas de hoje também estão experimentando rapidamente ferramentas de mídia sintética como ChatGPT, Bard, DALLE, Jasper.ai, protótipo Genesis do Google (NASDAQ:GOOGL) e inúmeros outros concorrentes.
A NewsCorp usa o GenAI para criar cerca de 3.000 notícias locais australianas a cada semana. O Planet Money da NPR usou o GenAI para roteirizar um episódio com vozes clonadas. O Kuwait News utilizou o GenAI para fabricar um apresentador de telejornal. A CNET experimentou o uso do GenAI para escrever dezenas de matérias (embora muitos artigos contivessem erros). Muitas redações têm trabalhado para desenvolver suas próprias diretrizes sobre o uso do GenAI. E no início deste verão, o Google apresentou um “ajudante” GenAI que, segundo a empresa, poderia gerar matérias de notícias.
O GenAI parece estar se consolidando na indústria de notícias, aprofundando ainda mais a dependência da imprensa em relação às empresas de tecnologia, suas infraestruturas de dados e modelos de aprendizado de máquina muitas vezes inescrutáveis.
As organizações de notícias podem em breve terceirizar para empresas de tecnologia não apenas o poder e a responsabilidade de disseminar e apurar notícias, mas também de criá-las em 1º lugar.
Esse poder vai ao cerne do serviço público do jornalismo, ou seja, sua capacidade e obrigação de usar a linguagem de maneira habilidosa, eloquente e intencional para criar e debater as verdades fundamentais que ancoram as realidades sociais compartilhadas.
Como inúmeros estudiosos do jornalismo demonstraram e os praticantes especializados sabem, as palavras que o jornalismo usa importam como nenhuma outra, porque, no seu melhor, as palavras do jornalismo surgem do serviço público, de reportagens inquestionáveis, julgamento de notícias autorreflexivas, narração eloquente, edição rigorosa e publicação oportuna. As notícias não são “conteúdo”, os leitores não são “usuários”, as histórias não são “sínteses”.
Uma imprensa verdadeiramente livre controla sua linguagem do início ao fim. Ela sabe de onde suas palavras vêm, como escolhê-las e defendê-las, e o poder que advém de usá-las em benefício do público.
Mas a linguagem do GenAI não possui esse compromisso com a verdade, a eloquência ou o interesse público. Os sistemas GenAI usam modelos estatísticos para adivinhar quais ordens de palavras e posicionamentos de pixels se encaixam em padrões que os modelos computacionais identificaram em conjuntos de dados vastos e em grande parte não examinados. Eles agem como “papagaios estocásticos”.
O jornalismo que utiliza os grandes modelos de linguagem e padrões estatísticos do GenAI das big techs corre o risco de não ser apenas tendencioso ou entediante. Esse tipo de jornalismo é potencialmente anátema para uma imprensa livre, porque renuncia à autonomia – sem mencionar a alegria estética – que vem do conhecimento de por que e como usar a linguagem.
Como estudiosos do jornalismo e da liberdade de imprensa, temos acompanhado de perto esses desenvolvimentos. Por meio do nosso trabalho com o Knowing Machines –um projeto de pesquisa que rastreia a história, práticas e políticas de sistemas de aprendizado de máquina como o GenAI– temos analisado centenas de notícias, políticas, diretrizes, comentários e análises sobre o GenAI no jornalismo. E estamos preocupados de que essas implicações para a liberdade de imprensa –para além dos fluxos de trabalho de reportagem, políticas de redação e pressões trabalhistas– não tenham sido o cerne da conversa pública que o jornalismo precisa ter sobre o GenAI.
Até agora, essa conversa reflete um amplo senso de inevitabilidade sobre a tecnologia e sua capacidade de substituir, melhorar ou engolir as notícias. Na esperança de proteger uma indústria já economicamente e politicamente debilitada, os jornalistas adotaram posturas principalmente defensivas e reativas, focadas em duas preocupações inter-relacionadas: proteger empregos e modelos de negócios nas redações e garantir que o GenAI –com suas alucinações de desinformação e erros de alto perfil– passe nos testes jornalísticos de veracidade.
Esses focos no trabalho e na verdade são importantes e compreensíveis, mas deixam de perceber o que está acontecendo abaixo da superfície. A visão de que o GenAI é apenas a mais recente ferramenta tecnológica para jornalistas e organizações de notícias utilizar de forma responsável ignora como ele aumenta dramaticamente a dependência da indústria das empresas de tecnologia de maneiras inquietantes e muitas vezes desconhecidas, incluindo ao depender do GenAI para classificar, calcular e criar a linguagem que os jornalistas usam para contar histórias –as histórias que usamos para nos conhecer e nos governar.
Existem duas maneiras pelas quais os jornalistas poderiam usar esse momento do GenAI para defender e até fortalecer a liberdade de imprensa.
Em 1º lugar, seguindo o exemplo dos Sindicatos de Escritores e Atores de Cinema e alinhando-se com alguns sindicatos de redações, os jornalistas poderiam encontrar sua voz coletiva sobre o GenAI.
De fato, começamos a ver alguns esforços vacilantes, mas esperançosos, de ação coletiva. Alguns editores estão tentando formar uma coalizão para exigir uma compensação justa das empresas GenAI que usam textos jornalísticos para treinar seus modelos –embora importantes veículos como The New York Times e AP pareçam estar determinados a agir sozinhos. E os sindicatos de redações estão pressionando por uma maior proteção dos trabalhadores, embora esses esforços até agora estejam focados em mitigar os efeitos do GenAI.
Os jornalistas poderiam ir além das preocupações com direitos autorais e automação para questionar se a natureza sintética, estatística e proprietária do GenAI – sua linguagem provém de sistemas controlados por poucas pessoas poderosas – é mesmo compatível com uma imprensa livre que comanda suas próprias palavras.
Os jornalistas poderiam se perguntar como suas obrigações como servidores públicos com direitos protegidos pela Constituição se alinham com sua disposição de usar ideias, manchetes, introduções, formulações, edições, imagens e mais criadas por sistemas computacionais não responsáveis, controlados privadamente e muitas vezes opacos, usando conjuntos de dados que se sabe estarem falhos.
Se os jornalistas pudessem falar com as empresas de tecnologia com uma única voz, eles poderiam afirmar seu poder e remodelar radicalmente o GenAI, exigindo que as empresas de tecnologia ajudem a apoiar a imprensa que as pessoas precisam.
Em 2º lugar, para os jornalistas reformularem o GenAI no interesse público, eles precisam usar sua voz coletiva para mudar a infraestrutura do GenAI. Isso vai além de aprender a fazer perguntas ao ChatGPT, reagir às respostas, rotular notícias do GenAI ou verificar fatos em uma história do GenAI. Significa criticar, reformular e rejeitar os sistemas GenAI quando os jornalistas os considerarem inadequados para o trabalho jornalístico.
Sob os resultados do GenAI, há um vasto oceano de dados com históricos e políticas que tornam o GenAI tudo menos neutro ou objetivo. Quem categorizou e rotulou o conjunto de dados, o que está super-representado ou ausente de um conjunto de dados, com que frequência o sistema falha e quem sofre mais com esses erros? Quem dentro das redações tem o poder de licenciar os sistemas GenAI, o que perguntam antes de implementar uma nova ferramenta e quanto poder os jornalistas têm para recusar parte ou todo o sistema de infraestrutura do GenAI?
Os estudantes de jornalismo estão sendo treinados não apenas para usar dados dentro das histórias, mas para questionar as políticas dos conjuntos de dados e modelos do GenAI – incluindo aqueles em suas próprias redações?
Os jornalistas precisam aprender rapidamente a examinar os sistemas GenAI e desenvolver o poder de moldá-los. Isso significa examinar conjuntos de dados, categorias, pressupostos, taxas de falha, culturas de engenharia e imperativos econômicos que impulsionam os sistemas GenAI.
Os repórteres precisam fazer perguntas difíceis sobre como o GenAI pode revelar dados confidenciais, colocar fontes em risco e confundir de maneira prejudicial notícias cuidadosamente elaboradas com outros tipos de “dados” ou “conteúdo”.
Embora os jornalistas possam ser seduzidos pelas promessas do GenAI de linguagem estatística sem políticas, eles devem ver como essas mídias sintéticas muitas vezes são incompatíveis com a linguagem mais sutil e precisa que os jornalistas experientes levam anos para aprender a usar.
Uma imprensa livre e responsável é uma imprensa eloquente que conhece suas palavras. Ela compreende a política por trás de suas palavras, defende sua linguagem com coragem e a altera quando sabe que deve.
Como instituição –não apenas jornalistas individuais ou organizações tomando suas próprias decisões– a imprensa precisa saber como o GenAI cumpre ou prejudica sua missão pública. Ela precisa falar com uma voz única para as empresas de tecnologia que oferecem ferramentas GenAI, usando seu poder único como uma instituição pública vital e protegida pela Constituição para rejeitar a apropriação tecnológica da linguagem que usa em nome do público.
Se o GenAI permanecer apenas como uma curiosidade técnica, uma moda fetichizada, um mistério insondável ou uma ferramenta aparentemente neutra, os jornalistas correm o risco de minar sua própria missão, aceitando gradualmente os tópicos, fatos, histórias, palavras e falsa eloquência do GenAI como “suficientemente bons”. Uma imprensa assim estaria longe de ser verdadeiramente livre.
Mike Ananny é Ph.D em Comunicação pela Universidade de Stanford, professor asssociado da Annenberg School na Universidade do Sul da California e pesquisador de ética pública das infraestruturas jornalísticas.
Jake Karr é vice-diretor da Clínica de Política e Direito Tecnológico da Universidade de Nova York
Texto traduzido por Eduarda Teixeira. Leia o original em inglês.
O Poder360 tem uma parceria com duas divisões da Fundação Nieman, de Harvard: o Nieman Journalism Lab e o Nieman Reports. O acordo consiste em traduzir para português os textos que o Nieman Journalism Lab e o Nieman Reports e publicar esse material no Poder360. Para ter acesso a todas as traduções já publicadas, clique aqui.