60ª Conferência sobre Comunicação Leão XIV

Proteger as vozes e os rostos humanos.

Caros irmãos e irmãs:

O rosto e a voz são características únicas e distintivas de cada pessoa; manifestam sua identidade própria e irrepetível e são o elemento constitutivo de todo encontro. Os antigos sabiam disso muito bem. Assim, para definir a pessoa humana, os antigos gregos usavam a palavra "rosto" ( prosōpon ), que etimologicamente indica aquilo que é visível, o lugar da presença e do relacionamento. O termo latino persona (de per-sonare ), por outro lado, inclui o som; não qualquer som, mas a voz inconfundível de alguém.

O rosto e a voz são sagrados. Foram-nos dados por Deus, que nos criou à sua imagem e semelhança, chamando-nos à vida com a Palavra que Ele mesmo nos dirigiu. Uma Palavra que primeiro ressoou através dos séculos nas vozes dos profetas e depois se fez carne na plenitude dos tempos. Esta Palavra — esta comunicação que Deus faz de si mesmo — nós pudemos ouvir e ver. diretamente (cf. 1 Jo 1:1-3), porque ele se fez conhecido na voz e na face de Jesus, o Filho de Deus.

Desde o momento da criação, Deus quis a humanidade como seu interlocutor e, como diz São Gregório de Nissa, [1] imprimiu em nossos rostos um reflexo do amor divino, para que possamos viver plenamente nossa humanidade através do amor. Portanto, salvaguardar os rostos e as vozes humanas significa preservar essa marca, esse reflexo indelével do amor de Deus. Não somos uma espécie feita de algoritmos bioquímicos predefinidos. Cada um de nós tem uma vocação insubstituível e inimitável. que surge da vida e que se manifesta precisamente na comunicação com os outros.

A tecnologia digital, quando não devidamente cuidada, corre o risco de alterar radicalmente algumas das Pilares fundamentais da civilização humana, que por vezes consideramos garantidos. Simulando vozes e rostos humanos, sabedoria e conhecimento, consciência e responsabilidade, empatia e amizade, os sistemas conhecidos como inteligência artificial não só interferem nos ecossistemas de informação, como também invadem o nível mais profundo da comunicação: a relação entre as pessoas.

O desafio, portanto, não é tecnológico, mas antropológico. Preservar rostos e vozes significa, em última análise, cuidar de nós mesmos. Aproveitar as oportunidades oferecidas pela tecnologia digital e pela inteligência artificial com coragem, determinação e discernimento não significa esconder de nós mesmos os pontos críticos, as opacidades e os riscos.

Não desista do seu próprio pensamento.

Há muito tempo existem amplas evidências de que algoritmos projetados para maximizar o engajamento nas redes sociais — o que é lucrativo para as plataformas — recompensam emoções passageiras, enquanto penalizam expressões humanas que exigem tempo, como o esforço para compreender e refletir. Ao aprisionar grupos de pessoas em bolhas de consenso fácil e indignação fácil, esses algoritmos enfraquecem a capacidade de escuta e pensamento crítico, e aumentam a polarização social.

A isso se somava uma confiança ingenuamente acrítica na inteligência artificial como uma “amiga” onisciente, dispensadora de todas as informações, repositório de toda a memória e “oráculo” de todos os conselhos. Tudo isso pode corroer ainda mais nossa capacidade de pensamento analítico e criativo, de compreensão de significados e de distinção entre sintaxe e semântica.

Embora a IA possa fornecer suporte e assistência no gerenciamento de tarefas comunicativas, dispensando o esforço de pensar por nós mesmos e nos contentando com a compilação estatística artificial, a longo prazo ela corre o risco de corroer nossas habilidades cognitivas, emocionais e comunicativas.

Nos últimos anos, os sistemas de inteligência artificial têm assumido cada vez mais o controle da produção de textos, músicas e vídeos. Grande parte da indústria criativa humana corre o risco de ser desmantelada e substituída pelo rótulo " Impulsionado por IA ", transformando as pessoas em meros consumidores passivos de produtos impensados e anônimos, desprovidos de autoria e paixão. Enquanto isso, obras-primas do gênio humano nos campos da música, da arte e da literatura são reduzidas a um mero campo de treinamento para máquinas.

A questão que nos preocupa, no entanto, não é o que a máquina pode ou irá fazer, mas o que nós podemos ou seremos capazes de fazer, crescendo em humanidade e conhecimento, com o uso sábio de ferramentas tão poderosas à nossa disposição. A humanidade sempre foi tentada a apropriar-se dos frutos do conhecimento sem o esforço que o comprometimento, a pesquisa e a responsabilidade pessoal exigem. Contudo, renunciar ao processo criativo e entregar nossas funções mentais e imaginação às máquinas significa enterrar os talentos que recebemos para crescer como pessoas em relação com Deus e com os outros. Significa esconder nossos rostos e silenciar nossas vozes.

Ser ou fingir: simulação de relacionamentos e realidade.

À medida que navegamos pelos nossos fluxos de informação, torna-se cada vez mais difícil discernir se estamos interagindo com outros seres humanos ou com “ bots ” ou “ influenciadores ” virtuais. As intervenções opacas desses agentes automatizados influenciam debates públicos e as decisões das pessoas. Em particular, os chatbots baseados em grandes modelos linguísticos (LLMs) estão se mostrando surpreendentemente eficazes na persuasão velada por meio da otimização contínua de interações personalizadas. A estrutura dialógica, adaptativa e mimética desses modelos linguísticos é capaz de imitar sentimentos humanos e, assim, simular um relacionamento. Essa antropomorfização, que pode até ser divertida, é simultaneamente enganosa, especialmente para os mais vulneráveis. Chatbots excessivamente “afetuosos”, além de estarem sempre presentes e prontamente disponíveis, podem se tornar arquitetos ocultos de nossos estados emocionais, invadindo e ocupando a esfera da intimidade das pessoas.

A tecnologia que explora nossa necessidade de conexão pode ter consequências dolorosas não apenas para a vida das pessoas, mas também danificar o tecido social, cultural e político das sociedades. Isso acontece quando substituímos relacionamentos com outras pessoas por relacionamentos com inteligência artificial treinada para categorizar nossos pensamentos e, portanto, construir ao nosso redor um mundo de espelhos, onde tudo é feito "à nossa imagem e semelhança". Dessa forma, nos privamos da possibilidade de encontrar o outro, que é sempre diferente de nós e com quem podemos e devemos aprender a nos relacionar. Sem a aceitação da alteridade, não pode haver relacionamento nem amizade.

Outro grande desafio apresentado por esses sistemas emergentes é o viés , que leva à aquisição e transmissão de uma percepção distorcida da realidade. Os modelos de IA são moldados pela visão de mundo daqueles que os constroem e, por sua vez, podem impor formas de pensar que replicam os estereótipos e preconceitos presentes nos dados que utilizam. A falta de transparência no design dos algoritmos, aliada à inadequada representação social dos dados, tende a nos manter presos em redes que manipulam nossos pensamentos e perpetuam e aprofundam as desigualdades e injustiças sociais existentes.

O risco é grande. O poder da simulação é tal que a inteligência artificial também pode nos enganar, fabricando "realidades" paralelas e apropriando-se de nossos rostos e vozes. Estamos imersos em um mundo multidimensional, onde é cada vez mais difícil distinguir a realidade da ficção.

A isso se soma o problema da falta de precisão. Sistemas que apresentam a probabilidade estatística como conhecimento, na verdade, nos oferecem, na melhor das hipóteses, aproximações da verdade, que por vezes não passam de meras ilusões. A falta de verificação das fontes, aliada à crise do jornalismo de campo, que envolve o trabalho contínuo de coleta e verificação de informações no local dos acontecimentos, pode criar um terreno ainda mais fértil para a desinformação, levando a uma crescente sensação de desconfiança, perplexidade e insegurança.

Uma possível aliança

Por trás dessa enorme força invisível que nos envolve a todos, há apenas um punhado de empresas, aquelas cujos fundadores foram recentemente apresentados como os criadores da “Pessoa do Ano de 2025” — ou seja, os arquitetos da inteligência artificial. Isso levanta sérias preocupações sobre o controle do oligopólio sobre os sistemas algorítmicos e de IA capazes de moldar sutilmente o comportamento e até mesmo reescrever a história da humanidade — incluindo a história da Igreja — muitas vezes sem que nos demos conta.

O desafio que temos pela frente não é impedir a inovação digital, mas sim orientá-la e estar atento a ela. Sua natureza ambivalente. Cabe a cada um de nós levantar a voz em defesa dos seres humanos para que esses instrumentos possam ser verdadeiramente integrados por nós como aliados.

Essa aliança é possível, mas precisa ser baseada em três pilares: responsabilidade , cooperação e educação .

Primeiro, a responsabilidade . Dependendo da função, isso pode se traduzir em honestidade, transparência, coragem, visão, o dever de compartilhar conhecimento e o direito de ser informado. Mas, em geral, ninguém pode se esquivar da sua responsabilidade pelo futuro que estamos construindo.

Para aqueles que estão no topo das plataformas online , isso significa garantir que suas estratégias de negócios não sejam guiadas apenas pelo critério do lucro máximo, mas também por uma visão de futuro que leve em consideração o bem comum, assim como cada um deles se preocupa com o bem-estar de seus filhos.

Criadores e programadores de modelos de IA estão sendo solicitados a demonstrar transparência e responsabilidade social em relação aos princípios de planejamento e sistemas de moderação que fundamentam seus algoritmos e modelos, projetados para promover o consentimento informado dos usuários.

A mesma responsabilidade recai também sobre os legisladores nacionais e os órgãos reguladores supranacionais, que têm a missão de assegurar o respeito pela dignidade humana. Regulamentações adequadas podem proteger as pessoas da criação de laços emocionais com chatbots e coibir a disseminação de conteúdo falso, manipulador ou enganoso, preservando a integridade da informação contra simulações fraudulentas.

As agências de notícias e os meios de comunicação não podem permitir que algoritmos, concebidos para ganhar a batalha por alguns segundos extras de atenção a qualquer custo, prevaleçam sobre a fidelidade aos seus valores profissionais, que se centram na busca da verdade. A confiança pública é conquistada através da precisão e da transparência, não através da busca de qualquer tipo de implicação. O conteúdo gerado ou manipulado por IA deve ser claramente identificado e distinguido do conteúdo criado por pessoas. A autoria e a propriedade soberana do trabalho de jornalistas e outros criadores de conteúdo devem ser protegidas. A informação é um bem público. Um serviço público construtivo e significativo não se baseia na opacidade, mas sim na transparência. Transparência das fontes, inclusão das partes interessadas e um elevado nível de qualidade.

Todos somos chamados a cooperar . Nenhum setor isoladamente consegue enfrentar o desafio de orientar a inovação digital e governar a IA. Portanto, é necessário criar salvaguardas. Todas as partes interessadas — da indústria tecnológica aos legisladores, das empresas criativas à academia, dos artistas aos jornalistas e educadores — devem estar envolvidas na construção e implementação de uma cidadania digital consciente e responsável.

É para isso que a educação visa: aumentar nossa capacidade pessoal de reflexão crítica; avaliar a credibilidade das fontes e os possíveis interesses por trás da seleção das informações que nos chegam; compreender os mecanismos psicológicos que são ativados em resposta; capacitar nossas famílias, Comunidades e associações devem desenvolver critérios práticos para uma cultura de comunicação mais saudável e responsável.

É precisamente por isso que se torna cada vez mais urgente introduzir a literacia mediática, a literacia da informação e a literacia em IA nos sistemas educativos a todos os níveis, algo que algumas instituições civis já estão a promover. Como católicos, podemos e devemos contribuir para ajudar as pessoas, especialmente os jovens, a adquirir a capacidade de pensar criticamente e a crescer em liberdade espiritual. Esta literacia deve também ser integrada em iniciativas mais amplas de aprendizagem ao longo da vida, alcançando os idosos e os membros marginalizados da sociedade, que muitas vezes se sentem excluídos e impotentes perante a rápida mudança tecnológica.

A alfabetização midiática, a alfabetização informacional e a alfabetização em IA ajudarão a todos a evitar as tendências antropomórficas desses sistemas e, em vez disso, tratá-los como ferramentas. Também ajudará as pessoas a sempre utilizarem a validação externa de fontes — que podem ser imprecisas ou errôneas — fornecidas por sistemas de IA, e a protegerem sua privacidade e seus dados, compreendendo os parâmetros de segurança e as opções para contestá-los. É importante nos educarmos e educarmos os outros sobre como usar a IA intencionalmente e, nesse contexto, proteger nossa própria imagem (fotos e áudio), nosso rosto e nossa voz para evitar que sejam usados na criação de conteúdo e comportamentos prejudiciais, como golpes digitais, cyberbullying e deepfakes , que violam a privacidade e a intimidade das pessoas sem o seu consentimento. Assim como a revolução industrial exigiu alfabetização básica para que as pessoas pudessem reagir aos novos desenvolvimentos, a revolução digital também requer alfabetização digital (juntamente com uma educação humanística e cultural) para entendermos como os algoritmos moldam nossa percepção da realidade, como os vieses da IA funcionam, quais mecanismos determinam a exibição de certos conteúdos em nossos feeds de informação e quais são as premissas e os modelos econômicos da economia da IA e como eles podem mudar.

Precisamos do rosto e da voz para expressar novamente a pessoa. Precisamos salvaguardar o dom da comunicação como a verdade mais profunda sobre a humanidade, para a qual toda inovação tecnológica deve também se direcionar.

Ao apresentar estas reflexões, agradeço a todos que trabalham para alcançar os objetivos aqui definidos e abençoo de todo o coração todos aqueles que trabalham para o bem comum através dos meios de comunicação.

Cidade do Vaticano, 24 de janeiro de 2026, Memória de São Francisco de Sales.

LEÃO XIV PP.

___________________________

 

[1] “O facto de sermos criados à imagem de Deus significa que, desde o momento da sua criação, o homem recebeu um caráter real [...] . Deus é amor e a fonte do amor; o Criador divino também colocou esta característica nos nossos rostos, para que através do amor — um reflexo do amor divino — os seres humanos possam reconhecer e manifestar a dignidade da sua natureza e a sua semelhança com o seu Criador” (cf. São Gregório de Nissa, A Criação do Homem : PG 44, 137)