Mensagem do Papa para o 58º Dia Mundial das Comunicações Sociais

Inteligência artificial e sabedoria do coração: para uma comunicação plenamente humana

Queridos irmãos e irmãs:

A evolução dos chamados sistemas de "inteligência artificial", sobre a qual já reflecti no meu recente Mensagem para o Dia Mundial da Paz, Está também a mudar radicalmente a informação e a comunicação e, através deles, alguns dos fundamentos da convivência civil. É uma mudança que afeta a todos, não apenas aos profissionais. A propagação acelerada de invenções surpreendentes, cujo funcionamento e potencial são indecifráveis ​​para a maioria de nós, suscita um espanto que oscila entre o entusiasmo e a desorientação e coloca-nos inevitavelmente perante questões fundamentais: o que é então o homem? Qual a sua especificidade e qual será o futuro desta espécie o nosso apelo homem sábio na era da inteligência artificial? Como podemos permanecer plenamente humanos e orientar a mudança cultural em curso para o bem?

Começando do coração

Em primeiro lugar, É aconselhável limpar o terreno das leituras catastróficas e dos seus efeitos paralisantes. Há um século, Romano Guardini, refletindo sobre a tecnologia e o homem, exortava-nos a não nos tornarmos rígidos diante do “novo” na tentativa de “preservar um mundo de beleza infinita que está prestes a desaparecer”. Contudo, ao mesmo tempo, ele advertiu fortemente profeticamente: “Nosso lugar é no futuro. Todos devem buscar posições a que cada um pertence [...], conseguiremos atingir esse objetivo se cooperarmos nobremente neste empreendimento; e ao mesmo tempo permanecer, no fundo do nosso coração incorruptível, sensível à dor produzida pela destruição e pelo comportamento desumano que está contido neste novo mundo. E concluiu: «É verdade que estes são problemas técnicos, científicos e políticos; mas é necessário resolvê-los considerando-os do ponto de vista humano. Uma nova humanidade de profunda espiritualidade, de uma nova liberdade e de uma nova vida interior deve emergir.».^[1]

Nesta era que corre o risco de ser rica em tecnologia e pobre em humanidade, a nossa reflexão só pode partir do coração humano. ^[2] Só dotando-nos de um olhar espiritual, só recuperando a sabedoria do coração, poderemos ler e interpretar a novidade do nosso tempo e redescobrir o caminho da comunicação plenamente humana. O coração, biblicamente entendido como sede da liberdade e das decisões mais importantes da vida, é símbolo de integridade, de unidade, ao mesmo tempo que evoca afetos, desejos, sonhos, e é sobretudo lugar interior de encontro com Deus. A sabedoria do coração é, portanto, aquela virtude que nos permite entrelaçar o todo e as partes, as decisões e suas consequências, capacidades e fragilidades, o passado e o futuro, o eu e o nós.

Esta sabedoria do coração pode ser encontrada por quem a procura e pode ser vista por quem a ama; Ela se antecipa a quem a quer e vai em busca de quem é digno dela. (cf. Sab 6,12-16). Ele está com aqueles que se deixam aconselhar (cf. Prov. 13,10), com quem tem coração dócil e escuta (cf. 1 Ré 3.9). É um dom do Espírito Santo, que nos permite ver as coisas com os olhos de Deus, compreender ligações, situações, acontecimentos e descobrir o seu significado. Sem esta sabedoria, a existência torna-se insípida, porque é precisamente sabedoria – cuja raiz latina saber está relacionado com o sabor— aquela que dá prazer à vida.

Oportunidade e perigo

Não podemos esperar esta sabedoria das máquinas. Embora o termo inteligência artificial suplantou o mais correto usado na literatura científica, aprendizado de máquina, o próprio uso da palavra “inteligência” é enganoso. Sem dúvida, as máquinas têm uma capacidade incomensuravelmente maior que os humanos para armazenar dados e correlacioná-los entre si, mas cabe ao homem, e somente a ele, decifrar o seu significado. Não se trata, portanto, de exigir que as máquinas pareçam humanas; mas sim despertar o homem da hipnose em que caiu devido ao seu delírio de onipotência, acreditando ser um sujeito totalmente autônomo e autorreferencial, separado de todos os laços sociais e alheio à sua condição de criatura.

Em efeito, O homem sempre experimentou que não pode ser autossuficiente e tenta superar a sua vulnerabilidade por todos os meios. Começando pelos primeiros artefatos pré-históricos, utilizados como extensão das armas, passando pelos meios de comunicação utilizados como extensão da palavra, chegamos hoje às mais sofisticadas máquinas que funcionam como auxiliares do pensamento. Contudo, cada uma destas realidades pode ser contaminada pela tentação original de se tornar O que Deus pecado Deus (cf. Gn 3), isto é, querer conquistar com as próprias forças aquilo que, pelo contrário, deveria ser acolhido como dom de Deus e vivido nas relações com os outros.

De acordo com a orientação do coração, Tudo o que está nas mãos do homem torna-se uma oportunidade ou um perigo. O seu próprio corpo, criado para ser um lugar de comunicação e comunhão, pode tornar-se um meio de agressão. Da mesma forma, toda extensão técnica do homem pode ser um instrumento de serviço amoroso ou de dominação hostil. Os sistemas de inteligência artificial podem contribuir para o processo de libertação da ignorância e facilitar a troca de informações entre diferentes povos e gerações. Podem, por exemplo, tornar acessível e compreensível uma enorme riqueza de conhecimentos escritos em épocas passadas ou permitir que as pessoas comuniquem em línguas que não conhecem. Mas, ao mesmo tempo, podem ser instrumentos de “contaminação cognitiva”, de alteração da realidade através de narrativas parcial ou totalmente falsas que são acreditadas – e partilhadas – como se fossem verdadeiras. Basta pensar no problema da desinformação que enfrentamos há anos. em forma de notícias falsas^[3] e que hoje é usado deepfakes, ou seja, a criação e divulgação de imagens que parecem perfeitamente plausíveis mas são falsas (também fui objeto disso), ou mensagens de áudio que usam a voz de uma pessoa para dizer coisas que nunca disseram. A simulação, que está na base destes programas, pode ser útil em alguns campos específicos, mas torna-se perversa quando distorce a relação com os outros e com a realidade.

Desde a primeira vaga da inteligência artificial, a das redes sociais, compreendemos a sua ambivalência, percebendo tanto o seu potencial como os seus riscos e patologias. O segundo nível de inteligência artificial generativa marca um salto qualitativo indiscutível. Portanto, é importante ter a capacidade de compreender, compreender e regular ferramentas que em mãos erradas podem abrir cenários adversos. Como tudo o que veio da mente e das mãos do homem, os algoritmos. Por ele, É necessário agir preventivamente, propondo modelos de regulação ética para travar as implicações nocivas, discriminatórias e socialmente injustas dos sistemas de inteligência artificial e contrariar a sua utilização na redução do pluralismo, na polarização da opinião pública ou na construção de um pensamento único. Por isso, renovo o meu apelo instando “a comunidade das nações a trabalhar em conjunto para adotar um tratado internacional vinculativo que regule o desenvolvimento e a utilização da inteligência artificial nas suas muitas formas”.^[4] Contudo, como em qualquer área humana, a regulamentação por si só não é suficiente.

Crescer na humanidade

Somos chamados a crescer juntos, em humanidade e como humanidade. EO desafio que temos diante de nós é dar um salto qualitativo para vivermos à altura de uma sociedade complexa, multiétnica, pluralista, multirreligiosa e multicultural. Cabe a nós questionar-nos sobre o desenvolvimento teórico e a utilização prática destes novos instrumentos de comunicação e conhecimento. Grandes possibilidades de bem acompanham o risco de que tudo se transforme num cálculo abstrato, que reduza as pessoas a meros dados, o pensamento a um esquema, a experiência a um caso, o bem a um benefício e, sobretudo, que acabemos por negar a singularidade de cada pessoa e sua história, dissolvendo a concretude da realidade numa série de estatísticas.

A revolução digital pode tornar-nos mais livres, mas certamente não se nos deixarmos apanhar pelos fenómenos mediáticos hoje conhecidos como Câmara de eco. Nesses casos, em vez de aumentar o pluralismo informacional, corremos o risco de nos perdermos num pântano desconhecido, servindo os interesses do mercado ou do poder. É inaceitável que a utilização da inteligência artificial conduza a um pensamento anónimo, a uma montagem de dados não certificados, a uma negligência colectiva da responsabilidade editorial. A representação da realidade em macrodatos, por mais funcional que seja para a gestão das máquinas, implica na verdade uma perda substancial da verdade das coisas, o que dificulta a comunicação interpessoal e ameaça prejudicar a nossa própria humanidade. A informação não pode ser separada da relação existencial: ela implica o corpo, o ser na realidade; Requer relacionar não apenas dados, mas também experiências; Requer mais o rosto, o olhar e a compaixão do que a troca.

Penso nos relatos de guerras e na “guerra paralela” levada a cabo através de campanhas de desinformação. E penso em quantos repórteres são feridos ou mortos no campo para nos permitir ver o que os seus olhos viram. Porque só tocando no sofrimento das crianças, das mulheres e dos homens podemos compreender o absurdo das guerras.

A utilização da inteligência artificial pode contribuir positivamente para o campo da comunicação se não anular o papel do jornalismo no terreno., mas, pelo contrário, apoia-o; se o profissionalismo da comunicação aumenta, responsabilizando cada comunicador; se devolver a cada ser humano o papel de sujeito, com capacidade crítica, a respeito da mesma comunicação.

Perguntas para hoje e amanhã

Assim, algumas questões surgem espontaneamente: como proteger o profissionalismo e a dignidade dos trabalhadores no domínio da comunicação e da informação, juntamente com a dos utilizadores em todo o mundo? Como garantir a interoperabilidade das plataformas? Como garantir que as empresas que desenvolvem plataformas digitais se responsabilizam pelo que divulgam e com o que obtêm lucros, da mesma forma que os editores de meios de comunicação tradicionais? Como tornar mais transparentes os critérios em que se baseiam os algoritmos de indexação e desindexação e os motores de busca, capazes de exaltar ou anular pessoas e opiniões, histórias e culturas? Como garantir a transparência dos processos de informação? Como tornar evidente a autoria dos escritos e rastreáveis ​​as fontes, evitando o manto do anonimato? Como mostrar se uma imagem ou vídeo retrata um acontecimento ou o simula? Como evitar que as fontes sejam reduzidas a um único pensamento elaborado algoritmicamente? E como fomentar, em vez disso, um ambiente que preserve o pluralismo e represente a complexidade da realidade? Como tornar sustentável esta ferramenta poderosa, cara e que consome muita energia? Como podemos torná-lo também acessível aos países em desenvolvimento?

Com base nas respostas a estas e outras questões, compreenderemos se a inteligência artificial acabará por construir novas castas baseadas no domínio da informação, gerando novas formas de exploração e desigualdade.; ou se, pelo contrário, trará mais igualdade, promovendo uma informação correta e uma maior consciência dos tempos de mudança que vivemos, favorecendo a escuta das múltiplas necessidades das pessoas e dos povos, num sistema de informação articulado e pluralista. Por um lado, assoma o espectro de uma nova escravidão, por outro, uma conquista da liberdade; por um lado, a possibilidade de poucos condicionarem o pensamento de todos, por outro, a possibilidade de todos participarem na elaboração do pensamento.

A resposta não está escrita, cabe a nós. Cabe ao homem decidir se se torna alimento para algoritmos ou se alimenta o seu coração com liberdade, aquele coração sem o qual não cresceríamos em sabedoria. Essa sabedoria amadurece aproveitando o tempo e compreendendo as fraquezas. Cresce na aliança entre gerações, entre quem tem memória do passado e quem tem visão de futuro. Só juntos cresce a capacidade de discernir, de vigiar, de ver as coisas a partir da sua realização. Para não perdermos a nossa humanidade, procuremos a Sabedoria que é anterior a todas as coisas (cf. E 1,4), que, passando pelos corações puros, faz amigos de Deus profetas (cf. Sab 7,27). Também nos ajudará a orientar os sistemas de inteligência artificial para uma comunicação totalmente humana.

Roma, em São João de Latrão, 24 de janeiro de 2024

FRANCISCO

^[1] Fretamentos do Lago Como, Pamplona 2013, 101-104.

^[2] Em continuidade com as Mensagens das anteriores Jornadas Mundiais das Comunicações Sociais, dedicadas a encontrar para as pessoas onde elas estão e como elas são (2021), ouça com os ouvidos do coração (2022) e fale com o coração (2023).

^[3] "A verdade te libertará" (JN 8, 32). Notícias falsas e jornalismo de paz. Mensagem do 52º Dia Mundial das Comunicações Sociais, 2018.

^[4] Mensagem para a celebração do 57º Dia Mundial da Paz (1º de janeiro de 2024),