Inteligência Artificial e Sabedoria do Coração: Rumo a uma Comunicação Totalmente Humana

"Mensagem de Sua Santidade" Francisco para o 58o Dia Mundial das Comunicações Sociais

Inteligência Artificial e Sabedoria do Coração: Rumo a uma Comunicação Totalmente Humana

Queridos irmãos e irmãs!

O desenvolvimento de sistemas de inteligência artificial, aos quais dediquei a minha recente Mensagem para o Dia Mundial da Paz, está a afectar radicalmente o mundo da informação e da comunicação e, através dele, certos fundamentos da vida na sociedade. Essas mudanças afetam a todos, não apenas aos profissionais dessas áreas. A rápida difusão de inovações surpreendentes, cujo funcionamento e potencial estão além da capacidade da maioria de entender e apreciar, tem provado tanto emocionante e desorientante. Isso leva inevitavelmente a questões mais profundas sobre a natureza do ser humano, nossa distinção e o futuro da espécie homo sapiens na era da inteligência artificial. Como podemos permanecer plenamente humanos e guiar esta transformação cultural para servir a um bom propósito?

Começando pelo coração

Antes de tudo, temos de pôr de lado as previsões catastróficas e os seus efeitos adormecidos. Há um século atrás, Romano Guardini refletia sobre tecnologia e humanidade. Guardini nos exortou a não rejeitar "o novo" na tentativa de "preservar um belo mundo condenado a desaparecer". Ao mesmo tempo, ele advertiu profeticamente que "estamos constantemente no processo de nos tornar. Devemos entrar neste processo, cada um à sua maneira, com abertura, mas também com sensibilidade a tudo o que nele é destrutivo e desumano". E concluiu: "Estes são problemas técnicos, científicos e políticos, mas não podem ser resolvidos a não ser partindo da nossa humanidade. Um novo tipo de ser humano deve tomar forma, dotado de uma espiritualidade mais profunda e de uma nova liberdade e interioridade". [1]

Neste momento da história, que corre o risco de ficar rico em tecnologia e pobre na humanidade, as nossas reflexões devem começar com o coração humano. [2] Somente adotando um modo espiritual de ver a realidade, somente recuperando uma sabedoria do coração, podemos confrontar e interpretar a novidade do nosso tempo e redescobrir o caminho para uma comunicação plenamente humana. Na Bíblia, o coração é visto como o lugar da liberdade e tomada de decisão. Ela simboliza a integridade e a unidade, mas envolve também as nossas emoções, desejos, sonhos; é, acima de tudo, o lugar interior do nosso encontro com Deus. A sabedoria do coração, então, é a virtude que nos permite integrar o todo e suas partes, nossas decisões e suas consequências, nossa nobreza e nossa vulnerabilidade, nosso passado e nosso futuro, nossa individualidade e nossa adesão dentro de uma comunidade maior.

Esta sabedoria do coração deixa-se encontrar por aqueles que a buscam e são vistos por aqueles que a amam; antecipa aqueles que a desejam e vai em busca daqueles que são dignos dela (cf. Wis 6:12-16). Acompanha aqueles que estão dispostos a tomar conselhos (cf. Prov 13:10), aqueles dotados de um coração dócil e atento (cf. 1 kg 3:9). Dom do Espírito Santo, permite-nos olhar para as coisas com os olhos de Deus, ver conexões, situações, eventos e descobrir o seu verdadeiro significado. Sem este tipo de sabedoria, a vida torna-se branda, uma vez que é precisamente sabedoria – cuja raiz latina sapere está relacionado com o substantivo sapor – que dá "sabor" à vida.

Oportunidade e perigo

Tal sabedoria não pode ser buscada nas máquinas. Embora o termo "inteligência artificial" tenha agora suplantado o termo mais correto, "aprendizagem de máquinas", utilizado na literatura científica, o próprio uso da palavra "inteligência" pode ser enganador. Sem dúvida, as máquinas possuem uma capacidade infinitamente maior do que os seres humanos para armazenar e correlacionar dados, mas somente os seres humanos são capazes de fazer sentido desses dados. Não se trata simplesmente de fazer com que as máquinas pareçam mais humanas, mas de despertar a humanidade do sono induzido pela ilusão da onipotência, baseada na crença de que somos sujeitos completamente autônomos e autorreferenciais, desapegados de todos os vínculos sociais e esquecidos do nosso estatuto de criaturas.

Os seres humanos sempre perceberam que não são auto-suficientes e têm buscado superar sua vulnerabilidade empregando todos os meios possíveis. Desde os primeiros artefatos pré-históricos, usados como extensões dos braços, e então os meios de comunicação, usados como uma extensão da palavra falada, agora nos tornamos capazes de criar máquinas altamente sofisticadas que agem como suporte ao pensamento. Cada um destes instrumentos, no entanto, pode ser abusado pela tentação primordial de se tornar gostar Deus. sem Deus (cf. Gen 3), isto é, querer compreender pelo nosso próprio esforço o que deveria ser recebido livremente como um dom de Deus, para ser desfrutado na companhia dos outros.

Dependendo da inclinação do coração, tudo ao nosso alcance se torna uma oportunidade ou uma ameaça. Os nossos próprios corpos, criados para a comunicação e a comunhão, podem tornar-se um meio de agressão. Assim também, cada extensão técnica de nossa humanidade pode ser um meio de serviço amoroso ou de dominação hostil. Sistemas de inteligência artificial podem ajudar a superar a ignorância e facilitar o intercâmbio de informações entre diferentes povos e gerações. Por exemplo, eles podem tornar acessível e compreensível um enorme patrimônio do conhecimento escrito de idades passadas ou permitir a comunicação entre indivíduos que não compartilham uma língua comum. No entanto, ao mesmo tempo, eles podem ser uma fonte de "poluição cognitiva", uma distorção da realidade por narrativas parcialmente ou completamente falsas, acreditadas e transmitidas como se fossem verdadeiras. Precisamos de pensar no problema da desinformação sob a forma de notícias falsas. [3] que hoje pode empregar "deepfakes", ou seja, a criação e difusão de imagens que parecem perfeitamente plausíveis mas falsas (eu também tenho sido um objeto disso), ou de mensagens de áudio que usam a voz de uma pessoa para dizer coisas que essa pessoa nunca disse. A tecnologia de simulação por detrás destes programas pode ser útil em certos domínios específicos, mas torna-se perversa quando distorce a nossa relação com os outros e com a realidade.

Partindo da primeira onda de inteligência artificial, a das mídias sociais, experimentamos sua ambivalência: suas possibilidades, mas também seus riscos e patologias associadas. O segundo nível de inteligência artificial gerativa representa inquestionavelmente um salto qualitativo. Por conseguinte, é importante compreender, apreciar e regulamentar instrumentos que, nas mãos erradas, possam conduzir a cenários perturbadores. Como qualquer outro produto da inteligência e habilidade humana, algoritmos não são neutros. Por esta razão, é necessário agir preventivamente, propondo modelos de regulação ética, para evitar efeitos nocivos, discriminatórios e socialmente injustos do uso de sistemas de inteligência artificial e para combater o seu mau uso com o objetivo de reduzir o pluralismo, polarizar a opinião pública ou criar formas de pensamento grupal. Mais uma vez, apelo à comunidade internacional "para que trabalhem em conjunto para adoptar um tratado internacional vinculativo que regule o desenvolvimento e o uso da inteligência artificial nas suas múltiplas formas". [4] Ao mesmo tempo, como em todos os contextos humanos, a regulação é, por si só, insuficiente.

Crescimento na humanidade

Todos nós somos chamados a crescer juntos, na humanidade e como humanidade. Somos desafiados a dar um salto qualitativo para nos tornarmos uma sociedade complexa, multiétnica, pluralista, multi-religiosa e multicultural. Somos chamados a refletir cuidadosamente sobre o desenvolvimento teórico e o uso prático desses novos instrumentos de comunicação e conhecimento. Suas grandes possibilidades para o bem são acompanhadas pelo risco de transformar tudo em cálculos abstratos que reduzem os indivíduos a dados, pensando em um processo mecânico, experiência a casos isolados, bondade ao lucro e, sobretudo, uma negação da singularidade de cada indivíduo e de sua história. A concretude da realidade dissolve-se numa onda de dados estatísticos.

The digital revolution can bring us greater freedom, but not if it imprisons us in models that nowadays are called “echo chambers”. In such cases, rather than increasing a pluralism of information, we risk finding ourselves adrift in a mire of confusion, prey to the interests of the market or of the powers that be. It is unacceptable that the use of artificial intelligence should lead to groupthink, to a gathering of unverified data, to a collective editorial dereliction of duty. The representation of reality in “big data”, however useful for the operation of machines, ultimately entails a substantial loss of the truth of things, hindering interpersonal communication and threatening our very humanity. Information cannot be separated from living relationships. These involve the body and immersion in the real world; they involve correlating not only data but also human experiences; they require sensitivity to faces and facial expressions, compassion and sharing.

Here I think of the reporting of wars and the “parallel war” being waged through campaigns of disinformation. I think too of all those reporters who have been injured or killed in the line of duty in order to enable us to see what they themselves had seen. For only by such direct contact with the suffering of children, women and men, can we come to appreciate the absurdity of wars.

The use of artificial intelligence can make a positive contribution to the communications sector, provided it does not eliminate the role of journalism on the ground but serves to support it. Provided too that it values the professionalism of communication, making every communicator more aware of his or her responsibilities, and enables all people to be, as they should, discerning participants in the work of communication.

Questions for today and for the future

In this regard, a number of questions naturally arise. How do we safeguard professionalism and the dignity of workers in the fields of information and communication, together with that of users throughout the world? How do we ensure the interoperability of platforms? How do we enable businesses that develop digital platforms to accept their responsibilities with regard to content and advertising in the same way as editors of traditional communications media? How do we make more transparent the criteria guiding the operation of algorithms for indexing and de-indexing, and for search engines that are capable of celebrating or canceling persons and opinions, histories and cultures? How do we guarantee the transparency of information processing? How do we identify the paternity of writings and the traceability of sources concealed behind the shield of anonymity? How do we make it clear whether an image or video is portraying an event or simulating it? How do we prevent sources from being reduced to one alone, thus fostering a single approach, developed on the basis of an algorithm? How instead do we promote an environment suitable for preserving pluralism and portraying the complexity of reality? How can we make sustainable a technology so powerful, costly and energy-consuming? And how can we make it accessible also to developing countries?

The answers we give to these and other questions will determine if artificial intelligence will end up creating new castes based on access to information and thus giving rise to new forms of exploitation and inequality. Or, if it will lead to greater equality by promoting correct information and a greater awareness of the epochal change that we are experiencing by making it possible to acknowledge the many needs of individuals and of peoples within a well-structured and pluralistic network of information. If, on the one hand, we can glimpse the spectre of a new form of slavery, on the other, we can also envision a means of greater freedom; either the possibility that a select few can condition the thought of others, or that all people can participate in the development of thought.

The answer we give to these questions is not pre-determined; it depends on us. It is up to us to decide whether we will become fodder for algorithms or will nourish our hearts with that freedom without which we cannot grow in wisdom. Such wisdom matures by using time wisely and embracing our vulnerabilities. It grows in the covenant between generations, between those who remember the past and who look ahead to the future. Only together can we increase our capacity for discernment and vigilance and for seeing things in the light of their fulfilment. Lest our humanity lose its bearings, let us seek the wisdom that was present before all things (cf. Senhor. 1:4): it will help us also to put systems of artificial intelligence at the service of a fully human communication.

Rome, Saint John Lateran, 24 January 2024

FRANCIS

[1] Letters from Lake Como.

[2] The 2024 Message for the World Day of Social Communications takes up the preceding Messages devoted to encountering persons where and how they are (2021), to hearing with the ear of the heart (2022) and speaking to the heart (2023).

[3] Cf. “The Truth Will Make You Free” (Jn 8:32). Fake News and Journalism for Peace, Message for the 2018 World Day of Social Communications.

[4] Message for the 57th World Day of Peace, 1 January 2024, 8.