Inteligência artificial e paz
Inteligência artificial e paz
Mensagem do Papa Francisco para a celebração do 57º Dia Mundial da Paz (1º de janeiro de 2024)
No início do novo ano, tempo de graça que o Senhor concede a cada um de nós, gostaria de me dirigir ao Povo de Deus, às nações, aos Chefes de Estado e de Governo, aos Representantes das diversas religiões e às autoridades civis. sociedade e a todos os homens e mulheres do nosso tempo para expressar os meus melhores votos de paz.
1. O progresso da ciência e da tecnologia como caminho para a paz
A Sagrada Escritura atesta que Deus deu aos homens o seu Espírito para que tenham “habilidade, talento e experiência na execução de todo tipo de trabalho” ( Êx 35,31). A inteligência é expressão da dignidade que o Criador nos concedeu, fazendo-nos à sua imagem e semelhança (cf. Gn 1, 26), e tornou-nos capazes de responder ao seu amor através da liberdade e do conhecimento. A ciência e a tecnologia manifestam de forma particular esta qualidade fundamentalmente relacional da inteligência humana; ambas são produtos extraordinários do seu potencial criativo.
Na Constituição pastoral Gaudium et Spes , o Concílio Vaticano II insistiu nesta verdade, declarando que “o homem sempre se esforçou com o seu trabalho e o seu engenho para aperfeiçoar a sua vida”. [1] Quando o ser humano, «com a ajuda de recursos técnicos», se esforça para que a terra «se torne uma morada digna para toda a família humana», [2] agem segundo o desígnio de Deus e cooperam com a sua vontade de levar a cabo criar e difundir a paz entre os povos. Da mesma forma, o progresso da ciência e da tecnologia, na medida em que contribui para uma melhor ordem da sociedade humana e para aumentar a liberdade e a comunhão fraterna, leva à perfeição do homem e à transformação do mundo.
Justamente nos alegramos e estamos gratos pelas extraordinárias conquistas da ciência e da tecnologia, graças às quais foi possível remediar inúmeros males que afectaram a vida humana e causaram grandes sofrimentos. Ao mesmo tempo, o progresso técnico-científico, ao permitir exercer um controlo sobre a realidade nunca antes visto, coloca nas mãos do homem um vasto leque de possibilidades, algumas das quais representam um risco para a sobrevivência humana e um perigo para o meio ambiente. casa comum. [3]
O notável progresso das novas tecnologias da informação, especialmente na esfera digital, apresenta, portanto, oportunidades estimulantes e sérios riscos, com sérias implicações na busca da justiça e da harmonia entre os povos. Portanto, algumas questões urgentes precisam ser feitas. Quais serão as consequências, a médio e longo prazo, das novas tecnologias digitais? E que impacto terão na vida dos indivíduos e da sociedade, na estabilidade internacional e na paz?
2. O futuro da inteligência artificial entre promessas e riscos
O progresso da computação e o desenvolvimento das tecnologias digitais nas últimas décadas já começaram a produzir profundas transformações na sociedade global e na sua dinâmica. Os novos instrumentos digitais estão a mudar a face das comunicações, da administração pública, da educação, do consumo, das interações pessoais e de inúmeros outros aspetos da vida quotidiana.
Além disso, as tecnologias que utilizam um grande número de algoritmos podem extrair, dos vestígios digitais deixados na Internet, dados que permitem controlar os hábitos mentais e relacionais das pessoas para fins comerciais ou políticos, muitas vezes sem o seu conhecimento, limitando o seu exercício. consciente da liberdade de escolha. Na verdade, num espaço como a web, caracterizado por uma sobrecarga de informação, o fluxo de dados pode ser estruturado de acordo com critérios de seleção que nem sempre são percebidos pelo utilizador.
Devemos lembrar que a investigação científica e as inovações tecnológicas não estão divorciadas da realidade ou são “neutras”, [4] mas estão sujeitas a influências culturais. Sendo atividades plenamente humanas, os rumos que tomam refletem decisões condicionadas pelos valores pessoais, sociais e culturais de cada época. O mesmo pode ser dito sobre os resultados que alcançam. Estas, precisamente como resultado de abordagens especificamente humanas face ao mundo envolvente, têm sempre uma dimensão ética, estritamente ligada às decisões de quem planeia a experimentação e orienta a produção para objectivos particulares.
Isto também se aplica a formas de inteligência artificial, para as quais, até hoje, não existe uma definição unívoca no mundo da ciência e da tecnologia. O próprio termo, que já entrou na linguagem comum, abrange uma variedade de ciências, teorias e técnicas destinadas a fazer com que as máquinas reproduzam ou imitem, no seu funcionamento, as capacidades cognitivas dos seres humanos. Falar no plural de “formas de inteligência” pode ajudar a evidenciar sobretudo o fosso intransponível que existe entre estes sistemas e a pessoa humana, por mais surpreendentes e poderosos que sejam. Estas são, em última análise, “fragmentárias”, no sentido de que apenas podem imitar ou reproduzir algumas funções da inteligência humana. A utilização do plural também deixa claro que estes dispositivos, muito diferentes entre si, devem ser sempre considerados como “sistemas sociotécnicos”. Com efeito, o seu impacto, independentemente da tecnologia subjacente, depende não só do projeto, mas também dos objetivos e interesses de quem os possui e de quem os desenvolve, bem como das situações em que são utilizados.
A inteligência artificial, portanto, deve ser entendida como uma galáxia de realidades diferentes e não podemos assumir a priori que o seu desenvolvimento dará uma contribuição benéfica para o futuro da humanidade e para a paz entre os povos. Um resultado tão positivo só será possível se formos capazes de agir com responsabilidade e respeitar os valores humanos fundamentais como “inclusão, transparência, segurança, justiça, privacidade e responsabilidade”. [5]
Não basta sequer assumir, por parte de quem projeta algoritmos e tecnologias digitais, o compromisso de agir de forma ética e responsável. Devem ser reforçados ou, se necessário, criados organismos para examinar questões éticas emergentes e para proteger os direitos daqueles que utilizam ou são influenciados por formas de inteligência artificial. [6]
A imensa expansão da tecnologia, portanto, deve ser acompanhada, para o seu desenvolvimento, de uma formação adequada em responsabilidade. A liberdade e a coexistência pacífica ficam ameaçadas quando o ser humano cede à tentação do egoísmo, do interesse pessoal, do desejo de lucro e da sede de poder. Temos, portanto, o dever de ampliar a nossa visão e orientar a busca técnico-científica para a conquista da paz e do bem comum, ao serviço do desenvolvimento integral do homem e da comunidade. [7]
A dignidade intrínseca de cada pessoa e a fraternidade que nos une como membros de uma única família humana devem estar na base do desenvolvimento das novas tecnologias e servir como critérios indiscutíveis para avaliá-las antes da sua utilização, para que o progresso digital possa ser realizado com respeito pela justiça e contribuir para a causa da paz. Os desenvolvimentos tecnológicos que não conduzem a uma melhoria da qualidade de vida de toda a humanidade, mas, pelo contrário, agravam as desigualdades e os conflitos, não podem ser considerados verdadeiros progressos. [8]
A inteligência artificial se tornará cada vez mais importante. Os desafios que coloca não são apenas técnicos, mas também antropológicos, educacionais, sociais e políticos. Promete, por exemplo, poupança de esforços, produção mais eficiente, transportes mais ágeis e mercados mais dinâmicos, bem como uma revolução nos processos de recolha, organização e verificação de dados. É necessário estar atento às rápidas transformações que estão a ocorrer e geri-las para que os direitos humanos fundamentais possam ser salvaguardados, respeitando as instituições e as leis que promovem o desenvolvimento humano integral. A inteligência artificial deve estar ao serviço de um maior potencial humano e das nossas mais elevadas aspirações, e não em competição com eles.
3. A tecnologia do futuro: máquinas que aprendem sozinhas
Nas suas múltiplas formas, a inteligência artificial, baseada em técnicas de aprendizagem automática , embora ainda numa fase pioneira, já está a introduzir mudanças notáveis no tecido das sociedades, exercendo uma influência profunda nas culturas, nos comportamentos sociais e na construção da paz.
Desenvolvimentos como o machine learning ou o deep learning levantam questões que transcendem os campos da tecnologia e da engenharia e têm a ver com uma compreensão estritamente ligada ao significado da vida humana, aos processos básicos do conhecimento e à capacidade da mente de chegar à verdade.
A capacidade de alguns dispositivos produzirem textos sintática e semanticamente coerentes, por exemplo, não é garantia de confiabilidade. Diz-se que podem “alucinar”, ou seja, gerar afirmações que à primeira vista parecem plausíveis, mas que na realidade são infundadas ou revelam preconceitos. Isto cria um problema grave quando a inteligência artificial é utilizada em campanhas de desinformação que espalham notícias falsas e levam a uma desconfiança crescente nos meios de comunicação social. A confidencialidade, a posse de dados e a propriedade intelectual são outras áreas em que as tecnologias em questão apresentam graves riscos, aos quais se somam outras consequências negativas ligadas à sua utilização indevida, como a discriminação, a interferência nos processos eleitorais, a implementação de uma sociedade que monitoriza e controla as pessoas, a exclusão digital e a intensificação de um individualismo cada vez mais desligado da comunidade. Todos estes factores correm o risco de alimentar conflitos e dificultar a paz.
4. O sentido do limite no paradigma tecnocrático
Nosso mundo é muito vasto, variado e complexo para ser completamente conhecido e classificado. A mente humana nunca será capaz de esgotar a sua riqueza, mesmo com a ajuda dos algoritmos mais avançados. Na verdade, estes não oferecem previsões garantidas do futuro, mas apenas aproximações estatísticas. Nem tudo pode ser previsto, nem tudo pode ser calculado; No final “a realidade é superior à ideia” [9] e, por mais prodigiosa que seja a nossa capacidade de cálculo, haverá sempre um resíduo inacessível que escapa a qualquer tentativa de quantificação.
Além disso, a grande quantidade de dados analisados pela inteligência artificial não é, por si só, uma garantia de imparcialidade. Quando os algoritmos extrapolam informações, correm sempre o risco de distorcê-la, reproduzindo as injustiças e preconceitos dos ambientes onde se originam. Quanto mais rápidos e complexos eles se tornam, mais difícil é entender por que geraram determinado resultado.
As máquinas inteligentes podem executar as tarefas que lhes são atribuídas com eficiência crescente, mas o propósito e o significado das suas operações continuarão a ser determinados ou possibilitados por seres humanos que possuem o seu próprio universo de valores. O risco é que os critérios subjacentes a certas decisões se tornem menos transparentes, que a responsabilidade pela tomada de decisões seja ocultada e que os produtores possam fugir à obrigação de agir para o bem da comunidade. Em certo sentido, isto é favorecido pelo sistema tecnocrático, que alia a economia à tecnologia e privilegia o critério da eficiência, tendendo a ignorar tudo o que não esteja ligado aos seus interesses imediatos. [10]
Isto deveria fazer-nos reflectir sobre o “sentido do limite”, aspecto muitas vezes negligenciado na actual mentalidade tecnocrática e eficiente, mas decisivo para o desenvolvimento pessoal e social. O ser humano, de facto, mortal por definição, pensando em ultrapassar todos os limites graças à tecnologia, corre o risco, na obsessão de querer controlar tudo, de perder o controlo de si mesmo, e na procura da liberdade absoluta, de cair em a espiral de uma ditadura tecnológica. Reconhecer e aceitar o próprio limite como criatura é para o homem condição indispensável para alcançar ou, melhor ainda, acolher a plenitude como dom. Por outro lado, no contexto ideológico de um paradigma tecnocrático, animado por uma presunção prometeica de auto-suficiência, as desigualdades poderão crescer desproporcionalmente e o conhecimento e a riqueza acumular-se-ão nas mãos de poucos, com sérios riscos para as sociedades democráticas e para a coexistência pacífica. . [11]
5. Tópicos importantes para a ética
No futuro, a fiabilidade de alguém que solicita um empréstimo, a aptidão de um indivíduo para um emprego, a possibilidade de reincidência de uma pessoa condenada ou o direito de receber asilo político ou assistência social poderão ser determinados por sistemas de inteligência artificial. A falta de níveis diversificados de mediação que estes sistemas introduzem está particularmente exposta a formas de preconceito e discriminação. Os erros sistémicos podem facilmente multiplicar-se, produzindo não só injustiças em casos específicos, mas também, através de um efeito dominó, autênticas formas de desigualdade social.
Além disso, as formas de inteligência artificial parecem muitas vezes capazes de influenciar as decisões dos indivíduos através de opções predeterminadas associadas a estímulos e persuasão, ou através de sistemas de regulação de escolhas pessoais baseadas na organização da informação. Estas formas de manipulação ou controlo social requerem atenção e supervisão precisas e implicam uma clara responsabilidade legal por parte dos produtores, daqueles que as utilizam e das autoridades governamentais.
A confiança em processos automáticos que classificam os indivíduos, por exemplo, através do uso generalizado de vigilância ou da adopção de sistemas de crédito social, também poderia ter repercussões profundas no tecido social, estabelecendo categorizações inadequadas entre os cidadãos. E estes processos de classificação artificial podem até levar a conflitos de poder, não só no que diz respeito aos destinatários virtuais, mas também em relação a pessoas reais. O respeito fundamental pela dignidade humana postula a rejeição de que a singularidade da pessoa seja identificada com um conjunto de dados. Não devemos permitir que algoritmos determinem a forma como entendemos os direitos humanos, ignorem os valores essenciais da compaixão, misericórdia e perdão, ou eliminem a possibilidade de um indivíduo mudar e deixar o passado para trás.
Neste contexto, não podemos deixar de considerar o impacto das novas tecnologias no local de trabalho. Empregos que antes eram domínio exclusivo do trabalho humano são rapidamente absorvidos por aplicações industriais de inteligência artificial. Também aqui existe um risco substancial de benefícios desproporcionais para alguns, à custa do empobrecimento de muitos. O respeito pela dignidade dos trabalhadores e a importância da profissão para o bem-estar económico dos indivíduos, famílias e sociedades, a segurança no emprego e a equidade salarial devem ser uma alta prioridade para a comunidade internacional, à medida que estas formas de tecnologia são cada vez mais introduzidas no mundo. ambiente de trabalho.
6. Devemos transformar espadas em relhas de arado?
Hoje em dia, olhando para o mundo que nos rodeia, não podemos evitar as graves questões éticas ligadas ao sector do armamento. A possibilidade de conduzir operações militares através de sistemas de controlo remoto levou a uma menor percepção da devastação que provocaram e da responsabilidade na sua utilização, contribuindo para uma abordagem ainda mais fria e distante da imensa tragédia da guerra. A procura de tecnologias emergentes no domínio dos chamados “sistemas de armas letais autónomas”, incluindo a utilização de inteligência artificial em combate, é uma importante fonte de preocupação ética. Os sistemas de armas autónomos nunca poderão ser sujeitos moralmente responsáveis. A capacidade humana exclusiva de julgamento moral e decisão ética é mais do que um conjunto complexo de algoritmos, e essa capacidade não pode ser reduzida à programação de uma máquina que, embora “inteligente”, ainda é sempre uma máquina. Por esta razão, é imperativo garantir uma supervisão humana adequada, significativa e consistente dos sistemas de armas.
Também não podemos ignorar a possibilidade de que armas sofisticadas acabem em mãos erradas, facilitando, por exemplo, ataques terroristas ou ações destinadas a desestabilizar instituições governamentais legítimas. Em suma, a última coisa que o mundo precisa é que as novas tecnologias contribuam para o desenvolvimento injusto do mercado e do comércio de armas, promovendo a loucura da guerra. Se o fizer, não só a inteligência, mas o próprio coração do homem correrá o risco de se tornar cada vez mais “artificial”. As aplicações técnicas mais avançadas não devem ser utilizadas para facilitar a resolução violenta de conflitos, mas para preparar os caminhos para a paz.
Numa perspectiva mais positiva, se a inteligência artificial fosse utilizada para promover o desenvolvimento humano integral, poderia introduzir importantes inovações na agricultura, na educação e na cultura, na melhoria do nível de vida de nações e povos inteiros, no crescimento da fraternidade humana e na amizade social. . Em última análise, a forma como a utilizamos para incluir os últimos, isto é, os irmãos e irmãs mais frágeis e necessitados, é a medida que revela a nossa humanidade.
A perspectiva humana e o desejo de um futuro melhor para o nosso mundo levam à necessidade de um diálogo interdisciplinar voltado ao desenvolvimento ético de algoritmos - algorítmica -, em que os valores norteiem os itinerários das novas tecnologias. [12] As questões éticas devem ser levadas em consideração desde o início da pesquisa, bem como nas fases de experimentação, planejamento, distribuição e comercialização. Esta é a abordagem da ética do planeamento, na qual as instituições educativas e os responsáveis pelo processo de tomada de decisão têm um papel essencial a desempenhar.
7. Desafios para a educação
O desenvolvimento de tecnologia que respeite e sirva a dignidade humana tem implicações claras para as instituições educativas e para o mundo da cultura. Ao multiplicar as possibilidades de comunicação, as tecnologias digitais permitiram-nos novas formas de encontro. No entanto, continua a ser necessária uma reflexão permanente sobre o tipo de relações a que nos está a conduzir. Os jovens crescem em ambientes culturais impregnados de tecnologia e isso não pode deixar de questionar os métodos de ensino e formação.
A educação na utilização de formas de inteligência artificial deve centrar-se principalmente na promoção do pensamento crítico. É necessário que os utilizadores de todas as idades, mas especialmente os jovens, desenvolvam uma capacidade de discernimento na utilização de dados e conteúdos obtidos na web ou produzidos por sistemas de inteligência artificial. Escolas, universidades e sociedades científicas são chamadas a ajudar estudantes e profissionais a assumirem os aspectos sociais e éticos do desenvolvimento e uso da tecnologia.
A formação no uso de novos instrumentos de comunicação deve considerar não apenas a desinformação, as notícias falsas, mas também o preocupante aumento dos "medos ancestrais que [...] conseguiram esconder-se e realçar-se atrás das novas tecnologias". [13] Infelizmente, mais uma vez temos que combater “a tentação de criar uma cultura de muros, de construir muros para impedir encontros com outras culturas, com outras pessoas” [14] e o desenvolvimento de uma convivência pacífica e fraterna.
8. Desafios para o desenvolvimento do direito internacional
O alcance global da inteligência artificial torna evidente que, juntamente com a responsabilidade dos Estados soberanos de disciplinar internamente a sua utilização, as organizações internacionais podem desempenhar um papel decisivo na obtenção de acordos multilaterais e na coordenação da sua aplicação e ação. [15] Para este fim, exorto a comunidade de nações a trabalhar em conjunto para adoptar um tratado internacional vinculativo que regule o desenvolvimento e a utilização da inteligência artificial nas suas muitas formas. Naturalmente, o objectivo da regulamentação não deve ser apenas prevenir as más práticas, mas também encorajar as melhores práticas, estimulando abordagens novas e criativas e facilitando iniciativas pessoais e colectivas. [16]
Em suma, na procura de modelos regulatórios que possam fornecer orientação ética a quem desenvolve tecnologias digitais, é essencial identificar os valores humanos que devem estar na base do compromisso das sociedades em formular, adoptar e aplicar os quadros legislativos necessários. . El trabajo de redacción de las orientaciones éticas para la producción de formas de inteligencia artificial no puede prescindir de la consideración de cuestiones más profundas, relacionadas con el significado de la existencia humana, la tutela de los derechos humanos fundamentales y la búsqueda de la justicia y da paz. Este processo de discernimento ético e jurídico pode revelar-se como uma ocasião valiosa para uma reflexão partilhada sobre o papel que a tecnologia deve desempenhar na nossa vida pessoal e comunitária e sobre como a sua utilização pode contribuir para a criação de um mundo mais justo e humano. Por esta razão, os debates sobre a regulamentação da inteligência artificial devem ter em conta a voz de todas as partes interessadas, incluindo os pobres, os marginalizados e outros que muitas vezes não são ouvidos nos processos de tomada de decisão globais.
* * * * *
Espero que esta reflexão encoraje o progresso no desenvolvimento de formas de inteligência artificial para contribuir, em última análise, para a causa da fraternidade humana e da paz. Não é responsabilidade de poucos, mas de toda a família humana. A paz, de facto, é fruto de relações que reconhecem e acolhem o outro na sua dignidade inalienável, e da cooperação e do esforço na busca do desenvolvimento integral de todas as pessoas e de todos os povos.
A minha oração no início do novo ano é que o rápido desenvolvimento de formas de inteligência artificial não aumente as já numerosas desigualdades e injustiças presentes no mundo, mas ajude a acabar com guerras e conflitos e a aliviar tantas formas de sofrimento que afetam a família humana. Que os fiéis cristãos, os crentes das diferentes religiões e os homens e mulheres de bem possam colaborar em harmonia para aproveitar as oportunidades e enfrentar os desafios colocados pela revolução digital, e deixar às gerações futuras um mundo mais solidário, justo e pacífico .
Vaticano, 8 de dezembro de 2023
Notas:
[1] Nº 33.
[2] Ibidem. , não. 57.
[3] Cf. Carta enc. Laudato si' (24 de maio de 2015), 104.
[4] Cf. ibid. , 114.
[5] Discurso aos participantes do encontro “Diálogos Minerva” (27 de março de 2023).
[6] Cf. ibid.
[7] Cf. Mensagem ao Presidente Executivo do “Fórum Econômico Mundial” em Davos-Klosters (12 de janeiro de 2018).
[8] Cf. Carta enc. Laudato si’ , 194; Discurso aos participantes no Seminário “O bem comum na era digital” (27 de setembro de 2019).
[9] Exortar. ap. Evangelii gaudium (24 de novembro de 2013), 233.
[10] Cf. Carta. enc. Laudato si’ , 54.
[11] Cf. Discurso aos participantes na Plenária da Pontifícia Academia para a Vida (28 de fevereiro de 2020).
[12] Cf. ibid.
[13] Carta enc. Fratelli tutti (3 de outubro de 2020), 27.
[14] Cf. ibid.
[15] Cf. ibid. , 170-175.
[16] Cf. Carta enc. Laudato si’ , 177.