Empresas de tecnologia recorrem a religiões e líderes espirituais para discutir o comportamento de sistemas de inteligência artificial (IA). A iniciativa busca estabelecer referências para chatbots tomarem decisões responsáveis, reconhecerem dilemas morais e evitarem respostas prejudiciais.
Essa aproximação levanta uma questão: como incorporar diferentes crenças e valores humanos às regras que orientam as respostas dos sistemas de IA? O interesse pelo tema acompanha os debates sobre os riscos associados ao avanço desses modelos.
As companhias precisam definir limites operacionais claros para além de desenvolver softwares cada vez mais potentes. Nesse contexto, a religião pode contribuir com reflexões sobre responsabilidade, justiça e dignidade humana.
Roberto ‘Pena’ Spinelli, físico pela Universidade de São Paulo (USP), especialista em Machine Learning pela Universidade de Stanford e colunista do Olhar Digital, comentou o poder de influência dessas plataformas em participação no programa Olhar Digital News.
“Essas empresas de IA têm claramente um poder muito grande, porque os modelos estão rodando na casa das pessoas e eles recomendam, eles falam, eles sugerem, eles argumentam. E não existe nenhum modelo, nada isento no mundo. Tudo tem um viés, tudo tem um ponto de vista. Quem criou, do jeito que foi treinado, quais os dados que foram inseridos, como foi o treinamento, tudo isso claramente vai direcionando para algum viés”.
Diálogo com líderes e o desafio dos valores da inteligência artificial
Reportagem da ABC News detalhou que a intenção de algumas empresas é reunir contribuições de diferentes tradições religiosas, além de perspectivas seculares.
A Anthropic, responsável pelo chatbot Claude, revelou a realização de encontros com acadêmicos e líderes de mais de 15 grupos religiosos, nos quais a empresa apresenta seus modelos e discute questões levantadas pela tecnologia. Os assuntos englobam limites do uso infantil, educação e conceitos filosóficos sobre a natureza humana.
Grandes companhias manifestaram interesse expressivo no tema. Representantes da Meta, do Google e da Amazon se reuniram com o Vaticano recentemente. A Microsoft, por sua vez, ampliou a aproximação com comunidades religiosas globais para debater diretrizes. Essas iniciativas mostram que definir o comportamento dos sistemas de IA não é apenas uma questão técnica: também envolve valores, diferenças culturais e responsabilidades sociais.
“No final, esses modelos criam a sua própria moralidade. Eles têm um código de ética que seguem ou não da empresa”, disse Pena. “Às vezes, a empresa quer impor um certo código de ética e o modelo ali não segue, porque tem esse outro problema. Não é porque a empresa quer que o modelo faça de um jeito que ele vai fazer. Mas mesmo que a empresa queira fazer de um jeito, a pergunta é: quais os valores que a empresa que está fazendo deveria colocar. Não deveria ser a escolha da empresa, porque é um poder muito grande. Isso deveria ser uma escolha da humanidade. A gente deveria se questionar quais são os valores que as nossas IAs que estão rodando em todos os lugares deveriam ter”.
A incorporação de valores religiosos aos sistemas de IA, porém, enfrenta dificuldades. Os princípios de cada tradição estão ligados a contextos históricos, culturais e comunitários, e sua retirada desses contextos pode alterar seus significados. Além disso, diferentes religiões – e até correntes de uma mesma religião – podem apresentar respostas incompatíveis para uma mesma questão social.
Por isso, reunir essas perspectivas em um único conjunto de regras pode apagar diferenças importantes e produzir orientações genéricas, que não representem adequadamente nenhuma das tradições envolvidas.
Os limites de traduzir valores humanos para a IA
Parte do desafio está no próprio funcionamento dos grandes modelos de linguagem, que aprendem padrões a partir de grandes volumes de textos produzidos por seres humanos. Esse processo permite gerar respostas com base nas relações identificadas durante o treinamento.
O reconhecimento de padrões, contudo, não equivale à compreensão profunda de uma crença nem demonstra que os sistemas tenham consciência moral ou compreendam valores como um ser humano.
A possibilidade de reunir diferentes perspectivas em uma espécie de média dos valores humanos também foi questionada por Pena. “A Anthropic disse que se consultou com 15 religiões diferentes. A OpenAI também disse que está buscando algo neste sentido. O Sam Altman disse que ele gostaria de fazer a média ponderada da humanidade. O que seria isso? Tentar pegar todos os valores da humanidade, fazer uma média ponderada em representação, talvez. E aí a IA seria a média ponderada. Eu não acho que isso funcione, porque talvez a média ponderada de todas as visões e todas as morais, de todas as culturas, não seja algo que é melhor. Porque ela talvez não seja concisa”.
Consultar líderes religiosos pode ajudar a identificar dilemas éticos, mas não garante, por si só, que os sistemas tomem decisões adequadas. A dificuldade está em definir como considerar valores diferentes, especialmente quando eles entram em conflito.
A questão, portanto, não se limita a quais grupos devem participar das discussões, mas também a como suas contribuições serão consideradas na definição das regras que orientam os modelos.
Critérios adotados nos processos decisórios foram questionados por ‘Pena’ diante dos impasses apresentados. “Para algumas culturas, algumas coisas fazem sentido. Para outras, o oposto faz sentido. Se você pegar a média, talvez você chegue num ponto intermediário que não faz sentido para ninguém. Não quer dizer que é uma melhor opção você fazer a média ponderada. Mas a pergunta que é a mais importante é como a gente tem que fazer. A gente tem que questionar qual o melhor jeito de fazer. Porque vai ser por representação, por maioria? Qual religião, qual ética, qual moral vai estar representada? E se a pessoa tiver preferências que não são as da maioria, ela vai ser repudiada? É uma decisão dificílima”.
O desafio das empresas é definir como diferentes valores serão considerados quando entrarem em conflito, sem tratar uma única perspectiva como universal. Para isso, será necessário ouvir grupos diversos, explicar quais critérios orientam as respostas dos sistemas e estabelecer mecanismos transparentes para avaliar decisões e corrigir problemas.
O post Empresas de IA recorrem à religião para orientar o comportamento dos chatbots apareceu primeiro em Olhar Digital.