Enquanto as empresas de tecnologia disputam a construção de inteligências artificiais cada vez mais poderosas, algumas também buscam respostas sobre como ensinar um chatbot a diferenciar o certo do errado. A saída encontrada por parte delas é a religião. Executivos dizem que a IA pode causar danos e, por isso, procuram filósofos e líderes religiosos para orientar o desenvolvimento de modelos moralmente bons.
Em uma apresentação no Vaticano sobre a encíclica do papa Leão XIV a respeito de IA, Chris Olah, cofundador da Anthropic, afirmou que essas são perguntas que um laboratório não consegue responder sozinho. Como as empresas não seguem uma religião específica, a meta costuma ser um conjunto amplo de ideias morais. O CEO da OpenAI, Sam Altman, disse no ano passado que o ChatGPT deveria refletir uma média ponderada da moral humana.
Especialistas e fiéis, porém, afirmam que a proposta ignora como as tradições religiosas costumam se contradizer. Para o antropólogo Webb Keane, da Universidade de Michigan, existe a visão convencional de que a religião é um manual de regras que pode ser separado da vida concreta das pessoas. Segundo ele, usar esse modelo para treinar IA corre o risco de privilegiar certas tradições e distorcer outras, sobretudo as que não se veem primariamente como sistemas de ética.
Empresas dizem buscar diversidade
Participantes desses encontros afirmam que o diálogo tem sido sério. A filósofa da religião Meghan Sullivan, da Universidade Notre Dame, que lidera uma iniciativa sobre ética e IA, disse ter ficado impressionada com o rigor da Anthropic. A empresa afirmou em um post de maio que consultou especialistas de mais de 15 grupos religiosos e interculturais, embora não tenha listado todas as tradições. Representantes de Meta, Google e Amazon também se reuniram com o Vaticano, e a Microsoft tem feito contato religioso de forma ativa.
A Anthropic declarou que não pretende alinhar seus modelos a uma única visão religiosa e que quer que o Claude use um leque amplo de perspectivas, religiosas, seculares e políticas. Pesquisadores da área, porém, lembram que a ideia de religiões como sistemas distintos e comparáveis é relativamente recente, com raízes no século XIX. Budismo e hinduísmo, por exemplo, não eram vistos como tradições fechadas por seus praticantes antes da chegada de estudiosos europeus, segundo a pesquisadora Tomoko Masuzawa.
Há ainda o receio de que, ao reunir ideias de diferentes fontes, uma tradição perca suas características centrais. Paolo Carozza, integrante do Conselho de Supervisão independente da Meta e estudioso do pensamento social católico, avalia que o processo pode achatar essas tradições e favorecer as religiões ocidentais. Ele compara a forma orgânica como uma tradição absorve novidades com a mistura feita pela IA, que, segundo ele, junta tudo sem que o resultado faça sentido.
Ainda não está claro quais tradições serão ampliadas no futuro nem como as empresas pretendem medir se a consulta religiosa realmente altera o comportamento dos modelos. As conversas seguem sem uma definição pública do que as companhias esperam obter da religião.
