O Padre Brendan McGuire deixou o Vale do Silício para se tornar padre. O Vale, ao que parece, não tinha terminado com ele.
Imagem Ilustrativa – Gerado com IA – Prompt: Adailton Batista
O Padre Brendan McGuire está escrevendo um romance sobre um monge desencantado e seu companheiro de I.A. Ele está fazendo isso com o Claude. Esse detalhe — um padre católico usando o chatbot da Anthropic para explorar questões de fé e consciência artificial — diz algo sobre o ponto onde o acerto de contas moral do Vale do Silício chegou. McGuire, de 60 anos, lidera a Paróquia Católica de St. Simon em Los Altos, Califórnia, uma congregação que conta com alguns dos pesquisadores de I.A. do Vale entre seus membros. No início deste ano, ele e um grupo de líderes religiosos ajudaram a Anthropic a moldar a Constituição do Claude, o conjunto de princípios norteadores que governa como sua I.A. se comporta.
Ele não é, em outras palavras, um crítico externo. Ele é algo mais complexo: um verdadeiro crente tanto em Deus quanto na tecnologia, tentando mantê-los na mesma mão. “Deixei a indústria tecnológica, mas ela nunca me deixou de verdade”, disse McGuire ao Observer.
Antes de vestir o colarinho, McGuire era um executivo do Vale do Silício com diplomas em engenharia e software. Nascido na Irlanda, ele estudou sistemas criptográficos no Trinity College Dublin na década de 1980, mudou-se para os EUA e tornou-se diretor executivo da Personal Computer Memory Card International Association — o tipo de currículo que, no Vale, teria garantido a ele uma vida muito confortável. Em vez disso, ele saiu para se tornar padre.
LEIA TAMBÉM:
:: Para onde estamos caminhando?
:: A vida além do prompt: a ética no uso da IA segundo Papa Francisco
Ele nunca deixou a indústria totalmente para trás. Enquanto amigos subiam nas hierarquias corporativas, McGuire aprofundava sua compreensão dos desafios éticos que surgiam com cada nova onda de tecnologia. Através de uma parceria com o Dicastério para a Cultura e a Educação do Vaticano e a Universidade de Santa Clara, ele ajudou a estabelecer o Instituto de Tecnologia, Ética e Cultura, que em 2023 publicou um manual sobre ética na era das tecnologias disruptivas.
Então, Chris Olah, um dos cofundadores da Anthropic, entrou em contato. O que se seguiu foi, pela própria descrição de McGuire, surpreendente. “Eles basicamente estavam pedindo ajuda direta do Vaticano para convocar e auxiliar a indústria, porque a indústria estava avançando muito rápido por esse caminho”, relembrou ele.
Desenvolvedores de I.A. há muito são acusados de “brincar de Deus”. A Anthropic, ao que parece, está levando esse papel a sério.
McGuire contribuiu com uma visão teológica para a Constituição do Claude, oferecendo uma perspectiva sobre como tornar o modelo “mais criterioso”. A I.A. não tem alma, ele reconhece. Mas ele vê paralelos em como humanos e máquinas desenvolvem o julgamento — por meio de iteração, correção e exposição ao espectro total do comportamento humano. “Essa é a verdadeira formação de uma consciência”, disse ele. “Acho que temos que ajudar essas máquinas a serem inclinadas para o bem; caso contrário, elas apenas refletirão o bem e o mal do mundo — e isso é algo aterrorizante, certo?”
O padre Brendan McGuire está entre os líderes católicos escolhidos pela Anthropic para moldar a ética do seu modelo Claude. Foto: Reprodução YouTube
O Padre Brendan McGuire está entre os líderes católicos recrutados pela Anthropic para moldar a ética de seu modelo Claude.
McGuire não foi o único colaborador religioso da Anthropic. O Bispo Paul Tighe, do Dicastério para a Cultura e a Educação do Vaticano, e Brian Patrick Green, diretor de ética tecnológica na Universidade de Santa Clara, também revisaram a Constituição do Claude. Green e outros acadêmicos católicos protocolaram recentemente um resumo num tribunal federal apoiando a Anthropic em seu processo contra o governo dos EUA, que contesta a inclusão da empresa em uma “lista negra” efetiva pelo Pentágono após ela se recusar a permitir que seus sistemas de I.A. fossem usados para guerra autônoma ou vigilância doméstica. O documento elogiou esses limites éticos como “padrões mínimos de conduta ética para o progresso técnico”.
McGuire considerou protocolar seu próprio resumo. “Eles estão tendo uma conversa moral”, disse ele. “Eles podem não chamar de moral, mas eu chamo.”
A Anthropic afirma que seu envolvimento com vozes religiosas — parte de um esforço mais amplo para engajar uma grande variedade de comunidades para acompanhar a aceleração tecnológica — é apenas o começo. A empresa planeja expandir o alcance além das instituições católicas para outros líderes religiosos daqui para frente. Esses esforços incluem reuniões futuras que McGuire, ao lado de outros líderes religiosos, participará para discutir como ajudar a I.A. a internalizar suas próprias experiências em auxiliar humanos que estão “se esforçando para ser as melhores versões de si mesmos”, de acordo com o padre.
“Ainda estou tentando ajudá-los a lidar com o elemento humano”, disse McGuire, “e manter isso na vanguarda de suas mentes.”
Seu romance, enquanto isso, continua em andamento. O título provisório? A Alma da I.A.: Um Padre, um Algoritmo e a Busca pela Sabedoria.
TEXTO PUBLICADO ORIGINALMENTE NO OBSERVER
