Identificando fatores de risco para os riscos-s

Luciano Carlos Cunha[1]

Sumário:

1. O que são fatores de risco e qual a importância de identificá-los

Uma das objeções mais comuns à preocupação com o futuro em longo prazo [2] é a dificuldade em estimar as consequências de longo prazo de cada decisão. Por exemplo, é difícil avaliar como determinada intervenção afetaria os riscos-s (isto é, riscos de sofrimento de magnitude astronômica no futuro[3]), pois há inúmeros riscos-s possíveis e o futuro é bastante incerto. Uma saída possível para essa dificuldade é tentar investigar fatores de risco[4], que não são eles próprios riscos-s, mas aumentam muito as chances ou a severidade dos mesmos.

O conceito de fator de risco já é amplamente utilizado em medicina. Por exemplo, fumar, falta de exercício e má alimentação não são problemas de saúde em si, mas podem ocasionar muitas doenças. Isso nos dá diretrizes sem ter que analisar doenças específicas e mesmo que a trajetória de saúde de cada pessoa seja bastante incerta.

Assim como nos fatores de risco na medicina, não quer dizer que os fatores de risco para os riscos-s necessariamente fariam um risco-s se materializar. Quer dizer apenas que aumentariam muito as suas chances. Assim, se identificarmos tais fatores de risco, poderemos planejar intervenções eficazes pra reduzir um amplo leque de riscos-s.

A seguir estão alguns exemplos que são discutidos por Baumann (2002.p. 49-56).

2. Exemplos de fatores de risco para os riscos-s

2.1. Tecnologia avançada

Muitos riscos-s só são possíveis por conta de novas tecnologias. Mas, há progressos tecnológicos preocupantes em maior ou menor grau. Por exemplo, algumas tecnologias poderiam tornar muito fácil criar grandes quantidades de sofrimento. Vejamos dois exemplos:

A capacidade de criar seres sencientes digitais [5] poderia resultar em quantidades enormes de sofrimento por conta da desconsideração por seres sencientes não biológicos.

A colonização espacial pode multiplicar vastamente a população de seres sencientes, que estariam sujeitos tanto às decisões dos agentes quanto aos processos naturais [6]. Há entre 100 e 400 bilhões de estrelas em nossa galáxia, e entre 100 e 200 bilhões de galáxias no universo. Sem colonização espacial, o sofrimento ficaria limitado ao da Terra (que já é enorme, mas minúsculo comparado ao que poderia surgir).

A tecnologia também pode ser usada para reduzir sofrimento

A tecnologia também oferece oportunidades para redução de sofrimento. Por exemplo, se fosse interrompido o progresso tecnológico, isso impediria o surgimento de riscos-s causados por humanos, mas não os riscos-s naturais ou causados por outras civilizações, caso estas existirem (e também faria não haver tecnologia para impedir esses outros riscos-s). Assim sendo, colonização espacial pode também proporcionar reduzir riscos-s, se houver riscos-s fora da Terra.

2.2. Falta de prevenção adequada de riscos-s

A falta de prevenção adequada de riscos-s pode surgir principalmente pelos seguintes fatores:

Falta de esforços para reduzir riscos-s.

Só podemos fazer progresso em prevenir riscos-s se houver pessoas o suficiente se importando com isso. Podemos deixar vários problemas futuros para as gerações futuras, mas somente se elas compartilharem de nossos valores.

Isso não quer dizer que, para haver esforços para reduzir riscos-s, tenha de haver necessariamente um número muito grande de pessoas focando nisso. Mesmo que poucas pessoas trabalhem para prevenir riscos-s, elas podem tentar compromissos com outras pessoas para implementar medidas de baixo custo para prevení-los. Além disso, pode-se focar em tentar fazer com que pessoas que possuem mais recursos, poder ou influência passem a querer prevenir riscos-s. O impacto positivo dessas pessoas pode ser muito maior do que o impacto positivo em conjunto da soma de pessoas que possuem poucos recursos, poder ou influência.

Esforços equivocados ou ineficazes para reduzir riscos-s.

Ter a vontade de reduzir os riscos-s não é o bastante. É preciso que nossos esforços sejam bem planejados para que não sejam pouco eficazes, ineficazes, ou mesmo contraproducentes.

Alguns riscos relacionados a essas possibilidades são:

Se a causa pela redução dos riscos-s ficar associada a ideias muito controversas, isso pode gerar uma forte oposição à proposta de prevenir riscos-s.
É possível que os decisores relevantes queiram prevenir riscos-s, mas as instituições políticas sejam ineficazes ou haja problemas de cooperação[7].
Pode ser também que os decisores não percebam certos risco-s em estágios iniciais e, quando perceberem, já seja tarde demais.

2.3. Polarização, conflito e hostilidade

Há maior probabilidade de riscos-s ocorrerem se houver um alto grau de hostilidade entre os agentes futuros. A polarização em larga escala deixa pouco espaço para reflexão (sobre riscos-s ou qualquer outra coisa) e para compromissos mútuos. Também têm o potencial de resultar em conflitos e até mesmo em guerras, o que aumenta as chances de riscos-s agenciais.

Você poder ler mais sobre como prevenir a polarização aqui.

2.4. Falta de segurança contra agentes malévolos

Outro fator de risco é a segurança insuficiente contra agentes malévolos. Atualmente, esses agentes são contidos em alguma medida pelas normas morais e pelas leis, mas isso pode ser difícil em cenários futuros (por exemplo, com IA autônomas e poderosas, e/ou com a colonização espacial).

Indivíduos malévolos colocam sérios riscos quando alcançam posições de poder. E não é incomum que estejam em tais posições, pois possuem um desejo forte por poder e sua personalidade dá muitas vantagens nessa busca. Esses riscos são aumentados se esses agentes malévolos tiverem acesso à tecnologia avançada.

3. Interação entre vários fatores de risco e entre várias formas de preveni-los

Os diversos fatores de risco interagem entre si. Por exemplo, a polarização aumenta as chances de indivíduos malévolos chegarem ao poder. Se isso acontecer, é provável que impeçam os esforços para se prevenir os riscos-s. Por sua vez, a tecnologia avançada poderia multiplicar os danos causados por agentes malévolos, e assim por diante.

Assim como no contexto médico, as catástrofes tem maior probabilidade de ocorrerem se vários fatores de risco coincidirem.

Analogamente, um fator de risco pode ser mitigado por um conjunto de circunstâncias favoráveis. Por exemplo, tecnologia avançada é muito menos preocupante se existem esforços adequados para prevenir riscos-s. Da mesma maneira, sem colonização espacial, o sofrimento causado por um ditador maligno estaria limitado à Terra, e assim por diante.

4. Conclusão

Nesse texto vimos o que são fatores de risco e também alguns exemplos de fatores de risco para os riscos-s. Vimos também que a probabilidade de um risco-s se materializar é maior quando vários fatores de risco coincidem, e que também as chances de prevení-lo também são maiores se várias circunstâncias favoráveis coincidem.

Clique aqui para ver quais tipos de estratégias poderíamos buscar para prevenir os fatores de risco para os riscos-s.

REFERÊNCIAS

BAUMANN, T. Avoiding the worst final: how to prevent a moral cathastrophe. Center for Reducing Suffering, 2022.

CUNHA, L. C. Razões para ajudar: o sofrimento dos animais selvagens e suas implicações éticas. Curitiba: Appris, 2022.

ÉTICA ANIMAL. A importância do futuro. Ética Animal: ativismo e investigação em defesa dos animais, 24 out. 2018.

ÉTICA ANIMAL. Introdução ao sofrimento dos animais selvagens. Oakland: Ética Animal, 2023 [2020].

O’BRIEN, G. D. Directed Panspermia, Wild Animal Suffering, and the Ethics of World-Creation. Journal of Applied Philosophy, v. 39, n. 1, 2022.

O’BRIEN, G. D. The Case for Animal-Inclusive Longtermism. Journal of Moral Philosophy, [s.l.], p. 1–24, 2023.

TOMASIK, B. Risks of astronomical future suffering. Foundational Research Institute, 02 jul. 2019b.

TOMASIK, B. Why digital sentience is relevant to animal activists. Animal Charity Evaluators. 03 fev. 2015.

Notas:

[1] Doutor em Ética e Filosofia Política pela Universidade Federal de Santa Catarina, coordenador geral no Brasil das atividades da organização Ética Animal (www.animal-ethics.org/pt). É autor dos livros Uma breve introdução à ética animal: desde as questões clássicas até o que vem sendo discutido atualmente (2021) e Razões para ajudar: o sofrimento dos animais selvagens e suas implicações éticas(2022). Publicou também capítulos em outras obras e artigos em periódicos especializados, que podem ser lidos aqui: https://ufsc.academia.edu/LucianoCunha. Contato: luciano.cunha@animal-ethics.org.

[2] Para uma introdução à preocupação com o futuro em longo prazo, ver Ética Animal (2018). Para um artigo mais detalhado, ver O’brien (2023).

[3] Sobre riscos-s, ver Tomasik (2019b) e Baumann (2022).

[4] Para uma discussão sobre fatores de risco para os riscos-s, ver Baumann (2022, p. 49-56).

[5] Sobre essa possibilidade, ver Tomasik (2015).

[6] Sobre isso, ver O’brien (2022). Sobre a maneira como os processos naturais tipicamente prejudicam os animais em larga escala, ver Cunha (2022) e Ética Animal (2023 [2022]).

[7] Esse ponto é discutido em detalhes em Baumann (2022, p. 65-76).

A produção deste texto foi financiada pela organização Ética Animal.