Uma das objeções à preocupação com os riscos-s é a dificuldade em estimarmos as consequências de longo prazo de nossas decisões. Uma resposta a essa objeção é apontar para a possibilidade de se investigar fatores de risco, que não são eles próprios riscos-s, mas aumentam muito as chances ou severidade dos mesmos[1].
O conceito de fator de risco já é muito utilizado na medicina. Por exemplo, se alimentar mal e não fazer exercícios não são, em si, doenças, mas aumentam muito a probabilidade de várias doenças, ainda que não as impliquem necessariamente. Para saber que é algo bom evitar esses fatores de risco não é necessário saber como será a trajetória de saúde de cada indivíduo. Similarmente, mesmo que não possamos estimar o futuro em longo prazo, podemos tentar identificar fatores de risco para os riscos-s e tentar identificar as ações que contribuiriam para evitá-los.
| Principais fatores de risco para os riscos-s |
| Desconsideração por seres sencientes não humanosDesconsideração por seres sencientes não biológicos |
| Demanda por produtos e serviços cuja produção prejudica seres sencientes |
| Expansão humana e aumento do poder tecnológico |
| O progresso tecnológico é muito mais rápido do que o progresso moral. |
A seguir estão outros exemplos de fatores de risco e a explicação do porquê são fatores de risco:
| Fator de risco | Por que é um fator de risco |
| Tecnologia avançada | Muitos riscos-s só são possíveis por conta de novas tecnologias. Exemplos: (1) Criar seres sencientes digitais poderia resultar em quantidades enormes de sofrimento por conta da desconsideração por seres sencientes não biológicos. (2) A colonização espacial pode multiplicar vastamente a população de seres sencientes, que estariam sujeitos às decisões dos agentes e aos processos naturais. Há entre 100 e 400 bilhões de estrelas em nossa galáxia, e entre 100 e 200 bilhões de galáxias no universo. Sem colonização espacial, o sofrimento ficaria limitado ao da Terra (que já é enorme, mas minúsculo comparado ao que poderia surgir). |
| Aversão à tecnologia | A tecnologia também oferece oportunidades para redução de sofrimento. Se fosse interrompido o progresso tecnológico, isso impediria o surgimento de riscos-s causados por humanos, mas não os riscos-s naturais (e também faria não haver tecnologia para impedir esses outros riscos-s). |
| Falta de esforços para reduzir riscos-s | Só podemos prevenir riscos-s se houver pessoas o suficiente se importando com isso. |
| Esforços ineficazes para reduzir riscos-s. | Ter a vontade de reduzir os riscos-s não é o bastante. É preciso que nossos esforços sejam bem planejados. Alguns riscos relacionados a essas possibilidades são: (1) Se a causa pela redução dos riscos-s ficar associada a ideias muito controversas, isso pode gerar uma forte rejeição. (2) É possível que os decisores relevantes queiram prevenir riscos-s, mas as instituições políticas sejam ineficazes ou haja problemas de cooperação. (3) Pode ser que os decisores não percebam certos risco-s em estágios iniciais e, quando perceberem, já seja tarde demais. |
| Polarização, conflito e hostilidade | A polarização em larga escala deixa pouco espaço para reflexão (sobre riscos-s ou qualquer outra coisa) e para compromissos mútuos. Ela também têm o potencial de resultar em conflitos e até mesmo em guerras, o que aumenta as chances de riscos-s agenciais. |
| Falta de segurança contra agentes malévolos | Indivíduos malévolos colocam sérios riscos quando alcançam posições de poder, o que não é incomum, pois possuem um desejo forte por poder e sua personalidade dá vantagens nessa busca. Esses riscos são aumentados se esses agentes tiverem acesso à tecnologia avançada. |
Assim como no contexto médico, essas catástrofes tem maior probabilidade de ocorrerem se vários fatores de risco coincidirem. Também as possibilidades de prevení-los aumentam se coincidem várias formas de prevenção.
REFERÊNCIAS
BAUMANN, T. Avoiding the worst final: how to prevent a moral cathastrophe. Center for Reducing Suffering, 2022.
Notas
[1] Para uma discussão detalhada sobre esse tópico, ver Baumann (2022).
A produção deste texto foi financiada pela organização Ética Animal.
Senciência e ética 