Riscos futuros para os seres sencientes: uma introdução

Luciano Carlos Cunha[1]

Sumário:

1. O passado, o presente e o futuro

O surgimento da pecuária industrial na década de 1930 e sua aplicação posterior em larga escala teve como resultado multiplicar enormemente duas coisas: (1) a quantidade de animais que era morta e obrigada a viver uma vida de sofrimento e (2) os níveis de sofrimento para cada animal. Em resumo, a pecuária industrial multiplicou os danos que os humanos causam aos outros animais em uma escala jamais vista até então.

No início do século XX os defensores dos animais provavelmente não imaginariam que dali a algumas poucas décadas surgiria a pecuária industrial. Entretanto, naquela época já havia pistas de que a tecnologia que estava surgindo resultaria na pecuária industrial.

Agora considere dois experimentos de pensamento:

(1) Você, indo do presente ao passado

Imagine que você pudesse voltar no tempo, e avisar aquelas pessoas de que algo terrível estava para surgir. Talvez desse tempo de as pessoas tentarem fazer algo para impedir o seu surgimento (ou de, pelo menos, diminuir o seu impacto negativo). É claro, poderia ser tarde demais para tentar alguma coisa. Mas, imagine que a sua máquina do tempo lhe permitira voltar para bem antes do início do século XX. Ao que parece, o quanto antes você conseguisse voltar, maiores as suas chances de conseguir impedir a catástrofe (ou de, pelo menos, minimizar o seu impacto negativo), pois você teria mais tempo para tentar.

(2) Você, vindo do futuro ao presente

Imagine agora que você é novamente um viajante do tempo, mas desta vez do futuro. Imagine que você veio do ano 4024 para avisar os defensores dos animais de que estariam para surgir coisas tão terríveis no futuro que tornariam até mesmo a pecuária industrial “um grãozinho de areia” em comparação. Assim como no exemplo anterior, há uma razão para você voltar para o momento atual. Inicialmente você tentou voltar para épocas mais próximas de 4024, mas viu que seus esforços seriam inúteis: você precisava de mais tempo para prevenir as catástrofes. Por essa razão, você veio parar na época atual.

O que esses experimentos de pensamento visam perguntar é: em relação ao que poderia surgir de negativo para os seres sencientes no futuro, será que estamos nós agora na mesma condição que estavam os defensores dos animais antes do surgimento da pecuária industrial? Como veremos a seguir, é sobre isso que trata o conceito de riscos-s: sobre sofrimentos em escala gigantesca que poderiam surgir no futuro e o que fazer para preveni-los.

2. O que são riscos-s?

Na atualidade, um número muito grande de animais não humanos sofrem intensamente, e em muitos casos, de formas que não existiam no passado. Da mesma maneira, no futuro é possível que surjam novas formas de prejudicar os seres sencientes de forma massiva, em uma escala muitíssimo maior do que a do sofrimento existente na atualidade.

Um conceito empregue para tratar desse problema é o de riscos de sofrimento futuro (normalmente abreviado como riscos-s[2]). Esse conceito diz respeito à possibilidade de no futuro o sofrimento ser aumentado de forma massiva, e pode ser definido assim:

Riscos-s: riscos de que no futuro ocorram eventos que resultem em sofrimento de magnitude gigantesca[3], que excede o sofrimento existente na Terra até agora.

O conceito de riscos-s é centrado no sofrimento, mas poderia haver um conceito análogo para tratar de todas as formas de dano que os animais poderiam padecer, independentemente do sofrimento (como, por exemplo, o dano da morte). No caso, poderia haver um conceito como riscos-d (riscos de danos futuros). Entretanto, nesse texto falaremos dos riscos-s por se tratar do conceito que vem sendo amplamente utilizado no debate sobre essas questões.

3. Diferenças entre riscos-s e riscos-x

Riscos-s são um conceito diferente de riscos-x (riscos existenciais). Tanto os riscos-s quanto os riscos-x são sobre o longo prazo e impactos astronômicos. Mas, enquanto riscos-x são sobre são sobre riscos de aniquilação da humanidade (ou, pelo menos, de diminuição drástica do seu potencial), riscos-s são sobre cenários com sofrimento astronômico (e, portanto, é um conceito que necessariamente leva em conta todos os seres sencientes).

Certos riscos-s também podem ser riscos-x, mas há riscos-s que não são riscos-x. Por exemplo, há formas de sofrimento sobre seres sencientes não humanos que não prejudicam os humanos, ou podem até mesmo fomentar certos interesses humanos (o consumo de animais é um exemplo).

4. Medindo a seriedade de um risco-s

Todo risco-s diz respeito à riscos de sofrimento de magnitude astronômica, mas cada risco-s possui graus diferentes de seriedade. Isso porque varia não apenas a severidade de cada risco-s (por exemplo, a quantidade de vítimas que potencialmente seria afetada e o quanto sofreria cada uma), mas também varia a probabilidade de cada risco-s se concretizar.

Assim, uma maneira de medir a seriedade de um risco-s é multiplicar: o quão ruim seria o resultado pela sua probabilidade de ocorrer (isso revelaria o seu desvalor esperado, ou DE).

Esse cálculo revela algo importante sobre os riscos-s. Como riscos-s, por definição, são muitas ordens de magnitude superiores ao sofrimento atual (mesmo comparando-os com a exploração animal e com o sofrimento dos animais natureza), o DE de cada riscos-s é enorme, mesmo quando a probabilidade de ocorrer for pequena.

5. Riscos-s e novas tecnologias

Um fator que pode dar origem a riscos-s é o surgimento de novas tecnologias, pois podem beneficiar quem as utilizaria, mas prejudicar quantidades massivas de seres sencientes afetados por elas. Esse risco é grande especialmente se não há consideração pelos seres afetados. Se a humanidade tiver tecnologia avançada, mas não ocorrer progresso moral paralelamente, é grande o risco de isso resultar em sofrimento de magnitude sem precedentes.

Como vimos, no passado um exemplo de como o surgimento de uma tecnologia multiplicou o massivamente o sofrimento e as mortes dos seres sencientes foi o advento da pecuária industrial (que, por sua vez, foi resultado da industrialização). Outro exemplo foi o desenvolvimento de novas tecnologias de armamento.

É possível que no futuro surjam tecnologias que tenham um impacto negativo muitíssimo maior. Se não ocorrer a extinção humana ou um colapso da civilização, é provável que a tecnologia continue avançando, talvez permitindo colonizar planetas e até mesmo bilhões de galáxias.

Para que cenários de sofrimento astronômico ocorram, não é necessário que os agentes tenham a intenção de prejudicar as vítimas: basta que não se importem (ou se importem muito pouco) com elas — assim como acontece no consumo de animais, por exemplo. As novas tecnologias, junto com a indiferença, já são suficientes para aumentar bastante a probabilidade de ser causado sofrimento de tamanho colossal.

Além disso, pode também acontecer que agentes com o poder de prejudicar outros seres sencientes o façam por crueldade (isto é, almejando o sofrimento). Ou ainda, o sofrimento em escala massiva pode acontecer por motivos acidentais. Também é possível que os agentes permitam ou promovam que as vítimas sofram danos naturais. Enfim, há muitas maneiras pelas quais um risco-s poderia surgir. Veremos mais sobre isso a seguir.

6. Classificação dos riscos-s de acordo com a maneira como surgem

Os riscos-s podem ser classificados de acordo com vários parâmetros[4]. Neste item, veremos como eles podem ser classificados de acordo com a maneira como surgem. No item seguinte, veremos outros parâmetros.

6.1. Riscos-s incidentais

Ocorrem quando formas de alcançar certa meta geram bastante sofrimento, mas sem o sofrimento ser almejado por si. Os agentes podem ser simplesmente indiferentes, ou até preferirem uma alternativa sem sofrimento, mas não estarem dispostos a pagar os custos.

Eis alguns exemplos:

Sofrimento como efeito da alta produtividade. Um exemplo atual é a pecuária industrial. No futuro podem ocorrer cenários similares, mas em escala muito maior.

Sofrimento para ganho de informações. Um exemplo atual é a experimentação animal. No futuro, cenários similares em escala muito maior podem ocorrer. Por exemplo, uma IA (inteligência artificial) poderia criar uma simulação senciente para obter conhecimento do que os seres sencientes farão.

Sofrimento para entretenimento. Assim como há touradas hoje, pode ser que no futuro sejam criados novos tipos de seres sencientes para propósitos de entretenimento similares.

6.2. Riscos-s agenciais

Ocorrem quando o agente almeja causar o dano. Vejamos alguns exemplos:

Sádicos. As tecnologias futuras podem multiplicar o potencial que eles têm de causar danos.

Sentimentos de ódio. Por exemplo, uma mentalidade tribal do tipo “nós x eles” pode resultar em ódio contra quem pertence a certa etnia, religião, ideologia política etc.

Punições extremas. Exemplos no passado são as formas de punição que eram aplicadas exatamente porque causavam sofrimento extremo.

Um fator chave em relação ao aumento de riscos-s agenciais é presença de traços malevolentes (narcisismo, psicopatia, maquiavelismo e sadismo) em indivíduos poderosos[5].

6.3. Riscos-s naturais

Surgem sem ação de agentes. Por exemplo, independentemente de ação humana, os processos naturais já prejudicam os animais em altíssimo grau, tendendo para maximizar a quantidade de seres sencientes que nascem para ter vidas repletas de sofrimento. Para cada animal que consegue sobreviver, literalmente milhares ou mesmo milhões nascem apenas para experimentar sofrimento e morrer prematuramente. A norma na natureza é serem vítimas de desnutrição, fome e sede, doenças, lesões físicas, estresse psicológico, eventos meteorológicos hostis, desastres naturais, e conflitos interespecíficos, intraespecíficos e sexuais.

Esses animais são a vasta maioria dos seres sencientes na Terra[6]. Riscos-s naturais são os riscos de que isso se expanda em uma escala astronômica.

Esse sofrimento é resultado da maneira como ocorre a seleção natural. Por exemplo, o traço de maximizar a quantidade de filhotes oferece uma grande vantagem na transmissão da informação genética: com ninhadas tão gigantescas (com milhares ou mesmo milhões de filhotes, dependendo da espécie) é altamente provável que pelo menos um ou outro sobreviva e se reproduza, passando adiante esse traço. Entretanto, em populações estáveis, sobrevivem em média apenas um filhote por adulto[7]. Quase todo o restante nasce quase que apenas para experimentar o sofrimento associado à morte.

Se essa maximização do sofrimento é resultado da seleção natural, então, se há outros planetas onde a vida senciente chegou a se desenvolver, é provável que isso também tenha ocorrido e continue a ocorrer.

Também há risco de os humanos no futuro virem a expandir esse sofrimento (por exemplo, por meio da propagação da vida para fora da Terra). Embora esse seria já um risco-s incidental, seria também, indiretamente, um risco-s natural.

7. Outras classificações

Os riscos-s podem ser classificados quanto a vários outros parâmetros, e não somente em relação ao modo como surgem. Abaixo estão algumas outras possíveis classificações:

Riscos-s conhecidos e desconhecidos. Dependem de se conseguimos imaginá-los atualmente ou não (por exemplo, na idade média não se imaginava que surgiria a bomba atômica).

Os riscos-s desconhecidos também podem ser subclassificados de acordo com a maneira como surgem:

Incidentais: quando mecanismos não conhecidos conduzirão a riscos-s incidentais.
Agenciais: pode ser que os agentes venham a ter no futuro razões para causar dano, que ainda não conhecemos.
Naturais: pode ser que o universo já tenha muito mais sofrimento do que pensamos.

Outros parâmetros a partir dos quais é possível classificar os riscos-s são:

De acordo com o tipo de ser senciente afetado. Por exemplo, se é ou não humano, se é ou não orgânico etc.
Se são ou não influenciáveis. Isto é, se é ou não possível fazer algo para preveni-los ou minimizá-los. Entretanto, aqui é importante separar: (1) cenários que, dadas as leis da física, é impossível influenciá-los e (2) cenários que atualmente não é possível influenciar, mas que podem vir a ser influenciáveis no futuro.

Podem existir vários outros parâmetros a partir dos quais classificar riscos-s. A lista acima não deve ser vista como completa.

A seguir veremos alguns exemplos concretos de riscos-s.

8. Alguns exemplos de riscos-s

No debate sobre o futuro há uma preocupação em se tentar estimar quais os principais riscos-s e como preveni-los (ou, pelo menos, como fazer para que ocorram em menor medida). Vejamos a seguir três possíveis cenários de sofrimento massivo no futuro e os fatores de risco que poderiam fazer surgi-los. Em outro texto veremos algumas estratégias para preveni-los.

Importante: como é difícil estimar a probabilidade de o futuro ser dessa ou daquela maneira, os exemplos a seguir são palpites bem informados, mas não necessariamente são os riscos-s com maior probabilidade de ocorrer. Além disso, todos esses exemplos podem ser ainda uma pequena fração dos riscos-s, se comparados aos riscos-s ainda desconhecidos.

Riscos-s podem surgir a partir de um amplo leque de cenários. Portanto, é preciso tomar cuidado com a heurística de disponibilidade (que é o viés que faz com que pensemos que aqueles casos de que lembramos com mais facilidade são necessariamente os mais representativos). Esse viés pode fazer-nos pensar equivocadamente que os riscos-s de que lembramos mais facilmente serão necessariamente os mais prováveis.

Tendo isso em vista, vejamos alguns exemplos:

8.1. Aumento da exploração animal

Há pelo menos três formas pelas quais é possível que o sofrimento causado pela exploração animal venha a ser aumentado de forma massiva:

Expandi-lo em escala (isto é, afetar um maior número de seres sencientes).
Torná-lo qualitativamente pior (isto é, aumentar os danos sofridos por cada animal).
Criar novas formas pelas quais ele possa acontecer.

Um exemplo de risco-s desse tipo que se concretizou é o uso de insetos para consumo, surgido no final do século XX, e que vem se expandindo em vários países[8]. Como esses animais são muito pequenos, para se produzir uma quantidade equivalente de carne é necessário que uma quantidade gigantescamente maior de indivíduos sofra e morra[9]. Além disso, os invertebrados são tipicamente ainda mais desconsiderados do que os outros animais não humanos. Por exemplo, O espaço destinado aos insetos nas fazendas é extremamente pequeno, ainda menor do que aquele dado aos outros animais em proporção ao seu tamanho[10].

8.2. Expansão do sofrimento dos animais selvagens

Um aumento do sofrimento dos animais selvagens pode ocorrer devido a um aumento do número de animais na Terra (como as práticas de rewilding[11], que almejam que os ecossistemas retornem ao seu estado anterior à presença humana) ou devido à propagação intencional ou acidental da vida para fora dela (como na panspermia[12] e na terraformação[13]).

Essas práticas podem ser boas de um ponto de vista ambientalista ou antropocêntrico, mas são muito negativas para os animais afetados. Como vimos, os processos naturais tendem a maximizar a quantidade de animais que vivem vidas repletas de sofrimento e morrem prematuramente. Isso acontece em uma escala gigantesca, muito maior até do que aquela que ocorre na exploração animal[14], e ocorre em maior medida quanto maior for a quantidade de biomassa vegetal disponível pois, como vimos, está diretamente ligado à quantidade de reproduções. Dada a prevalência da visão ambientalista e a desconsideração pelo bem dos animais, a expansão do território natural e da vida são coisas normalmente vistas como totalmente positivas. Contudo, para os animais afetados por tais práticas, seus efeitos são predominantemente negativos[15].

8.3. Criação de novas formas de senciência

A criação de novas formas de senciência pode também dar origem a vastas quantias de sofrimento, especialmente se há uma alta probabilidade de esses seres não receberem consideração moral. Exemplos de riscos desse tipo são a criação de animais geneticamente modificados, e especialmente a criação de formas de senciência não biológicas[16].

A possibilidade de senciência não biológica existe porque talvez a senciência apareça toda vez que qualquer estrutura física estiver organizada de modo a fornecer as condições para o seu aparecimento, independentemente de a estrutura ser ou não orgânica. Uma maneira de entender essa possibilidade é por meio do experimento mental a seguir:

Imaginemos que nossos neurônios fossem gradualmente substituídos por neurônios não orgânicos. Se nossa senciência não fosse desaparecendo à medida que os neurônios fossem substituídos, e se continuássemos sencientes após a substituição de todos os neurônios, isso sugeriria que é possível que seres não orgânicos, no futuro, sejam sencientes, desde que tenham uma estrutura organizada de modo a desempenhar a mesma função de um cérebro.

Essa possibilidade é um risco-s porque é alta a probabilidade de esses seres, apesar de sencientes, não receberem consideração moral por não serem orgânicos, e serem então prejudicados das mais diversas formas, assim como são hoje os animais não humanos.

No futuro isso poderia ocorrer não apenas por modificações digitais nos corpos biológicos, mas também, por exemplo, em simulações sencientes em um programa de computador. Tais seres, apesar de sencientes, poderão não ter rostos, e nem se movimentar ou gritar. Então, poderá ser difícil ter empatia por eles. Se tais seres chegarem a existir, é provável que os humanos não se importarão com eles, assim como acontece em relação aos animais (ou talvez seja até pior, pois os animais já são muito similares aos humanos e, ainda assim, a maioria dos humanos não se importa muito com eles), Também pode acontecer de uma entidade digital ser senciente e nós não percebermos (e então, nós causarmos sofrimento a ela sem perceber).

Se a senciência não orgânica for possível, quantidades enormes de seres sencientes digitais poderão vir a existir no futuro, pois criá-los poderá envolver muito menos custos do que criar seres sencientes biológicos. Assim como qualquer um pode copiar programas de computador à vontade hoje, é possível que no futuro qualquer um possa criar seres sencientes digitais.

Assim, o potencial para haver números vastíssimos de seres sencientes digitais junto com a falta de consideração coloca um sério risco-s (exatamente como ocorre na pecuária, ainda mais por serem ambos combinados com incentivos econômicos).

Por essa razão, é importante combater não apenas o especismo, mas também o substratismo. Assim como o especismo é a discriminação baseada na espécie a qual alguém pertence, o substratismo é a discriminação baseada no tipo de substrato que compõe o corpo do ser (por exemplo, se é orgânico ou não orgânico). Assim como o antropocentrismo é uma forma de especismo (que discrimina contra quem não pertence à espécie humana), o carbonismo é uma forma de substratismo (que discrimina contra quem não é orgânico).

O substratismo, tanto quanto o especismo, pode produzir sofrimento em quantidades astronômicas no futuro. Por isso é importante enfatizar que os animais devem ser considerados porque são sencientes (e não, porque são animais ou porque são seres vivos), e que isso implica em considerar seres sencientes não orgânicos, caso vierem a existir.

9. Conclusão

Os riscos de que os cenários mencionados acima se concretizem não são triviais. Na verdade, são muito grandes, pois é fácil ignorar tais problemas e, além disso, não estão sendo discutidos. Por essa razão, é extremamente necessário que se inicie um amplo debate sobre os riscos-s.

REFERÊNCIAS

BAUMANN, T. S-risks: An introduction. Reducing Risks of Future Suffering: Toward a responsible use of new technologies, 2017.

BAUMANN, T. Avoiding the worst final: how to prevent a moral cathastrophe. Center for Reducing Suffering, 2022.

BURTON, K. NASA Presents Star-Studded Mars Debate. NASA, 25 mar. 2004.

CUNHA, L. C. A situação dos insetos: o quão importante é essa questão? Revista de Filosofia Aurora, v. 35, 2023, p. 1-16.

CUNHA, L. C. Uma breve introdução à ética animal: desde as questões clássicas até o que vem sendo discutido atualmente. Curitiba: Appris, 2021.

CUNHA, L. C. Razões para ajudar: o sofrimento dos animais selvagens e suas implicações éticas. Curitiba: Appris, 2022.

DANIEL, M. S-risks: Why they are the worst existential risks, and how to prevent them. Foundational Research Institute, [s.l.], 2017.

ÉTICA ANIMAL. O uso de insetos para alimentação. Ética Animal: ativismo e investigação em defesa dos animais, 21 out. 2021.

HORTA, O. Debunking the Idyllic View of Natural Processes: Population Dynamics and Suffering in the Wild. Télos, v. 17, p. 73-88, 2010.

MANNINO, A.; ALTHAUS, D.; ERHARDT, J.; GLOOR, L.; HUTTER, A.; METZINGER, T. Artificial intelligence: Opportunities and risks – Policy paper by Effective Altruism Foundation. Effective Altruism Foundation, [s.l.], 2015.

MEOT-NER, M.; MATLOFF, G. L Directed Panspermia: a Technical and Ethical Evaluation of Seeding the Universe. Journal of the British Interplanetary Society, v. 32, p. 419-23, 1979.

O’BRIEN, G. D. Directed Panspermia, Wild Animal Suffering, and the Ethics of World-Creation. Journal of Applied Philosophy, v. 39, n. 1, 2022.

TOMASIK, B. Applied Welfare Biology and Why Wild-Animal Advocates Should Focus on Not Spreading Nature. Essays on Reducing Suffering, 03 jun. 2022.

TOMASIK, B. How Many Animals are There? Essays on Reducing Suffering, 07 ago. 2019a.

TOMASIK, B. Risks of astronomical future suffering. Foundational Research Institute, 02 jul. 2019b.

TOMASIK, B. Why digital sentience is relevant to animal activists. Animal Charity Evaluators. 03 fev. 2015.

Notas:

[1] Doutor em Ética e Filosofia Política pela Universidade Federal de Santa Catarina, coordenador geral no Brasil das atividades da organização Ética Animal (www.animal-ethics.org/pt). É autor dos livros Uma breve introdução à ética animal: desde as questões clássicas até o que vem sendo discutido atualmente (2021) e Razões para ajudar: o sofrimento dos animais selvagens e suas implicações éticas(2022). Publicou também capítulos em outras obras e artigos em periódicos especializados, que podem ser lidos aqui: https://ufsc.academia.edu/LucianoCunha. Contato: luciano.cunha@animal-ethics.org.

[2] Sobre riscos-s, ver Baumann (2017, 2022);Daniel (2017) e Tomasik (2019b).

[3] O conceito de riscos-s é baseado na quantidade total de sofrimento, e não na média (isto é, não é baseado no total dividido pela quantidade de indivíduos). Um cenário com uma população enorme pode ser um risco-s mesmo se apenas uma pequena porcentagem dos indivíduos estiver sofrendo (desde que o sofrimento total seja suficientemente grande). Por exemplo, um cenário hipotético onde o sofrimento de todos os indivíduos fosse transferido para um único indivíduo seria um risco-s, pois a quantidade de sofrimento total seria gigantesca. Sobre isso, ver Baumann (2022, p. 8-9 )

[4] Para uma classificação detalhada, ver Baumann (2022, p. 13-19)

[5] Sobre isso, ver Baumann (2022, p. 54-6).

[6] Para estatísticas comparativas, ver Tomasik (2019a).

[7] Para mais detalhes sobre a forma como a dinâmica populacional afeta o sofrimento, ver Horta (2010).

[8] Para uma argumentação contra o uso de insetos, ver Cunha.(2023).

[9] Sobre como os insetos são prejudicados na exploração, ver Ética Animal (2021).

[10] Sobre isso, ver. Ética Animal (2021).

[11] Ver, por exemplo, a organização Rewilding Europe: https://rewildingeurope.com/ (acesso em 06 jan. 2022).

[12] Ver Meot-Ner e Matloff (1979). Para uma crítica à panspermia enquanto risco-s, ver O’brien (2022).

[13] Ver Burton (2004).

[14] Para uma comparação, ver Tomasik (2019a).

[15] Sobre isso, ver Cunha (2021, p. 183-6; 2022, seção 8.2) e Tomasik (2022).

[16] Sobre essa questão, ver Mannino et. al. (2015) e Tomasik (2015).

A produção deste texto foi financiada pela organização Ética Animal.