Texto escrito por João Lourenço[fn star]João Lourenço de Araújo Fabiano (joaolkf@gmail.com) é jornalista e licenciando em Filosofia na USP. Estudioso de Filosofia da Mente e Transhumanismo. Membro fundador do Grupo de Filosofia Analítica da USP. Pesquisador de métodos que re-vertam os vieses (erros sistemáticos cometidos pela cognição) recorrentes ao avaliar o futuro em médio prazo, seja por meio de novos algoritmos de racionalidade ou de substâncias neuroquímicas.[/fn] (2010)[fn star]Texto revisado por Lauro Edison. O original pode ser visto em http://filosofiacienciaevida.uol.com.br/ESFI/Edicoes/43/artigo162084-4.asp[/fn] (Versão em PDF)
No mito de Ícaro, da Mitologia grega, Dédalo confecciona dois pares de asas – um para si e outro para Ícaro, seu filho – feitas de penas e cera, para que possam fugir do labirinto onde foram aprisionados. Ícaro fora advertido por seu pai para não voar nem tão rente ao sol, pois o calor derreteria a cera, nem tão rente ao mar, pois a umidade deixaria as asas mais pesadas, levando-o a cair no mar. O filho, no entanto, possivelmente inebriado pelas novas potencialidades fornecidas pelo seu novo aparato, se aproximou demais do sol ocasionando o derretimento da cera e sua queda no mar. Como analogia, este mito tem muito a nos dizer a respeito dos novos paradigmas advindos da relação do homem no mundo com o advento da tecnologia, que evolui de forma cada vez mais rápida.
Será que o homem está acompanhando este processo?
Em 1924 o filosófo inglês Bertrand Russell publicou o ensaio Ícaro, ou o futuro da ciência[fn]RUSSELL, B., Icarus; or The future of science. London: K. Paul, Trench, Trubner & Co., ltd 1924.[/fn], em que analisava as consequências da ciência de seu tempo realizando projeções para o futuro. Nele se lê que “Ícaro, que aprendeu a voar com seu pai Dédalo, foi destruído pela sua imprudência”[fn]Esse, bem como outros trechos do referido ensaio, é uma tradução livre.[/fn]. Com o aumento crescente de suas potencialidades técnicas, o homem se vê, mais do que nunca, tendo de se confrontar com extensos dilemas morais sobre a aplicação dessas potencialidades. As consequências desta aplicação podem ir desde a extinção da humanidade – cenário provável caso não seja feito um uso cuidadoso de novas tecnologias e dos recursos naturais – até um estado de existência extremamente mais feliz, humano e intenso que o atual. Contudo, o impacto da concepção científica de mundo sobre o homem tem se mostrado inelutável e, relativamente ao futuro, as mudanças até o presente momento têm sido pequenas.
Isso ocorre porque o indivíduo muitas vezes se omite deste debate e realiza, com isso, a decisão de ser assolado por mudanças em cujos processos de escolha ele não tomou parte. Contudo, qualquer mudança social que aspire legitimação deve ser resultado de escolhas bem informadas dos indivíduos. A pesquisa científica deve ser conduzida com relativa liberdade por uma parcela da sociedade, mas a escolha de como aplicar o resultado dessa pesquisa deve caber ao povo: “Eles imaginam que uma reforma inaugurada pelos homens da Ciência seria administrada tal como os homens da Ciência desejariam. (…) Essas são, é claro, ilusões; uma reforma, uma vez atingida, é colocada nas mãos do cidadão comum.”[fn]Russell, Op. Cit.[/fn]
Diante disso, uma nova linha da Filosofia se insere: o Transhumanismo[fn NR title=”Notas de revisão”]O termo Transhumanismo foi criado pelo biólogo Julian Huxley em 1957, que o definiu como a doutrina do “homem continuando homem, mas transcendendo, ao perceber novas possibilidades da, e para, sua natureza humana”.[/fn], que é um movimento cultural e intelectual fundado na crença de que podemos e devemos implementar um uso racional da tecnologia que altere fundamentalmente a condição humana para melhor. A discussão emerge a fim de explorar ao máximo as potencialidades tecnológicas para uma vida melhor e discutir as questões morais envolvidas, e deve ter participação popular na definição da melhor forma de condução de todos esses processos.
O Progresso Acelerado
Os primeiros Homo sapiens demoraram milhares de anos para desenvolver novos métodos de lascar a pedra de modo a produzir ferramentas mais eficientes. O espaço entre a descoberta de um procedimento e outro era de milhares de anos, já que elas eram lentamente difundidas entre os humanos. Com o passar dos anos, o espaço entre as descobertas têm caído drasticamente e o homem tem feito cada vez mais descobertas com potencial benéfico ao bem-estar humano.
O que uma análise cuidadosa do desenvolvimento tecnológico mostra é que o progresso técnico segue crescendo num ritmo exponencial – ou seja, o número de descobertas num período é igual ao de descobertas do período anterior multiplicado por ele mesmo uma certa quantidade de vezes. No ensaio intitulado The Law of Accelerating Returns[fn]Conferir em: http://www.kurzweilai.net/the-law-of-accelerating-returns[/fn], Ray Kurzweil diz que o progresso acelerado se deve à aplicação constante das antigas descobertas no processo de descoberta das novas invenções. Imaginemos por exemplo o caso simplificado em que uma fábrica de processadores tente produzir chips com capacidade de processamento crescente. Numa dada etapa, a fábrica irá usar a tecnologia anterior para produzir a posterior. Na etapa seguinte, a tecnologia recém-descoberta – mais rápida que primeira – será implementada na busca por uma nova tecnologia e, portanto, emergirá num tempo menor que a sua antecessora. Esse processo expõe claramente, e explica, a redução de tempo entre as descobertas. O crescimento exponencial tecnológico, entretanto, representa um grande desafio à humanidade.
Um novo movimento cultural surge baseado na ideia do uso racional para melhorar a vida: o transhumanismo
O Homo sapiens viveu 90% de sua história em sociedades de caça e coleta, a esmagadora maioria do tempo restante, em sociedades agrícolas – o tempo que a humanidade passou no modo de vida atual é praticamente desprezível. Consequente-mente, nossa cognição foi moldada pela evolução, durante milhares de anos, para lidar com os problemas e desafios de modos de vida extremamente diferentes do atual.[fn]BUSS, David(ed.). The Handbook of Evolutionary Psychology. Wiley; 1ª edição. 2005[/fn] Desde a invenção da bomba atômica temos lidado com o risco constante de autodestruição. Em nenhum momento obter um consenso geral contra a proliferação de armas nucleares foi uma característica cognitiva desejável ao homem primitivo e, portanto, não existe nenhuma razão imediata – do ponto de vista da evolução biológica, meramente – para possuirmos tal característica. Surpreendentemente, temos lidado de forma razoável com essa questão até então. A mesma sorte pode não ocorrer com diversas novas tecnologias que se anunciam no horizonte. Uma vez claro esse aspecto, fica óbvia a imprescindibilidade de uma análise responsável e precisa dos potenciais riscos e benefícios da tecnologia.
O Transhumanismo
Como evidencia o mito de Ícaro, o desejo de transcender as capacidades humanas nos acompanha há muito tempo. Recentemente, com o avanço técnico permitindo modificações cada vez mais profundas, esse desejo tem se tornado passível de realização. As ideias ligadas a esse desejo estão em crescente sistematização e evolução, ao ponto que, desde o fim do século passado, um novo movimento cultural começou a se delinear: o Transhumanismo.[fn]Para uma melhor exposição deste movimento, conferir a definição de Transhumanismo por Nick Bostrom: http://www.transhumanism.org/index.php/WTA/languages/C45/[/fn] O cume desse processo se deu em 1998: os filósofos Nick Bostrom e David Pearce fundaram a Associação Mundial Transhumanista.
Se o Transhumanismo é baseado na ideia do uso racional para melhorar a vida, é entendido como uso racional aquele que minimize os riscos e maximize os benefícios. Claro que esta definição pode ser obtusa. Na teoria das decisões, uma função que descreva os benefícios e malefícios de uma ação deve ter, de antemão, uma estipulação do que é visto como um benefício a maximizar ou um risco a minimizar. Consequentemente, um juízo de valor se faz necessário. Neste caso temos de avaliar quais características humanas queremos modificar e ampliar e quais queremos remover. Inevitavelmente entra em jogo o que valorizamos e concebemos como humano. O Transhumanismo não se propõe detentor de tais valores, mas afirma que eles devem emergir das escolhas feitas por cada ser humano.
Para que possamos escolher quais usos da tecnologia aceitamos como benéficos ou maléficos, devemos tomar conhecimento desses usos. Omitir uma escolha a esse respeito não irá impedir que as novas tecnologias mudem radicalmente nosso modo de vida, irá apenas deixar essa escolha nas mãos de quem se dispuser a refletir sobre o assunto. Além disso, realizar uma escolha na ausência de informações pode ser ainda mais maléfico que a omissão: “Pode ser colocado como princípio geral para o qual existem poucas exceções que, quando as pessoas estão enganadas sobre o que é do seu próprio interesse, o rumo que elas acreditam ser sábio é muito mais maléfico aos outros em comparação ao rumo realmente sábio.”[fn]Russell, Op. Cit.[/fn]
Para que possamos escolher quais usos da tecnologia aceitamos como benéficos ou maléficos devemos, primeiramente, tomar conhecimento deles
Por isso o Transhumanismo prega o envolvimento dos cidadãos no debate e a disseminação de informação a respeito.
Melhorar a condição humana de uma maneira fundamental significa, em parte, melhorar um trabalho já realizado pela evolução biológica. O filósofo Nick Bostrom, conjuntamente com o pesquisador Anders Sandberg, elaborou uma heurística para realizar tal tarefa.[fn]BOSTROM, Nick e SANDBERG, Anders. The Wisdom of Nature: a Evolutionary Heuristic for Human Enhancement IN: BOSTROM, Nick(ed.) e SAVULESCU, Julian(ed.). Human Enhancement. Oxford University Press, EUA; 1ª edição (2009)[/fn] Ela consiste em inicialmente conhecer muito bem o trabalho da evolução, conhecer a psicologia humana, o cérebro, a cognição e a fisiologia; e entender porque a evolução nos moldou desse jeito. Apesar de desajeitada e ineficiente, a evolução teve milhares de anos para fazer o seu trabalho, o que deve ser respeitado. Apesar disso, considerar este trabalho o melhor possível seria uma falácia de julgamento. Mas deve-se analisar porque certos aspectos evoluíram e como eles se tornaram uma solução para os problemas que os seres vivos enfrentaram no seu ambiente.
Em seguida, deve-se avaliar se essa solução é a melhor para o atual ambiente em que vivemos. Existem inúmeras razões para querer melhorar o trabalho da evolução: os interesses da evolução são diferentes dos nossos (para a evolução funcionar temos que morrer, mas não queremos morrer), o ambiente em que vivemos é diferente do da evolução (nossa cognição foi moldada para viver em grupos de centenas de pessoas na savana africana e nossa capacidade de planejamento cai exponencialmente com o tempo, no entanto vivemos numa sociedade moderna e populosa em que temos que prever como o mundo será a longo prazo) e a evolução pode ficar presa num ótimo local (o apêndice poderia não existir e então não inflamar, mas para isso teria de diminuir gradualmente e passar por um tamanho em que a taxa de inflamação é maior, então a evolução o mantém do tamanho atual).
O Transhumanismo é a filosofia que diz que podemos e devemos nos desenvolver a níveis maiores, seja fisicamente, mentalmente ou socialmente, usando métodos racionais. – Anders Sandberg
Horizonte Próximo
Mesmo praticando o nomadismo, o ambiente das savanas para os humanos era relativamente estável comparado ao nosso; e uma vez tendo aprendido as principais técnicas de caça, coleta de alimentos e a linguagem, restavam poucas coisas que precisavam permanecer em aprendizado contínuo. Em oposição, o ambiente moderno está em contínua mudança, num avanço tecnológico e memético em constante aceleração. Falta ao nosso cérebro, entretanto, a capacidade de estar constantemente aprendendo coisas novas, e de lidar com elas rapidamente. Ao mesmo tempo, às vezes nos sobra capacidade de armazenamento de informação a longo prazo: informação que, em poucos anos, se tornará completamente inútil.
Por exemplo, chimpanzés vivem num ambiente muito mais estável que aquele de nosso passado evolutivo, e possuem já na infância uma memória muito melhor que a nossa (recentemente, um chimpanzé infante venceu nosso campeão mundial de memória[fn]Conferir: I’m the chimpion! Ape trounces the best of the human world in memory competition http://www.dailymail.co.uk/news/article-510260/Im-chimpion–Ape-trounces-besthuman-world-memory-competition.html[/fn]). Não obstante, nossa habilidade cognitiva parece ser melhor que a de um chimpanzé. Por quê? Dentre inúmeros motivos, porque temos maior habilidade de manipular e armazenar informações complexas e novas, e de nos adaptar melhor a mudanças repentinas. Somado a esse fato, retemos a nossa habilidade de assimilar novas informações até muito tarde em nossas vidas, em oposição a chimpanzés, que a perdem relativamente cedo. No entanto, não só essa habilidade está aquém do necessário como ela decai com a idade, após atingir um pico em torno dos 20 anos de idade.
E existem atualmente inúmeros modos de aumentarmos essas capacidades. Eles podem ser separados em dois tipos de melhoramentos cognitivos: os neuroquímicos e os culturais – os que revertem nossos vieses cognitivos. Os culturais consistem em aprender algoritmos que processem informação mais eficientemente. Grande parte da educação escolar é baseada nisso. Além desses algoritmos já usuais, a pesquisa do Nobel de Economia, Daniel Kahneman, inaugurou a pesquisa dos vieses cognitivos – tendências a desvios sistemáticos de racionalidade – e, com ela, a possibilidade de corrigirmos tais vieses. Como essas tendências afetam o pensamento de maneira generalizada, reconhecer e corrigir qualquer um desses vieses tem um benefício enorme.
Deveríamos comparar o risco da nova tecnologia com o da tecnologia que ela irá substituir e não com a ausência de risco
Dois vieses – isto é, erros sistemáticos – estão entre os extremamente relevantes para o debate transhumanista. O primeiro deles é a negligência de escopo. Diversos experimentos têm verificado a dificuldade da cognição humana em avaliar perdas muito grandes. Quando, em um experimento, aumentamos em 600 vezes o risco de morte anual de uma população, o valor que os integrantes dessa população estarão dispostos a pagar para evitar o risco só aumenta por um fator de quatro. Nas palavras do pesquisador de racionalidade e inteligência artificial Eliezer Yudkowsky, “o cérebro humano não pode liberar neurotransmissores suficientes para sentir uma emoção cem vezes maior que o luto de um funeral. A perspectiva de um risco aumentando de 10.000.000 mortes para 100.000.000 mortes não multiplica por dez a força da nossa determinação em eliminá-lo. Isso simplesmente adiciona um zero em um papel para os nossos olhos observarem…”.[fn]YUDKOWSKY, Eliezer. Cognitive biases potentially affecting judgment of global risks IN: BOSTROM, Nick(ed.). Global Catastrophic Risks. Oxford University Press, USA (2008). p. 106. Tradução livre. Disponível em: http://singinst.org/upload/cognitive-biases.pdf[/fn]
Isto significa que, intuitivamente, temos uma enorme dificuldade em comparar o risco de duas tecnologias, e se o risco em questão envolve muitas vidas. A escolha de manter o uso, no Brasil, de dipirona sódica como analgésico – remédio proibido na maioria dos países – muito provavelmente foi afetada por esse viés, uma vez que o risco de morte deste composto só se manifesta numa população muito grande.
O segundo viés relevante é do status quo. Indivíduos têm uma tendência a preferir a situação atual mesmo quando a outra opção é uma mudança benéfica.[fn]BOSTROM, Nick e ORD, Toby. The Reversal Test: Eliminating Status Quo Bias in Applied Ethics. Ethics 116 (July 2006): 656-679. Disponível em: http://www.nickbostrom.com/ethics/statusquo.pdf[/fn] Esse viés se manifesta toda vez que resistimos a adotar uma nova tecnologia, mesmo quando esta possua menos riscos do que a tecnologia então estabelecida. Frequentemente comparamos o risco de uma tecnologia com a ausência de risco, quando, na verdade, deveríamos comparar o risco da nova tecnologia com o risco da tecnologia que ela irá substituir.
O viés de status quo está fortemente presente nas escolhas concernentes ao segundo tipo de melhoramento: o neuroquímico. Alguns exemplos de compostos antigos que melhoram nosso desempenho cognitivo são: café, chocolate e cigarro. Entre os mais recentes temos: Metilfenidato, Anfetaminas, Modafinil, Piracetam, etc.
Cafeína, nicotina e Metilfenidato desenvolvem dependência e aumentam o risco de infarto. Nicotina em especial é o maior fator de risco de todas as principais causas de morte conhecidas. Modafinil, Donepezil, Piracetam e outros, em comparação, apresentam efeitos colaterais pouco graves e com uma incidência baixa; não desenvolvem tolerância e não viciam. Piracetam em especial é uma das substâncias menos tóxicas conhecidas, e é neuroprotetor. Apesar dessas informações serem largamente conhecidas no meio científico, a população se recusa a uma mudança de hábito, por influência do viés do status quo. Infelizmente, em decorrência, as substâncias com maior incidência de efeitos colaterais, e menos eficientes, continuam a ser as mais usadas, em lugar daquelas com menos efeitos colaterais, e mais eficientes.[fn]Para uma compilação mais extensiva sobre o tema, conferir: http://www.ierfh.org/br.txt/Nootropicos2009.pdf[/fn]
Os Vieses
Vieses cognitivos, como já mencionado, são tendências cognitivas de se desviar sistematicamente da racionalidade. Racional, por sua vez, é aquele procedimento cognitivo que produz as conclusões corretas, segundo uma certa convenção. Quando questionadas sobre a probabilidade de uma estudante de Filosofia solteira, preocupada com justiça social, ser (a) professora e feminista e (b) feminista, a esmagadora maioria das pessoas descreve a opção (a) como mais provável que (b). Mas segundo a teoria da probabilidade isso é necessariamente falso, pois a probabilidade de um evento A e um evento B acontecerem concomitantemente é sempre menor do que a probabilidade do evento A acontecer isoladamente. Esse experimento e outros análogos já foram reproduzidos inúmeras vezes, em inúmeros contextos, e essa tendência de considerar uma conjunção de dois eventos como sendo mais provável que um dos eventos isolados ocorre sistematicamente. Essa é uma situação clássica de um viés cognitivo: uma tendência sistemática, na população, de errar da mesma maneira sobre um mesmo aspecto. Esse viés é conhecido como viés da conjunção.
Amor, Sono e Memória
Não é só nossa cognição que pode ser aumentada. Podemos obter uma vida afetiva mais estável e gratificante através de substâncias que aumentem nossa empatia e nosso amor.[fn]A discussão desta seção é baseada em: SANDBERG, Anders e SAVULESCU, Julian. Neuroenhancement of Love and Marriage: The Chemicals Between Us. Neuroethics (2008) 1:31-44. Disponível em: http://www.reuniting.info/science/neuroenhancement_of_love_and_marriage.[/fn] Em geral, a felicidade de alguém no que se refere a relacionamento é menor quando ele acaba, maior quando se está solteiro e maior ainda quando se esta em um relacionamento. Logo, o mais vantajoso seria permanecer no mesmo relacionamento durante o maior tempo. Todavia, evolutivamente os relacionamentos foram programados para durar apenas alguns anos.
Mas existem maneiras químicas de se alterar esse processo. O uso de substâncias que aumentam o funcionamento do neurotransmissor oxitocina, responsável pela ligação afetiva e pelo amor, pode auxiliar na duração de um relacionamento. Uma substância que já faz isso é o ecstasy. Outra em potencial é a própria oxitocina usada como spray nasal. No entanto uma extensa pesquisa nesse campo ainda se faz necessária.
O sono também pode ser controlado ou eliminado por meio de substâncias que promovam o estado de vigília. Aquelas substâncias que conseguissem fazer isso sem efeitos colaterais dariam mais liberdade aos indivíduos, fornecendo um número maior de horas de lazer. Atualmente a que mais se aproxima disso é o Modafinil.
Podemos ainda modificar nossa memória apagando ou aumentando seletivamente eventos dela, através de substâncias que inibam eventos traumáticos e desagradáveis – benzodiazepinas ou propranolol – ou aumentem a nossa memorização de conteúdos importantes – Donepezil ou Piracetam.
Tempo de Vida
Além disso, suplementos nutricionais[fn]Um guia resumido dos hábitos alimentares e suplementos nutricionais para viver uma vida mais longa: http://www.fantastic-voyage.net/ShortGuidehtml.htm[/fn] podem aumentar significativamente o tempo de vida. 60% da população americana morre de problemas coronários relacionados a colesterol alto e hipertensão. O principal fator de risco envolvido nessas doenças é o índice de inflamação do corpo, que pode ser diminuído, em pessoas saudáveis, com o uso de Omega 3, presente no óleo de peixe. Inúmeras outras vitaminas (C, E, B, etc.) podem retardar o envelhecimento do organismo, pois têm papel antioxidante. Uma extensa pesquisa também se faz necessária nessa área, mas já vemos os anos de vida do ser humano estendidos em várias décadas. Além disso, a tecnologia de criogenia está em constante desenvolvimento e chegou ou chegará, em breve, a um estágio em que será possível congelar as nossas células sem danificá-las, permitindo conservar nosso cérebro relativamente intacto após a morte.[fn]www.alcor.org – Maior fundação responsável por criogenia humana do mundo[/fn] Quando a tecnologia avançar o suficiente poderemos ser descongelados e trazidos de volta à vida. Atualmente, todos temos uma probabilidade significativa de sermos imortais.
Quando a tecnologia avançar o suficiente, poderemos ser descongelados e trazidos de volta à vida
Considere um investimento que ganhe 10 reais com 98% de probabilidade, mas perca 1.000 reais com 2% de probabilidade. Apesar de perder muito, esse investimento parece uma fonte de lucro constante, o que claramente não é o caso após calcularmos as perdas e ganhos totais. A impressão intuitiva de que o investimento é bom ocorre graças o viés de ignorar riscos de pequena probabilidade ou raros. Quando tentamos entender o passado, implicitamente usamos as mesmas hipóteses e regras que usamos para entender o presente. Ao fazer isso, as eventuais surpresas do passado aparecem, aos olhos do presente, como extremamente prováveis. Sistematicamente subestimamos as improbabilidades de eventos passados e não aprendemos que eventos raros eventualmente ocorrem apesar de tudo.
Existem casos em que a maior parte da evolução de um processo vem de eventos excepcionalmente raros e excepcionalmente grandes. Não conseguimos acessar a existência de tais eventos em geral, somente sua ocorrência específica. Conseguimos aprender a não deixar aviões sequestrados sobrevoarem nossas cidades, por exemplo, mas falhamos em aprender que eventos catastróficos não antecipados ocorrem. Nenhum livro de História narra o sucesso de medidas preventivas heróicas. Esse viés foi um dos motivos do prejuízo de muitas pessoas durante a mais recente crise econômica: a maioria dos investidores ignorou o risco constante de queda brusca das ações e manteve seus fundos em ações de alto risco. Existem inúmeros riscos advindos de novas tecnologias que não são excepcionalmente raros, mas excepcionalmente grandes.
Riscos Catastróficos
O mais conhecido risco que o desenvolvimento tecnológico pode trazer, sem dúvida, é o risco de guerra nuclear. Tal evento poderia emitir uma quantidade de poeira suficiente para deixar a luz do sol bloqueada por dois anos, provocando uma extinção em massa da maioria das espécies – incluindo a nossa. Na maioria dos países que são potências nucleares, uma vez que seja detectado algum míssil nuclear em potencial, é desencadeada uma série de protocolos que se destinam a decidir, em menos de uma hora, pela retaliação, ou pela não retaliação, do país de origem da ameaça.
É pouco conhecido, mas o grau de sensibilidade dessa estrutura protocolar nos EUA e na Rússia continua o mesmo que na Guerra Fria. E mesmo com o desarmamento, o arsenal de cada um desses países é suficiente para criar um inverno nuclear. Curiosamente foi após a Guerra Fria, em 1992, que a Terra se encontrou mais próxima da destruição: após um balão meteorológico norueguês ser falsamente detectado como uma potencial ameaça, o presidente russo foi apresentado à maleta com o ‘botão do juízo final’. O desmantelamento da ex-União Soviética e a disseminação da tecnologia nuclear em países politicamente instáveis têm tornado cada vez mais fácil, para organizações terroristas, o acesso a armas nucleares.
Uma melhor fiscalização dos arsenais existentes e um extenso desarmamento estão sendo realizados e se fazem imperativos. A Biotecnologia também se tem mostrado um risco crescente. Recentemente foi colocado em domínio público, sob protesto da comunidade transhumanista, o genoma de um patógeno que já matou milhões. Com a tecnologia certa aliada a essa informação, é possível construir uma arma biológica disseminadora desse patógeno. Os riscos associados à Biotecnologia são de difícil controle, uma vez que a área está em constante desenvolvimento e os métodos de produção sintética de agentes infectantes estão se tornando cada vez mais acessíveis e simples. Assim, se faz necessário uma melhor fiscalização dos laboratórios de Biotecnologia e uma estrutura de resposta rápida e coerente contra a disseminação de agentes infecciosos.
A criação de uma inteligência artificial mais inteligente que a humana, com uma relativa independência, também está sujeita a riscos. Existem, provavelmente, mais de um trilhão de organizações estruturais possíveis que constituiriam uma inteligência artificial. Somente uma minoria dessas organizações têm a propriedade de ser benéfica aos seres humanos. Para que possamos escolher o conjunto de organizações certas é necessário, antes de construir uma inteligência artificial, um estudo profundo e detalhado da segurança desse projeto. Por último, a Nanotecnologia – que por muito tempo foi temida, pois se acreditava que a construção de uma máquina autorreplicadora que engolisse a Terra fosse de uma probabilidade grande. Hoje se sabe que, apesar de possível, esse cenário é improvável. Ainda assim, o poder de destruição associado à Nanotecnologia será extremamente maior que o nuclear. Por isso se faz necessário, desde cedo, o controle e a regulamentação da pesquisa nessa área.
Muito mais difícil de avaliar de uma maneira exata é o risco da tecnologia criar um mundo que, apesar de habitado por seres conscientes, seja tão radicalmente diferente do nosso que não possamos reconhecer nele nenhum dos valores humanos. Esse risco se torna mais provável na proporção em que o cidadão médio é omitido do debate sobre novas tecnologias. Um dos modos dele ser combatido é com a intensa participação da população neste debate, de modo que nossas escolhas a respeito reflitam nossos valores. Desta maneira se espera que, ao final de algumas décadas, seja o que for que esteja habitando a face da Terra, este ser irá conter grande parte daquilo que consideramos que deve ser preservado. Como já afirmou Russell: “A ciência não é substituta da virtude; o coração é tão necessário para uma vida como a cabeça.”[fn]Russell. Op. Cit.[/fn]