por João Lourenço*, 2012
Ao se deparar com temas acerca do futuro da humanidade, a pergunta mais comum é “Por que eu deveria me importar?”. O Futuro de longo prazo é visto como extremamente distante, longínquo e sem qualquer relação com nossas vidas. Algumas pessoas veem poucas razões para se importarem com as vidas futuras, em oposição à sua própria vida presente. No entanto, mesmo que você não seja altruísta, você deveria se importar com o futuro, por uma simples razão: muito provavelmente você estará nele. Além disso, quanto maior a probabilidade dele dar certo, maior a chance de você estar nele, pois isso significa que tecnologias como criogenia e anti-ageing (contra envelhecimento) deram certo. O seu próprio bem-estar depende muito do bem-estar alheio também. Citando Russell: “A humanidade se tornou tanto uma única família, que nós não podemos mais garantir a nossa própria prosperidade, sem garantir a de todos os outros. Se você deseja ser feliz, deve se resignar a ver outros felizes”. Mas talvez a melhor resposta para esse suposto egoísta é a de que, na realidade, não é verdade que alguém possa ser completamente egoísta. As pessoas se importam com as outras, com o desenvolvimento humano, com seus familiares, etc., e, portanto um futuro que contenha seus valores conterá, inevitavelmente, uma humanidade feliz.
O futuro da humanidade é extremamente grande. Ele inclui, literalmente, todos os anos e pessoas que ainda irão viver. Se ele der certo, serão bilhões e bilhões de pessoas, vivendo por bilhões e bilhões de anos, sendo mais felizes, experienciando novas coisas, capacidades, emoções, etc. A estimativa estaria em torno de 1054 vidas humanas. Mesmo a sua própria vida será vivida em sua maior parte no futuro. Se as coisas derem certo, você poderá viver o quanto desejar e isso pode chegar a 200, 300, 400 anos, com velocidades de processamento expandidas. A maior e melhor parte da sua própria existência está naquele cenário em que o futuro dá certo, e é portanto ele que, mesmo egoisticamente, você deve tentar atingir. Qualquer ação que aumente 0,0001% a chance de ele dar certo é mais racional do que quase qualquer outra. Além disso estamos num momento chave da história da humanidade. É muito claro que todas as análises feitas apontam para o fato de que estamos perto de um “vai ou racha”. Os riscos das tecnologias que estamos começando a poder desenvolver são enormes, os benefícios também, e essa é a hora de decidir se vamos e como vamos desenvolvê-las. Ademais, diversos outros fatores também demonstram que o risco de uma catástrofe natural neste século é especialmente elevado. Estamos, portanto, numa época extremamente crucial. Talvez 200 ou 300 anos atrás poderíamos argumentar que nosso impacto no futuro seria desprezível, mas hoje não mais.
Existe ainda outro fato: pouquíssimas pessoas têm a capacidade e conhecimento necessários para se dedicar a um assunto destes; e, destas poucas, pouquíssimas de fato se dedicam. Seriamente, fazendo uma diferença concreta, considerando todas as maneiras de ser contrafactualmente relevante e escolhendo a melhor, não devem existir mais de 30 pessoas atualmente dedicadas a garantir um bom futuro para humanidade. Portanto, contrafactualmente, seria grande a diferença que você faria ao se envolver nessa direção. Quando alguém escolhe se dedicar a isso, o aumento total da força de trabalho é grande. Mas ninguém espera que você resolva estocar comida com o dinheiro que têm até hoje e passar o resto do tempo que te resta tentando descobrir como fazer uma inteligência artificial amigável. Com certeza a estratégia de se dedicar a isso no tempo vago é boa. Mas melhor que isso seria trabalhar em algo que teria, indiretamente, um impacto alto da probabilidade de sucesso, e ainda melhor seria até mesmo ajudar a criar esse espaço de trabalho onde as pessoas possam se dedicar diretamente e integralmente a esse problema. O IERFH é, de fato, uma tentativa de um dia gerar este lugar no Brasil.
E esse espaço já existe nos EUA (http://singularity.org/) e na Inglaterra (http://www.fhi.ox.ac.uk/). Você poderia tentar ir trabalhar lá, o que geraria um impacto imenso. Mas nós consideramos que vale mais a pena tentar criar esse espaço onde ele ainda não existe (Brasil), sem incorrer talvez em tantos sacrifícios pessoais (mudar de país). Acredito que a coisa racional a se fazer no momento seja se juntar a nós. E isso não deveria soar conveniente, surpreendente ou arrogante. O IERFH foi criado justamente com essa proposta: “o que racionalmente podemos fazer para melhorar o mundo?”. Mas é possível que pessoas com históricos e valores diferentes vão dar outras respostas, que ainda sim podem muito bem interseccionarem com as nossas.
Alguém poderia argumentar que pensar as consequências tecnológicas de longo prazo é um assunto extremamente técnico e que raras pessoas possuem essa habilidade. No entanto, as áreas que agora mais precisam de pessoas não são as diretamente técnicas. É preciso pensar uma fundação ética e orientações gerais mais globais para entender por que, como e se devemos usar determinada tecnologia em detrimento de outras, além de outras questões relacionadas. Divulgar esse tema também é importante, informando outras pessoas de sua relevância, etc., pois isso gera colaboradores, que no fim podem ter mais impacto do que sua contribuição individual. Mas sim, seu argumento continua válido, com os devidos tradeoffs entre seu salário, as habilidades que você possui e as que são necessárias.
Há ainda o argumento de que o futuro é extremamente incerto e que deveríamos, racionalmente, nos importar menos com ele – dada essa incerteza. Sem dúvida é racional descontar o futuro. Mas mesmo que esse desconto seja extremamente alto, como um exponencial, ainda sim, feitos os cálculos, seria irracional se importar mais com os próximos 5 anos do que com os próximos 100; ou mesmo com a sua própria vida do que com as 1054 vidas futuras. O ser humano tem uma tendência a descontar o futuro de uma maneira que reflete um ambiente muito mais instável do que ele realmente é atualmente. Na maioria das vezes somos irracionalmente imediatistas, descontando o futuro de maneira hiperbólica em situações nas quais não deveríamos fazê-lo. Portanto eu não confiaria muito na minha capacidade instintiva de avaliar o quanto devo ou não me dedicar ao presente. É melhor fazer algum tipo de cálculo ou raciocínio mais elaborado. E quando você coloca bilhões de anos futuros ou 1054 vidas na sua equação, você vê que isso tende a dominar o comportamento geral dela, mesmo que isso esteja sendo descontado exponencialmente pelo tempo.
A incerteza com relação ao futuro é um motivo pelo qual você não deveria agir segundo um cenário pré-estabelecido de um futuro distante, como nós fazemos com relação ao presente. Por exemplo, é racional você fazer seus planos de amanhã supondo que a economia irá continuar estável, que vai ter gasolina no seu carro, que não entraremos num inverno nuclear, etc., por isso você sabe como agir. Mas o futuro a longo prazo te apresenta uma multiplicidade de cenários e, por isso, começar a agir agora com base em um cenário extremamente distante é irracional, pois você não sabe qual deles se realizará. Por outro lado, essa é uma razão pela qual o futuro é interessante e relevante, porque sobre ele tem o que ser pensado. Porque nele a variabilidade de cenários possíveis é tão alta que a variação de utilidade possíveis entre eles justifica qualquer quantidade de tempo refletindo sobre o futuro, para garantir que nos aproximemos do melhor cenário (i. e., superinteligência amigável) e nos distanciemos do pior (i. e., riscos existenciais).
Notas
* Texto revisado por Lauro Edison.
Referências
Bostrom, N. (2009). The future of Humanity. New Waves in Philosophy of Technology, eds. Jan-Kyrre Berg Olsen, Evan Selinger & Soren Riis (New York: Palgrave McMillan, 2009), Disponível em: http://www.nickbostrom.com/papers/future.pdf