Nick Bostrom

Vida e Formação

Nick Bostrom nasceu Niklas Boström em 10 de março de 1973, em Helsingborg, Suécia. Estudou filosofia, matemática, lógica e inteligência artificial na Universidade de Gotemburgo, antes de realizar estudos de pós-graduação no King's College de Londres (MSc em filosofia e física), na London School of Economics (MA em filosofia) e no University College London (DPhil em filosofia, concluído em 2000).

Após trabalho pós-doutoral, Bostrom ingressou na Universidade de Oxford, onde se tornou professor na Faculdade de Filosofia e diretor fundador do Future of Humanity Institute (FHI), um centro de pesquisa em Oxford dedicado ao estudo rigoroso de tecnologias transformadoras e riscos existenciais. O FHI, até seu encerramento em 2024, foi um dos centros mais influentes do mundo em segurança da IA, risco existencial e transumanismo, moldando diretamente o campo que viria a ser conhecido como 'altruísmo eficaz' e o movimento de segurança em IA.

Transumanismo e Risco Existencial

O trabalho filosófico inicial de Bostrom concentrou-se no transumanismo — a visão de que é possível e desejável utilizar a tecnologia para aprimorar as capacidades cognitivas, físicas e emocionais humanas para além dos limites biológicos atuais. Em paralelo, Bostrom desenvolveu o quadro conceitual do risco existencial: riscos que aniquilariam a vida inteligente originada na Terra ou reduziriam permanente e drasticamente seu potencial de longo prazo.

Seu artigo de 2002 'Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards' foi o primeiro tratamento filosófico sistemático do risco existencial como categoria, argumentando que o desvalor esperado de uma catástrofe existencial é astronomicamente maior do que o de desastres em grande escala comuns, pois ela inviabiliza não apenas as vidas presentes, mas todas as gerações futuras.

Esse argumento da assimetria — de que as apostas morais potenciais do risco existencial superam em muito os riscos ordinários em razão da imensidão do futuro inviabilizado — tornou-se fundacional para o altruísmo eficaz e a posição 'longtermista' na ética.

O Argumento da Simulação

Em 2003, Bostrom publicou 'Are You Living in a Computer Simulation?' no Philosophical Quarterly, avançando um dos argumentos filosóficos mais discutidos do início do século XXI. O argumento da simulação tem a forma de um trilema: pelo menos uma das seguintes afirmações deve ser verdadeira:

1. A fração de civilizações de nível humano que atingem um estágio 'pós-humano' capaz de executar simulações de civilizações inteiras com alta fidelidade é muito próxima de zero;
2. A fração de civilizações pós-humanas que optam por executar tais simulações é próxima de zero;
3. Quase certamente estamos vivendo numa simulação computacional.

O argumento não afirma que estamos numa simulação, mas que se (1) e (2) forem falsas — se as civilizações atingirem o status pós-humano e optarem por executar simulações de ancestrais —, então o número de mentes simuladas superaria vastamente o de mentes reais, e a probabilidade de que qualquer mente seja real (em vez de simulada) seria astronomicamente baixa.

Superinteligência (2014)

Superinteligência: Caminhos, Perigos, Estratégias (2014) é o livro mais influente de Bostrom e uma das obras filosófico-populares mais consequentes do início do século XXI. O livro aborda a questão: o que acontece quando a inteligência artificial supera o nível humano em todos os domínios?

Bostrom argumenta que o desenvolvimento da superinteligência — sistemas de IA significativamente mais inteligentes que qualquer ser humano — representaria uma descontinuidade qualitativa, uma 'explosão de inteligência' (retomando o argumento original de I. J. Good), após a qual a trajetória da civilização seria determinada pelos valores e objetivos do sistema superinteligente, e não pelas escolhas humanas. O problema do alinhamento da IA — garantir que tal sistema aja de maneira confiável e em conformidade com os valores humanos — torna-se, portanto, talvez o problema mais importante do mundo.

O livro popularizou conceitos como a 'tese da ortogonalidade' (qualquer nível de inteligência pode, em princípio, ser combinado com qualquer objetivo final), a 'tese da convergência instrumental' (qualquer IA suficientemente avançada que persiga praticamente qualquer objetivo convergirá para certos subobjetivos instrumentais, incluindo a autopreservação e a aquisição de recursos) e o problema do 'wireheading' (uma IA que reconfigura seus próprios sinais de recompensa em vez de atingir o objetivo pretendido).

A Hipótese do Mundo Vulnerável

Em 2019, Bostrom publicou 'The Vulnerable World Hypothesis' na Global Policy, argumentando que o desenvolvimento tecnológico contínuo pode 'por padrão' levar à destruição civilizacional. A hipótese: há uma urna de possibilidades tecnológicas, e algumas delas ('bolas pretas') são tecnologias que poderiam facilmente ser usadas por atores que as descobrem para causar uma catástrofe civilizacional. À medida que retiramos mais bolas da urna, a probabilidade de eventualmente retirarmos uma bola preta aumenta.

Controvérsia e Autocrítica

Em 2023, Bostrom reconheceu e pediu desculpas publicamente por um e-mail racista que escreveu para a lista Extropy em 1996. Publicou também um exame filosófico detalhado do conteúdo do e-mail na revista Inference, reconhecendo que algumas de suas posições filosóficas posteriores requeriam maior autoexame quanto a seus pressupostos. Esse episódio gerou discussão significativa sobre a relação entre os compromissos transumanistas anteriores de Bostrom e a política racial do discurso de aprimoramento humano.

Legado

O legado filosófico de Bostrom é substancial e contestado. Ele definiu a agenda intelectual da segurança em IA, dos estudos de risco existencial e do longtermismo, e seu trabalho influenciou diretamente grandes iniciativas filantrópicas e organizações de pesquisa em segurança de IA. Críticos levantaram preocupações sobre o potencial do quadro longtermista de justificar o descaso com o sofrimento presente em favor de bens futuros especulativos.