ボストロムのトリレンマ

自分たちの過去を詳細にシミュレートできるほど進んだ文明を想像してください。その中には、考え、感じる人々がいます。ボストロムの論文は、そのとき次のうち少なくとも一つが真だと論じます。そこまで到達する文明はほとんどなく、その前に何かが止める。あるいは、到達した文明のほとんどは、そうしたシミュレーションを走らせないことを選ぶ。あるいは、私たちはほぼ確実にその一つの中に暮らしている。祖先シミュレーションが一つでも走らされるなら、シミュレートされた心は元の心を圧倒的に上回り、無作為に選んだ心は、おそらく多数派の一つです。

この論証は短く、「ほとんど」が何を意味するかについても慎重です。3つのうちどれが成り立つかは述べません。そこが従来の問いの形との違いです。プラトン、荘子、デカルト、パトナムは、知ることができるかを問います。ボストロムは確率を問い、3つの可能性をすべて同時に小さくはできないことを示します。

人々は、よく第四の選択肢を探します。留保には実質があります。シミュレーションがいくつの心を抱えるか、シミュレートされた文明が自分たちのシミュレーションを走らせるか、成熟とは何を指すか、といった点です。これらは、3つの選択肢それぞれの重みを変えます。議論そのものは、基質非依存性と無差別原理という2つの前提に支えられています。どちらかを否定することが、第四の可能性への主な道です。

この論文は、このサイトの見た目の理由も説明します。ボストロムの議論には一つの数が含まれます。元の心一つあたりの、シミュレートされた心の数です。この数は、シミュレーションに必要な計算量で決まります。サンドボックスは、それを明示します。トリレンマのウィンドウは、選んだシナリオをシミュレートされる対象として扱います。宇宙規模のコンピューター一台が何個のコピーを走らせられるかを計算し、ほかの2つの確率はあなたが設定できます。3本目のバーは、ただの算術です。

ボストロムは、自分の信念の度合いを3つすべてに分散させていると語っています。事情に詳しい人たちの間にも、それぞれの選択肢に落ち着いた人がいます。トリレンマは、どこに立つべきかを教えてくれません。言えるのは、3つの居心地の悪い命題のうち少なくとも1つは真だ、ということだけです。