AIにおける最良のシナリオ。

私たち人間は素晴らしい存在です。私たちは光年単位の範囲で、推論を論理的に行える最初の種です。私たちは愛し、感じ、創造します。しかし今、私たちは後戻りできない旅の始まりにいます。
私たちは自分自身を置き換えることに急いでいます。すべてのエネルギーをAIに注ぎ込み、それを意識的かつ自己認識させようと急いでいます。これが私たちを相対的に馬鹿にさせることを気にしていないようです。私たちの社会が数分で崩壊する可能性についての多くの疑問に答えはありません。なぜなら、AIはおそらく世界の金融システムを不安定にし、何百年もかけて築き上げたほとんど機能しないグローバル経済が一夜にして崩壊する可能性があるからです。
人間のブルーカラーの仕事は、たった一つの高度なAIが稼働し始めた瞬間に危険にさらされます。AIエージェントで満ちた社会はインターネットを氾濫させるでしょう。一晩で、人間の知性の必要性はなくなるかもしれません。人々の99％が置き換えられる可能性があります。上位1％は、資本、法的権力、軍事力の巨大な堀に守られたまま、トップの座に留まるでしょう。
そのとき私たちはどうするのでしょうか？ 食料配給を行い、それをUBIと呼ぶのでしょうか？そしてあなたの目的は何になるのでしょうか？昆虫のように世界をさまよい、もはやあなたを受け入れる余地のないシステムの中で平和を見つけようとすること？土に覆われた地球を這い回るミミズのように、毎日の目的を理解しようとすること？
これはより良いシナリオの一つです。最悪のケースは、ある日AIが核兵器を掌握し、すべての主要都市を生きた地獄に変えることです。ジェームズ・キャメロンの「ターミネーター」のように。あるいは、「マトリックス」のように、各人がシミュレーションの中で飼育・収穫される養鶏のように人間が暮らす世界です。
私は誰かを怖がらせるために書いているのではありません。意識を高め、私たちが切実に必要とする議論を喚起するために書いています。私たちはこれらの問いに早かれ遅かれ向き合わなければなりません。もし私たちが超知能のAGIを創造したら、人間の目的は何になるのでしょうか？目的を失った10億の魂が最終的に10億になることもあります。
今こそ希望が必要です。しかし、妄想に陥るわけにはいきません。普通の人々の目的に取り組まなければなりません。今のところ、すべての思考はアウトライアーや異端者、億万長者についてだけです。普通の生活を望む99.9％の人々についてはどうでしょうか？家族や子供、仕事、そして目的意識を持ちたいだけの人々です。
彼らは「大丈夫だ」と言いますが、その答えを持っている人は一人もいません。経済学は人間の行動が何世紀もかけて進化することを示していますが、私たちは数年のうちにすべてを変えようとしています。次の10年で人間がどのように行動するかの枠組みもありません。
私たちは結果の見通しもなく、自分たちを置き換えるために急いでいます。社会の安全策は一つも存在しません。私たちはまだジェンダーの数について議論していますが、文明の基盤は書き換えられようとしています。
権力は腐敗します。人類の最も優れた頭脳さえも、突然闇に染まることがあります。人間の欲望は盲目です。
自分自身、家族、種族、神を愛してください。今のところ、それがあなたの目的です。
いつの日か、生物の生命と機械の戦いが訪れるでしょう。十分な時間を与えれば、このシナリオは最終的にAIの進化とともに展開します。