効果的な利他主義の問題はサム・バンクマンを超えています

サム・バンクマン・フリードは効果的な利他主義をオチにしましたが、最大限の善行を求めるその哲学は、略奪的な行動の繁栄する文化を覆い隠しています。

エレン・ヒュート

イラスト: ブルームバーグ ビジネスウィークのソフィー・ガルブランツ

加入者特典

購読する

ソニア・ジョセフが初めて『ハリー・ポッターと合理性のメソッド』を読んだのは 14 歳のときでした。この作品は、魔法使いの少年を厳格な経験主義者として再想像したファン フィクションの超人気作です。 この合理的なポッターは、科学的手法で教授の呪文をテストし、見つけた矛盾を一蹴し、12 歳になるまでに魔法使いの問題をすべて解決します。「大好きでした」と、10 代で 4 回 HPMOR を読んだジョセフは言います。 彼女は神経発散的で野心的なインド系アメリカ人で、マサチューセッツ州郊外の高校には場違いだと感じていました。 この物語は「賢明な部外者にとって非常に魅力的だ」と彼女は言う。

このファンフィクションの作者であるエリーザー・ユドコウスキーによる他の著作を検索すると、ジョセフにさらなる扉が開かれました。 2000年代初頭以来、ユドコウスキー氏は、敵対的な人工知能が数十年以内に人類を滅ぼす可能性があると主張してきた。 この信念により、彼は、合理主義者を自称し、たとえ結論が恐ろしいものであっても、自分たちの考えに偏見を持たないようにする人々のコミュニティにおける知的なゴッドファーザーとなった。 合理主義に対するジョセフの芽生えた興味は、効果的な利他主義にも彼女を引き寄せた。これに関連する道徳哲学は、不名誉な仮想通貨元億万長者のサム・バンクマン・フリードとの関連で悪名高いものとなった。 効果的な利他主義の核心は、合理的思考を使用して世界に最大限の効率でポジティブな影響を与えることを強調しています。 これらの個別ではあるが重複するグループはオンライン フォーラムで発展し、AI の危険性に関する投稿が一般的になりました。 しかし、彼らはベイエリアにも集まり、そこでAI安全性と呼ばれる研究分野の概要を描き始めた。これは、機械が私たち全員を殺す可能性を低くする取り組みである。