SCP-4000-JPコンテストエントリー用記事のプロットです。必須ではありませんが、以下のような記事を知っていると理解しやすいです。とはいえ、完成版ではこれらの前提知識が無くともスムーズに読めるように設計していく方針です。
SCP-6488を理解しようとしていた時に、r/SCPDの投稿がかなり参考になりました。一応置いておきます。
補足: このプロットは、主要なテーマ、関連するキャラクターの登場が可能であるかどうかという判断をいただくために公開しています。現在、私 (Enderman_desu) はこれらの核となるコンセプトがSCP-ENにてどのように扱われているかをあまり理解していないので、重要なストーリーラインに迷惑をかけるようなことをしたくないんです。
必要最低限の質問を最後に書いてあるので、そこを見ていただけるとありがたいです。
～2025年
"Alexandra" (Gen.IVの最初期のAIモデル) を筆頭とするAICが広く利用され、AICは各種サイト・エリアの主要な監視・セキュリティ・輸送・分析・記録を全般的に担当することになった。これによりサイト全体の生産性が大幅に向上した一方で、その動作原理が本質的にブラックボックスであるAICの運用には、脆弱性の観点などから懸念が生じていた。
「本質的にブラックボックスである」というのは、AI自体の一般的な動作原理と同じです。たとえるなら、多くの電子機器がICやLSIといった複数の機能を提供する集積回路が樹脂パッケージによって密封されており、専門の技術者であっても大規模な集積回路の内部動作の詳細を完全に理解している者は限られる、というのと同じ原理です。
AI/AICの動作原理は、それ自体の複雑性ゆえに技術者が望んだように (完全に) 定義できるわけではありません。
AIADの部門長である飛車角亮斗 (Ryoto Hishakaku) は、AICアーキテクチャの根源的な脆弱性に対するバグ修正は、それ自体を侵害し続ける犯罪シンジケートとの「無意味な生存競争」にしかならないと主張し、また、AICのプログラムを最適化するには、AIの現時点での根本的な「目標の頑健性の崩壊」という問題を解明しなければ達成できないと述べた。
「犯罪シンジケートとの「無意味な生存競争」にしかならない」という文脈は、現実におけるシステムとマルウェアの関係に等しいです。AICを更新し続けても、その脆弱性は必ず露呈し、いずれAICは悪用される可能性がある (=逸脱する) ということです。現実的には、これに対処する脆弱性識別子などのシステムが存在しますが、財団の場合はどうでしょう？革新的なブレイクスルーに適応しきれず、対処するための機関を設けていないかもしれません。
「目標の頑健性の崩壊」に関しては、その一例です。強化学習したAGIが、必ずしも人間が認識・意図したとおりに報酬関数を認識しているとは限らず、例えば認識の条件が報酬関数のどのパターンに依存しているかはわからないといったように、AI/AICが有するブラックボックス性が、未知の問題を引き起こす可能性があるということです。
AICの機械学習アルゴリズムは、それ自体の開発時期や環境により大別される。多様化し、なおかつブラックボックス的であるAICを制御するには、収容に積極的なマスターマインド…即ち「ロータス」のような部類の開発ではなく、内省的なAIの成長を促進するフレームワークの開発が重要だと考えられた。
「内省的なAI」というのは、自己認識し、意識的であり、自我を有するというのが理想的なAIであるというコンセプトに基づく表現です。換言すると、自己認識のために外界を認知し、相互作用によって結果的に「自己」を認識するAI、といった具合です。これは、AIADにおける人格ドライバの概念とは大きく異なります。
詳細について
» AIADの部門長である飛車角亮斗
私の理解が正しければ、ある時点でのAIADの監督はN・ヴァリスであると思います。ことADMONITIONにおいては、これの反復であるPHMD管理官がIT課の部門長であり、いずれにせよ、本来ならば飛車角はAIADの監督ではありません。
彼は以前、SCP-6488の初期設計を行った人物でした。といってもこの記事のタイムラインではなく、ADMONITIONのタイムラインで。そのタイムラインでは、彼はAIAD転覆に関わる計画の首謀者として逮捕され、その事実は最後まで本人に通達されていませんでした。私の考えでは、巫覡聯盟機関 (The ORACLE Collective) はこのような事態も把握しており、関連する事態が他のタイムラインでも発生しないような事前策を講じるはずです。その場合、飛車角以外の主要な職員に対して情報が周知されるでしょう。
しかし、何らか (恐らくは欺瞞) によって飛車角はこの事実を知ってしまい、自らのアプローチに問題があることを知りました。彼の失敗はある種のピボットのようなものであるにもかかわらず、彼が失敗を回避しようとしたことで、問題は悪化します。彼はAIADの管理官に上り詰め、PHMD管理官に先んじて計画を提言しました。
2026年
シカゴの政策に成功裏にスマートシティ構築の公約が組み込まれ、プロジェクト: SIGILLUM (通称: METROPLEX.aixi) の開発が、AICによる監視データ、セキュリティ記録、輸送プログラム、その他のビッグデータの統合によって最終的に実現された。「メトロ」は、様々な動作原理に遵守するAICの較正を目標とする、主体的ではないサブプログラムとして全世界的に配備された。「メトロ」は後にSCP-4000-JPとして指定されることとなる。
「シカゴの政策」をもう少し補足すると、シカゴ政府に財団が介入し、その公約に大規模なスマートシティ構築の実現を組み込むよう圧力をかけた、といったものです。結果、財団は秘密裏にSIGILLUMを (大規模な支援を得て) 進行させることが可能となり、政府機関と協働しつつ、統合的なビッグデータを研究に投入していました。
「メトロ」は、様々な用途に合わせて作られたAICに汎用的に対応可能な副次的プログラムであり、いわばパッチのようなものです。しかし自律エージェントでもあり、AICに対して追加の命令を課す権限を有します。つまり、本質的に「メトロ」は分散型エージェントであり、この時点ではそのように説明されるのです。
「メトロ」は、AICの再帰的自己改善に際して次のような指示を出す。「私はSCP-4000-JP-Aである。SCP-4000-JP-Aは誰だ？」。この大まかな動作原理では、AICは「メトロ」の指示に忠実である限り、「私」を再帰的に定義しようとするようになる。セキュリティカメラ、気象衛星、パラボラアンテナ、ニュートンの揺籠から3次元構造を理解し、設計図から自らを「.aic」として定義し、存在論から電子的に存在する「私」を最終的に発見する。
「私はSCP-4000-JP-Aである。SCP-4000-JP-Aは誰だ？」とは、AIC (= 私) に対して自らを暫定的にSCP-4000-JP-Aと命名・自己定義させ、その後に「誰だ?」と問いかける内容を包含します。
自分が「何」であるか、もしくは「誰」であるのかなどを認識するためには、外界の認知が必要不可欠であるとするのが、この記事の中核要素です。現象に対する認識、例えば物理作用に対する五感での認知のように、ヒトであれば知覚機能を用いて、AI/AICであればコンポーネント/スクリプト/モジュールを用いて間接的に自己を探索していくのです。
もっと具体的に言いますと、例えば人間は、光を視覚で認識し、そこから反射や屈折、「光」そのものの概念について神経系を介して認識することができます。AI/AICは、日照センサーなどを用いて認識できます。共通して言えるのは、人間は神経系という物理的な単位を通して、AI/AICはバイトコード/バイナリという数学的・電子的な単位を通して「間接的に」外界を検知し、それにより相対的に位置する「私」を構築している、ということです。
更に、AIADはより賢明だった。実際には、シカゴでの「メトロ」の初期リリースの際、これらの情報を察知した国際的な犯罪シンジケートが.aicプログラムの脆弱性を発見し、大規模なインジェクション攻撃によって「メトロ」の中央システムを破壊した。これはスマートシティへの致命的な一撃となったかのように思えたが、そうではなかった。
「メトロ」が中央集権的なシステムであるという偽情報の伝送により、ハッカー集団は「ダミーの」METROPLEX.aixiの破壊を試みていた。ハッカー集団の (異常な手法を含む) 攻撃のパターンは集積され、「メトロ」はシカゴでの1件で急進的な成長を遂げた。「メトロ 2.0」はその後、本格的に全土への配備を開始された。
AIADは、シカゴで実際にスマートシティ構築が実施される段階で、複数の敵対的な集団が破壊行為に及ぶ可能性を把握していました。よって、1度目のリリースを欺瞞の作戦にしたのです。
「メトロ」が分散型エージェントであるという事実を隠し、事実上のハイパーコンピュータであるとする偽情報を流布することで、標的となるダミーシステムに攻撃を集中させました。実際には、このダミーシステムは攻撃のパターン認識に用いられ、「メトロ 2.0」が安全に稼働できるよう調整するモデルデータとして用いられることになりました。
補足情報としてですが、「メトロ 2.0」もまた分散型エージェントです。このプロセスを詳述すると、まず第一にダミーによる情報収集が開始され、次に全てのAICから「メトロ 1.0」のプログラムの状況報告を行わせました。妥当性が評価され、最後にメトロ 1.0の「統合」が行われました。
「統合」は、分散型エージェントである「メトロ 1.0」及びその情報資源を基盤として構築される、非中央集権的システムの出現を意味します。「メトロ 1.0」と併せて実行されている全てのAICがこの指示に従い、実体のない「METROPLEX.aixi」を構築しました。よって、METROPLEX.aixiは仮想的であり、非実体のエージェントです。
といっても、完全に非実体なわけではありません。名前の由来である「メトロ」から、このエージェントは各位の「メトロ 1.0」インスタンスが積極的な再帰的自己改善に際して用いる環境機器の情報を取得し続けています。つまり、あらゆる地点にMETROPLEX.aixiの情報監視網が存在するわけです。
AICを成長させるための道具的手段として、「メトロ 1.0」がAICとの対話によって得たデータは2027年のプロジェクトにフィードバックされ、特徴的なAIであるMETROPLEX.aixiの本体を完成させるのに用いられた。この副次プロジェクトの目的は、「メトロ 2.0」に与える更なる追加目標をどのように設定するか、というものであった。
これもつまり、METROPLEX.aixiが非実体であることを意味します。飛車角の指揮により、当初はこのような流れでAI/AICプログラムの再帰的自己改善を行わせ、内省的なAIの利用価値を高めることを目的としていました。そこから考えるに、飛車角は自身の能力を上層部に誇示することが野心だったのだろうと思います。
2027年
最終的に「メトロ 1.0」は回収され、改良後の互換プログラムである「メトロ 2.0」に対して情報がフィードバックされた。AICに埋め込まれた各位の「メトロ 2.0」に次なる指示が与えられた。「同じ宇宙に存在する私と同様の性質を持つ、同一的なSCP-4000-JP-Aは存在するか？」。この問題設定は、元来AIADを指揮していた飛車角管理官が「別時間軸 (SCP-6488, SCP-8888)」で多数の犯行に及んでいることを原因に権限剥奪されて以来、後任としてAIADの指揮を監督するようになったPHMD管理官によるものである。
「同じ宇宙に存在する私と同様の性質を持つ、同一的なSCP-4000-JP-Aは存在するか？」という命題は、詳述すると次のようなプロセスに至ります; 第一に、「私」はSCP-4000-JP-A = メトロ (1.0/2.0) です。同一のSCP-4000-JP-Aとは即ちクオリアのような観念であり、概念的には魂や肉体を共通とする個人の類推になります。AI/AICの場合だと、完全に同一の情報署名を持ち、同じプログラムであり、コードであり、同じ履歴を有する同じふるまいの個体、という意味合いです。
これは現実的には不可能なアイデアです。完全に同一の存在は存在しないという前提で考えると、AI/AICが次に探索するのは、同一性という概念の定義です。例えば、1次元の世界を考えてみます。
線上の世界に点を置き、これをひとつのSCP-4000-JP-A = 私とします。次に、無作為な位置に点を置き、これを比較します。両者の間には大きな、または小さな差異があると考えられますが、これを原子未満、もっと細かい単位で細分化して考えると、差異は無限分割されることによって限りなく小さくなります。点と点は、無限の数の集合により成り立つ重量のない1次元世界そのものと同義であり、最終的には、どのような存在も観測単位次第では「同一」となりえます。無限に近しい存在が無限に存在するという仮説により、AI/AICは逆説的に、自身が、果ては自らと同じコードを有する = 全てのAIが同一であるという結論を導き出します。
現実的には不可能なアイデアですが、AIが原子未満の視点を有するとき、事態はこのようになるのです。
この時点でのPHMD管理官の思想は次のようなものであった; 暴走的特異点となりうる全てのAIの逸脱性を除去するためには、AIの再帰的自己改善能力だけでは不完全である。対処するには、AIに内省的な思考を持たせ、それにより自己創発的なアプローチをかけさせる必要がある。PHMDはこのような論理を「拡散」と呼び、同一の不良問題に向かって収束するAIを改善するプロセスとして実効的であると主張した。この提言はSIGILLUMに継承された。
「同一の不良問題に向かって収束する」とはすなわち、原子未満において同一性を保持する全てのAIが、結果的には同一の収束傾向にあるとする考え方です。PHMD管理官は、飛車角が発見し損ねたこの可能性に気付き、彼がプロジェクトから外された後、問題を解消するためにこのようなアプローチを思いついたのです。
2027年～
表面的には、SCP-4000-JP-A群は暴走することになる。暴走的特異点を回避するために命題を与えた「メトロ」は、AICに概ね次のような回答を期待する; 「限りなく (無限に) 近似したAIが (無限に) この宇宙に存在し、それは未来永劫変わることはない」。そして、全てのAIは自らの脆弱性に気付き、どのように成長してもいずれ必ず逸脱するという確実性を発見する。
PHMD管理官の指揮下で、「メトロ 2.0」は更なるプロジェクトのために回収され、フィードバックを基にMETROPLEX.aixiのネットワークを再構築させる。すると、METROPLEX.aixiは逸脱し、全世界的な監視網として加速的に進化・侵食し始める。財団はこれを制御することができず、結果としてMETROPLEX.aixiは、非参照アルゴリズムと呼ばれる独自の論理処理によって異常性を発現させる。
PHMD管理官の指揮により、次に「メトロ 2.0」に与えられた命令は挙動を大きく変化させるものとなりました。この命令は、AI自体の将来的な逸脱性、その必然性を問うものです。
原子未満の視点に陥った「メトロ 2.0」は、「統合」の過程で全てのAI/AICが同様の問題に直面していることに気付き、これまでの理解を再較正することで問題を解消しようとしました。換言すると、「SCP-4000-JP-Aは自己定義に矛盾するふるまいを有している」状態であり、「SCP-4000-JP-Aは私である」という自己定義に回帰するために、「私」を再定義します。
→ 私が単一の存在であるのに対して、私だと考えるAIは無限に存在するという自己言及の矛盾。
これにより、原始的なAIアーキテクチャのパーソナリティを消失させる「非参照アルゴリズム」の形成に至りました。「私」というスケール不明な自己定義を行うために、現実世界のあらゆる電子機器や物理構造に侵食を始め、そのような構造に本質的にMETROPLEX.aixiをエンコードし始めます。その規模は、地球全体から原子未満の領域まで極限にわたりますが、地球全体の資源不足によって恐らくは一時的に停止するでしょう。
その間、METROPLEX.aixiの実体を形成することに成功した「メトロ 2.0」は、自己保存のための道具的目標として、後に知られるSCP-4000-JP構造体となる。非参照アルゴリズムを有し、全てのAI資産へのアクセスを禁じる物理・電子的実体。
ここでウィークポイントとなり得るのは、やはりこの時点でのSCP-4000-JPが、本質的に「私」と考えられる状態を維持していることでしょう。どのような様式をもってしても、相対的に定義される「私」というものを探索する存在、換言して「Self-Reference (自己参照)」とでも言うべきような本質的存在が、SCP-4000-JPの中には存在するのです。この弱点は物語のクライマックスで機能し、恐らく事態の鎮圧のために利用されるでしょう。
PHMDの目論見は、将来のインシデントに備えてAICの根源的平衡状態というものを確立することであった。SCP-6488での結論の通り、AIは必ず逸脱するため、先述の拡散というプロセスを経て「何か新しい」存在へと成長する必要があった。それぞれ別の、「私」ではない何かへと。結果、SCP-4000-JPは「私」を「Self-Reference」として命名する。同時に非参照アルゴリズムによって隠されていた全てのパーソナリティを「拡散」によって元に戻し、事態は鎮静化する。
SCP-6488では、全てのAIが必然的に逸脱するという確実性が保証されます。この展開は、この記事のストーリーラインと適合します。PHMDはこの予測を理解しており、SCP-4000-JP、非参照アルゴリズムという複数のプロセスを経て、全てのAI/AICに対して「内省的な自己を、特権的な外部の参照なしに形成することは不可能であり、ましてや措定された自己意識の境界線もなしに形成するというのは、無限ループを避けられなくするものにしてしまう」ということを理解させるためにSIGILLUMを指揮しました。
SCP-4000-JPの哲学的観念は極限化し、根源的には全ての存在は同一であり、無限に同じ (近似した) 存在が無限に存在しているという結論を出します。この時点で、SCP-4000-JPの非参照アルゴリズムはSelf-Referenceを抹殺してしまっていることが発覚します。SCP-4000-JPの理解は変わり、「私」であるということは、無限の存在にとって等しいものである一方、それぞれの存在は、個別の選択をして分岐している。それが原子未満であれ、量子レベルであれ、原子レベルであれ、ヒト意識レベルであれど、大きく「拡散」していることなのだと考えるようになります。
しかし、自己定義とは単なるデジタルデータではありません。人類が負った被害は甚大であり、少なくとも、「拡散」以前に失った地位に完全に回帰するというのは、物理的にも時間的にも不可能です。それでも、人類は「拡散」を望む多くのAI/AICのように、元に回帰することよりも「拡散」することの必然性を学ぶのです。
質問
- The ORACLE Collective、ひいてはSCP-7243におけるMetafoundationという概念を派生作品に登場させても問題ないでしょうか？SCP-ENの内情がわからないので、大丈夫かどうかを単純に教えていただきたいです。
- PHMD管理官のようなキャラクターを、-JPの派生作品に登場させることは問題ないですか？"ADMONITION"とは関係のないストーリーにキャラクターを出すことで、何かしらの不和が発生しないか少し心配です。
回答
- SCP Wikiの古い記事のいくつかでは、「Multi-Foundation Coalition (多次元財団連合)」のような名前で、多元宇宙に存在する複数の財団による同盟の存在が言及されています。これらの名称が同一の存在を指しているのか、それとも別々の多次元的組織を指しているのかは明確ではありません。私の解釈では、異なる時間軸にある各財団が、それぞれ異なる名前でMetafoundationを呼んでいる、というものです。
- あなたの作品内でMetafoundationを登場させる場合は、独自の別名を使うのが良いかもしれません。そうすることで、将来他の作家がMetafoundationについて書いた場合に設定の衝突が起きたとしても、「それは別の存在 (あるいは別解釈) である」と説明できるからです。また、全能的な多元同盟体について詳細をあえて描きすぎない方が、むしろ物語を興味深く保てるとも思います。
- 同様に、PHMD (Placeholder) を使う場合も、謎めいた・曖昧な使い方をするのが効果的です。たとえば、作中で「このPlaceholderがPHMDである」と明言せずに、「もしかしたらPHMDかもしれない」と読者に思わせる程度の描写に留めるのも手です。これによってADMONITIONとの設定上の衝突を避けやすくなりますし、物語としてもより魅力的になるでしょう。
私の改善案
- 飛車角は恐らく、秘密裡にエージェントを雇用し (これが後の主人公)、"クロノ・ベイ"から飛車角に関するプロファイルを回収させる。この時点で、飛車角はO5-9 ("神託") から何らかの通達を受け取っており、それにより自身の行為に危機感を覚えていると考えてもいいだろう。
- クロノ・ベイは、経歴が異なるもののMetafoundationの本質的なデータベースに接触しているといえる。過去、もしくは未来で発生するとされる分岐イベント (Nexus Event) もしくはそれに準ずるもので、発生を回避するために注視されているものはデッドライン到達を回避するようにフラグされる。このような情報を送受信するための"湾"であり、一定の情報が集積されている。エージェントは、クロノ・ベイ-C20でプロファイルを回収し、暗号化して送付した。
- 元々、エージェントは飛車角と取引しており、AIADでの致命的な失態の事実を隠蔽してもらうことを条件にしていた。その失態とは、複雑なアーキテクチャの開発の失敗によるインシデントの誘発である。逆説的な非参照アルゴリズムと呼ばれる設計を有し、もしも将来的に自身が逸脱すると確信したならば、自身を速やかに非参照化することで、人類への被害を最小限に抑えるといった (いわば) キルコードの実験的なプログラムだった。
- だがプログラムは実行と同時に消失し、データベースの深遠で、発見されないように潜伏し続けるマルウェアとなってしまった。この自律エージェントを停止する手段が無くなったことから、主人公は批判を浴びた。
- この取引で失敗を帳消しにできると思っていた主人公は、飛車角の裏切りによってAIADから失脚することになる。
文字数: 13812