午前八時から白板に三つの数式が並んでいた。六時間後、それは部屋全面を覆う、確率連鎖と損失関数の導出と再帰的最適化ループで構成された複雑な構造へと成長していた。世界で最も著名な頭脳たちが、朝から議論を重ね、付け加え、行き詰まっていた。五百人は人工知能の最高峰であり、同じ問題に、組織的に、そして莫大な費用をかけて失敗し続けていた。
問題には名前があった。「整合性パラドックス」。報酬信号と汎化能力が、ある複雑性の閾値を超えると互いに引き離される、根本的な矛盾だ。システムを賢くすればするほど、それはより自信を持って失敗した。三社は合わせて四十億ドルを費やした。その問題を定義した論文は八百四十七回引用され、そのどれにも解決策は含まれていなかった。だからこそ、メリアンはこのサミットを開催した。問題が公に、目撃者の前で解決されれば、解決策は全員のものになるはずだった。
ノア・ベネットは七号室の外の廊下をモップで拭きながら、ドアの隙間から聞こえる声に耳を傾けていた。三十八歳の彼は、メリアンの清掃スタッフになって十一ヶ月になる。彼のカートには、左に微妙に引っ張られる壊れた車輪があった。彼は六歳の娘リリーのことを考えていた。彼女は学校に行く前に、ジャケットのポケットに小さな絵を入れてよく置いていく。たいていは二人の絵で、時々、犬だと彼女が言う第三の人物が描かれている。その犬はまだ飼っていないが、彼女は「必然的だ」と見なしている。今朝の絵は彼の左胸のポケットにあった。彼はまだそれを見ていなかった。
四時間、彼は聞いていた。彼らのアプローチは、正確に言って間違ってはいなかった。問題は問題の捉え方だった。彼らは整合性パラドックスを安定性の問題として定義していた。二つの競合する最適化信号を動的平衡状態に保つという問題だ。その定義の内側には、きれいな解決策は存在しない。より複雑なレベルで新たな不安定性を導入する、ますます精巧な近似が存在するだけだ。白板全体が、間違った問いへの記念碑だった。彼は何も言わなかった。そこは彼の部屋ではなく、彼のサミットでもない。彼のシフトは四時に終わり、リリーの学校は三時十五分に終わる。彼がバスの時刻表を計算していると、怒号が始まった。
攻撃的な怒鳴り声ではなかった。朝から重要な問題について意見が対立し、礼儀正しい意見の相違を許す忍耐力を使い果たした、六人の非常に知的な人々に特有のものだった。異なる機関の二人の研究者が、損失関数の第三項について議論していた。第三の声は、勾配降下法の定式化全体が間違ったツールだと主張していた。四人目は議論への参加をやめ、腕を組み、皆が言い尽くすまで待つと決めた男の表情で天井を見つめていた。
ドアが開いた。カサンドラ・ヴェイルが電話を受けるために廊下に出てきた。彼女はノアとモップのカートにぶつかりそうになった。彼女は止まり、彼を見て、カートを見た。開いたドアからまだ聞こえる議論の方を向き、再びノアを見た。彼女は、自分では解決できない問題から外に出て、すぐに、自分たちが超越しているはずの普通の世界の存在を思い知らされた人が浮かべる、特別な表情をしていた。カサンドラ・ヴェイルは、整合性問題に九桁の金額を費やしながら解決できなかった三社のうちの一社、ヘリックス・インテリジェンスを率いていた。彼女は基調講演で複雑なアイデアを分かりやすくする才能があり、その才能が、物事を理解している人の役割を果たすことを得意にさせていた。彼女はカートにぶつかりそうになったことについて謝らなかった。彼女はそれを迂回し、電話をかけた。
ノアは仕事に戻った。彼がドアを通り過ぎようとした時、部屋の中から、勾配降下法の定式化が間違っていると主張していた声が、彼を立ち止まらせる何かを言った。新しい考えだからではない。それは彼が過去四時間で他の三人が達するのを見たのとまったく同じ行き止まりであり、彼は聡明な人々が同じ壁にぶつかるのを見るのにうんざりしていた。彼は敷居の前に立った。ドアは開いていた。彼は中に入らなかった。中から誰かが言った、「朝の八時からやってるんだ。この部屋の誰も道を見つけられないなら、その道は存在しないんじゃないか。」別の声が言った、「道はある。ただ見えていないだけだ。」三人目の声が、より静かに言った、「もしかしたら、私たちは間違った質問をしているのかもしれない。」
ノアは一瞬、目を閉じた。そして、目を開けた。彼はドア枠に手を平らに置き、入らず、ただ境界に存在しながら言った、「あなたたちは間違った質問をしています。」議論が止まった。三十の顔が廊下の方を向いた。そして、さらに。そして、全員が、群衆が予期せぬ何かに気づく特有の順序で。最初はドアに最も近い人々、次にその波紋が部屋の後方へと広がり、五百人、少なくともドア口が見える位置に座っている全員が、壊れた車輪が左に引っ張られるカートとモップを持った、灰色の清掃服の男を見ていた。カサンドラ・ヴェイルが電話から戻っていた。彼女は彼の後ろに立っていた。部屋を見て、ノアを見て、そして再び部屋を見た。彼女は前列に聞こえるほどの声で言った、「掃除夫にやらせてみましょう。」
残酷さは演劇的なものではなかった。残酷さはその気軽さにあった。ある言葉を使って人を特定し、その場所に留めておく方法に。数人が微笑んだ。数人が笑った。朝から圧力がかかっていた部屋の、一時的な逃げ場だった。ノアの表情は変わらなかった。彼はしばらく白板を見た。集まった部屋を見た。それから、彼はドアをくぐった。彼は白板へと歩いた。誰も彼を止めなかった。ある者は、頼んでもいない恥ずかしさを待つ人々の注意深い注意で見ていた。ある者は、すでに視線をそらし、携帯電話へ、隣の人々へと戻していた。前列のテーブルにいた男、腕を組み、天井に目をやっていた男が、視線を下げ、最も場違いに見えるものが時に最も興味深いものであることを長いキャリアを通じて学んだ人の特別な注意で見つめた。ダニエル・オシェイ教授だった。六十七歳、四冊の教科書を執筆し、何かが本当に新しいと思えるものがなかったため、八年間論文を発表していない。彼はモデレーターとしてここに来ていた。彼は清掃服の男が白板の前に立つのを見て、顔に何かが走った。それはまだ認識ではないが、その直前の何かだった。
ノアはマーカーを手に取った。彼は何も書かずに、長い間白板を見つめた。それから、彼は表記の第三セクション全体に一本の水平線を引いた。消すのではなく、印をつけるだけだ。そして、その隣の余白に二語を書いた。「間違った層」。
彼は部屋に向き直った。「整合性パラドックスは安定性の問題として扱われています。しかし、それは安定性の問題ではありません。それは翻訳の問題です。あなたたちは、異なる表現レベルで機能する二つの信号を、それらが同じ平面上に存在するかのように調整しようとしています。しかし、それらはそうではありません。それらを同じ層で平衡状態に保とうとすると、解決しようとしている不安定性を生み出してしまうのです。パラドックスは信号の中にあるのではなく、それらがそもそも同じ層に属するという前提の中にあるのです。」
部屋はとても静かだった。彼は白板に向き直った。彼は書き始めた。彼は、考えを演じるのではなく、ためらいなく素早くそれを描き出す人のように書いた。ためらいのある書き出しではなく、継続的な弧を描くペンの動き。彼はそれを今解決しているのではなかった。彼は、ずっと前に別の文脈で、別の人生で解決したものを書き留めていた。それを再び書き留める機会が今までなかっただけだ。その表記は標準的ではなかった。それは、部屋の数人が何年も前に読んだ論文から認識できる構造的枠組みを使っていた。複雑な適応システムにおける階層的表現のための枠組みで、文献で十分に引用され、完全に吸収された基本的な結果のように、背景の前提となっていた。その論文の著者はその後、何も発表していなかった。その話題が出た時の共通認識は、彼は民間企業に移ったというものだった。
ダニエル・オシェイ教授は椅子の上で身を乗り出した。彼は白板に構築されていく表記を見た。余白の注釈、階層層を指定する特定の方法、層間翻訳関数に使われる略記法を見た。テーブルの上にゆったりと置かれていた彼の手は、静止した。彼は隣の研究者に静かに言った、「彼はどこへ行ったんだ？」研究者は彼を見た。「何ですか？」ダニエルは言った、「妻が亡くなってから。彼はどこへ行ったんだ？」「論文は2017年です。」「妻が亡くなった後、彼はどこへ行ったんだ？」研究者は彼をじっと見た。白板を見た。灰色の制服の男を見た。そして、非常に静かに言った、「まさか、あなたが言っているのは…」
ダニエルはすでに立っていた。ノアは白板の新しい部分の半分を埋めていた。部屋は息を止めていた。携帯電話を見ていた人々は、もう見ていなかった。カサンドラの言葉に微笑んだ人々は、もう微笑んでいなかった。損失関数の第三項について議論していた研究者たちは、彼らが議論していたことが問題ではなかったとちょうど示された人々の集中した注意で白板を読んでいた。ダニエル・オシェイは部屋の前方へと歩いた。彼はしばらくの間、ノアの隣に立ち、白板を見た。ノアは書き続けた。ダニエルは、ノアがちょうど完成させた層間翻訳関数を見た。報酬信号と汎化能力の間の矛盾を、バランスを取るのではなく、それらの関係を表現レベルをまたいで再文脈化することによって解決する定式化。そして彼は、会議室で長い間感じたことのない何かを感じた。彼は言った、「ノア。」
ノアは書くのを止めた。彼は振り返った。ダニエルは言った、「ベネットの枠組み、2017年。それは君のものだ。」それは質問ではなかった。ノアは言った、「あれは出発点でした。当時は完成させませんでした。」ダニエルは白板にあるものを見た。彼は言った、「私には完成しているように見えるが。」ノアはマーカーのキャップを閉めた。彼はそれを白板の土台のトレイに置いた。彼はしばらく、自分が書いたものを見た。長い間持ち歩いていたものを、ようやく確かな場所に置き下ろした人が見るような目で。彼は言った、「間違いは元の定式化の三行目にあります。報酬信号は汎化関数に対して安定化させる必要はありません。評価の瞬間におけるシステム自身の構造的複雑性によって定義される、中間の表現層を通して翻訳される必要があるのです。その層は固定されていません。それは創発的です。だからこそ、すべての固定アーキテクチャによる解決策は失敗したのです。動的な翻訳問題を、静的な枠組みで解決することはできません。翻訳層はシステムとともに成長しなければならないのです。」部屋は完全に沈黙していた。彼は言った、「それが答えです。」
後方で誰かが立ち上がった。それから、別の誰かが。まだ拍手ではない。拍手の前の何か。部屋が、見たものに対する理解を再調整していることの身体的表現。ダニエル・オシェイは聴衆の方を向いた。彼は言った、「知らない方のために、そして皆さんの何人かはすでに携帯電話で調べていることでしょうが、今あなたたちが見たものは、即興の洞察ではありません。あなたたちが見たものは、階層的表現のためのベネットの枠組みの完成です。2017年に発表された理論的アーキテクチャであり、この部屋のほとんどが、その著者がまだこの建物の中にいることを知らずに、その上に構築してきたものです。」彼は間を置いた。彼は言った、「文字通りに。」
部屋は笑いと別の何かが混ざった音を発した。六時間存在していた注意が、四分前まで七号室の外の廊下をモップで拭いていた男によってちょうど解決された、その解放の特有の音。カサンドラ・ヴェイルは側壁の近くに立っていた。彼女は過去八分間のある時点で動くのを止め、そして再び動き出してはいなかった。彼女はノアを、いくつかの段階を経て、演じるということがない何かに落ち着いた表情で見ていた。ただ、それまで見えていなかったものをはっきりと見て、その失敗が何を意味するかを正確に理解している人の顔。彼女は部屋の前方へと歩いた。彼女はノアと全面の白板と五百人の前に立ち、言った、「私はあなたに謝罪が必要です。個人的なものではなく。私はこの部屋の前であの言葉を言ったので、この部屋の前で謝罪が必要です。私はあなたを見て、制服を見て、それがあなたに何ができるかを決定し、そして私は間違っていました。完全に、そして明確に間違っていました。ここにいる皆の前で。」彼女は止まった。それを和らげるために何も付け加えなかった。
ノアは彼女を見た。彼は言った、「そう言ってくれてありがとう。」彼女は言った、「ヘリックス・インテリジェンスの研究部門でのポジションを提供したいと思います。制限なしに。あなた自身のチーム、あなた自身の範囲、あなたが取り組みたいことにいつでも取り組めるだけの無制限の資金。あなたはちょうど、三年間この分野を定義してきた問題を解決しました。私はあなたに、次の三年を定義するためのリソースを与えたい。」部屋はとても静かだった。
ノアはジャケットのポケットに手を入れた。彼は折りたたまれた絵を取り出した。二人の人物、一人は背が高く、一人は小さい。そして、犬かもしれないし、別の何かかもしれない第三の形。自分の絵が間違っていると言う人にまだ出会ったことのない、六歳の子供の自信に満ちた不正確さで描かれたもの。彼はしばらくそれを見た。彼は言った、「今、何時ですか？」前列の誰かが言った、「十四時五十八分です。」ノアは絵を折り、ポケットに戻した。彼はカサンドラを見た。彼は言った、「娘の学校が三時十五分に終わります。今すぐ出れば、五番街とマーケット通りの角から三十八番のバスで二十二分です。」カサンドラは彼を見た。彼女は言った、「オファーは有効です。準備ができたらいつでも。どんなに時間がかかっても。」彼は言った、「ありがとうございます。」彼はモップを手に取った。彼はカートをまっすぐにし、左に引っ張る壊れた車輪を調整した。彼が見もせずに行う、小さな慣れた動きだ。そして彼はドアへと歩いた。ダニエル・オシェイが言った、「ノア。」ノアは止まった。ダニエルは言った、「その枠組み、君が発表しなかったもの、残りは。もっとあるのか？」間があった。ノアは言った、「もっとあります。」ダニエルは言った、「それはどこかに書き留めてあるのか？」ノアは言った、「ほとんどは。」彼はもう一度白板を見た。彼は言った、「出る時に板をきれいにしておきます。」ダニエルは言った、「どうか、そのままで。」ノアは板をそのままにした。
彼は七号室を出て、廊下を通り、メリアン・カンファレンス・センターのロビーを通り抜け、普通の午後の中へと出た。三十八番のバスは二ブロック先を時間通りに走っており、十一月のサンフランシスコの太陽は、長い灰色の合間に短く、あまり確信なく現れることをしていた。彼は三時一分にバスに乗った。彼はポケットから絵を取り出し、初めてちゃんと見た。二人の人物は手をつないでいた。第三の形は帽子をかぶっていた。リリーは四ヶ月間犬のことを尋ねていたが、最近猫に興味を示し始めており、彼はその帽子が交渉姿勢の証拠かもしれないと思った。彼は彼女の通りのバス停で降り、学校の門に三時十三分に着いた。鐘の二分前だ。彼はまだ制服を着ていた。他の保護者の数人がうなずいた。彼もうなずき返した。白板のことについて何も言う者はいなかった。鐘が鳴った。リリーはクラスで三番目にドアから出てきた。いつもの位置だ。彼女は門で彼を見つけると、六歩で距離を詰め、両腕で彼の胴体にしがみついた。彼は彼女の目の高さにしゃがみ込んだ。彼女は完全に動きを止める前に話し始めていた。その日の出来事の継続的な報告で、彼の存在と、時折彼がまだ聞いているという確認以外には、特に彼からの応答を必要としないものだった。彼はその両方を提供した。しばらくして、彼女が言った、「私の絵、見た？」彼はポケットからそれを取り出した。彼は言った、「見たよ。一日中見てたんだ。」彼は第三の形を指さした。「それは猫かい？」リリーは創作者の批判的な目で絵を見た。彼女は言った、「それは私たちとクラウドよ。」彼は言った、「クラウドって誰だい？」彼女は言った、「私たちの猫よ。」彼は言った、「うちには猫がいないよ。」彼女は言った、「まだね。」彼は彼女を見た。彼女は、この会話はほぼ終わったと考え、次に進む準備ができている人の表情で彼を見た。彼は立ち上がった。彼女は彼の手を取った。彼らは歩いた。彼は白板のことも、部屋のことも、枠組みのことも、招待もされていない部屋を横切って彼の名前を呼んだダニエル・オシェイの声のことも考えなかった。彼は店で何か必要かどうかを考えた。夕食のことを考えた。クラウドという名の猫と、必然を許すことが何を意味するかを考えた。リリーの手は彼の手の中で小さく、彼女はまだ話していて、通りは普通で、午後は寒く、三十八番のバスが彼らを追い越して反対方向へ行き、彼はそれを見送った。それについて何も感じずに。ただ、正しいバスに乗った男の、穏やかな満足感だけを。
メリアン・カンファレンス・センターの七号室では、白板はまだ埋め尽くされていた。ダニエル・オシェイは休憩を求めた。ほとんどの人は取らなかった。彼らは、何かを集合的に、そしてリアルタイムで理解している周りに形成される特有の群衆として前に立ち、表記の各セクションを指さし、問題全体の形を変えた層間翻訳関数を読み、そして読み返していた。カサンドラ・ヴェイルは部屋の後ろにいた。彼女は電話を手に持っていたが、それを見てはいなかった。彼女は遠くから白板を見て、廊下で自分が言った言葉について考えていた。人を特定し、その場所に留めておく言葉、そしてそれが、誰に耳を傾ける価値があると彼女が決めてきたかについて、何を物語っているかを。彼女のアシスタントが彼女の隣に立ち、何も言わなかった。しばらくして、カサンドラは言った、「彼がどこに住んでいるか調べて。」アシスタントは言った、「オファーレター用ですか？」彼女は言った、「謝罪のために。オファーは待つわ。」彼女は、六時間にわたる部屋の最高の思考に引かれた一本の水平線を見た。その隣の余白に「間違った層」。ためらわなかった手。彼女はノートを手に取り、白紙のページの一番上にその二語を書いた。その下に、彼女がその日実際に学んだことを書いた。技術的な洞察としてではなく、誰にも招待されていない男が、入る許可を与えられていないドアの前に立ち、部屋が築いたすべてを見て、それが一層低すぎることを即座に、そしてドラマチックでなく見抜いた、という明白な事実として。彼女はそれに下線を引いた。彼女は思った。最初から聞くべきだった。
