本記事は2021年度アニメライター育成講座(現：アニメ業界ライティング講座)の受講生が修了課題として執筆したものです。
「AIがある宇宙での暮らし」を描いた、磯光雄監督のオリジナルアニメ『地球外少年少女』。2022年に公開された同作について、機械学習・自然言語処理の研究者である筆者が感じた魅力の源を探る、というコンセプトで、本稿は執筆されました。
記事の執筆から1年あまりが過ぎ、ChatGPT に代表される生成系AI・大規模言語モデルが、連日のように世間を賑わせています。
本稿は2022年3月の講座修了時に提出されたものであり（その後、同年4月に調整を加えています）、2023年9月現在から見たとき、記事内の議論は前時代的な内容となってしまいました。
しかし、もちろんのこと、『地球外少年少女』という作品の魅力は些かも損なわれてはいません。
本稿における「過去」の議論については、ご笑覧をいただきつつ、同作で描かれる「未来」に想いを馳せていただければ、駆け出しアニメライターとしては望外の喜びです。
※2023年現在からすれば、記事中の記述は古いものとなりますが、修了課題を掲載するという趣旨を鑑み、現時点での情報などを踏まえた改稿は基本的に行っておりません。
執筆：霧友 正規
編集：ドキドーキ！編集部
# 考証で楽しむ『地球外少年少女』
人間を超える知性を得たAIは、「今すぐ人類の36.79％を殺処分するべきだ」という予言を遺した——。
2007年の『電脳コイル』で「ARがある暮らし」を描いてから、15年。磯光雄監督のオリジナルアニメ『地球外少年少女』が、Netflix と劇場で公開された。Netflix では全６話が世界同時配信され、劇場ではこれを３話ずつに分けた前編と後編が、それぞれ2022年1月28日、2月11日より2週間限定で上映。「AIがある宇宙での暮らし」を「未来予測」した本作には、「未来からは逃れられない。」というキャッチコピーが付けられている。
さて、『地球外少年少女』の作中においては、「セブンポエム」と呼ばれる「未来予測」が作中で重要な位置を占める。本稿では、磯監督の「未来予測」である『地球外少年少女』という作品そのものについて、機械学習・自然言語処理の研究者である筆者が感じた魅力の源を探っていきたい。
『地球外少年少女』の未来は、私たちにとって「逃れられない」ものなのだろうか？
原作・脚本も兼ねる磯監督が描くのは、2045年の、現在と地続きの未来。宇宙が身近になり、けれど身近過ぎはしない、そんな時代を表現するために、「YouTuber とコンビニエンスストア」を登場させたことが、劇場パンフレットで語られている。前半３話では宇宙ステーションの機能不全に巻き込まれた少年少女たちのサバイバルが中心となり、後半３話ではAIと人間との関係性、知性とは何かについての鋭い問い掛けが展開される。
前後半で話がバラバラになっているように思われるかもしれない。しかし、前編には伏線が緻密に張られており、これらが後編へと繋がっていく。後編においても、「宇宙ステーション」という特殊環境を活かした、目を離せないアクションシーンが展開される。SF設定を深掘りしたい視聴者には、尽きることない議題を提供してくれるだろうし、考証にあまり興味がない視聴者にも、難しくなりがちなところを「難しい」と感じさせずに楽しませる、ストーリーテリングの妙、エンターテインメントとしての強さがある。
『地球外少年少女』の多様な楽しみ方の中で、本稿ではそのSF考証、特にAIの設定に焦点を当て、研究者の視点からその魅力について述べたい。作中の「2045年」のAIたちは、2022年現在のAI技術を基に検討したとき、いったいどんな存在なのだろうか。『地球外少年少女』のSF設定は、リアリティを感じさせながら、同時に「未来」への示唆も感じさせるもので、まさに「現実と地続きの未来」を描いている。この作品に大きな刺激を受ける研究者は、筆者だけではないはずだ。
なお、筆者が主な専門は、いわゆるAIの中でも特に「自然言語処理」と呼ばれる分野であり、特にこの分野に関連した知識を基にした議論になることをお断りしておく。
# 『地球外少年少女』あらすじ
まず、同作のあらすじを確認しておきたい。
主人公は、人類初の「月で生まれた子供たち」のひとり、登矢。宇宙ステーション「あんしん」から地球への移住を控えてリハビリを行っており、彼を迎えようとしている地球の人々からは人気者になっているが、彼自身は不本意に感じていた。それどころか、彼は「地球人氏ね」[a] と臆面もなく言い放ち、法律を無視してドローンの違法改造を繰り返している。
なぜ、彼は地球人を嫌うのだろうか。
月で産まれた子供は、十五人。このうち十人は、三歳までに死んだ。月面の低重力が、幼児期の性徴に致命的な影響を与えていたのだ。これを防ぐべく、人類史上最高のAI「セブン」によって「インプラント」が開発された。登矢と、彼の幼馴染である少女・心葉は、この「インプラント」を脳に埋め込むことで生き残った、ただ二人の、そして最後の「月で生まれた子供たち」だ。
だが、「セブン」のインプラントには不具合があった。本来の仕様では、第二次性徴期を迎える前に、インプラントは分解されるはずだった。だが、登矢たちの頭の中には、溶けかけのインプラントが残ってしまっていたのだ。不具合を残したままのインプラントにより、二人は命の危険に晒されており、特に心葉は余命幾ばくもない状態となっていた。
登矢が地球人を憎む理由の一つが、ここにある。
AI「セブン」は、向上しすぎた知性で、支離滅裂な予言を繰り返すようになった。「セブン」が設計・制御していた機器が暴走して大きな被害を出したことで、国際連合の後継組織「UN2.1」は「人類を超えた最高の知性」を危険視し、処分を決定。さらに、AIの知性の限界突破「ルナティック」が二度と起こらないよう、厳しい「知能制限」を課すこととなった。
インプラントを作ったのは、「セブン」の知性が最高に達していた当時。その設計思想を理解できる知性は、作中現在、存在しない。登矢がドローンの違法改造を繰り返しているのは、幼馴染の少女を死の未来から救うべく、「セブン」と対等な知性を作り出すためなのだ。
「もし、（地球人が）あの時セブンを殺処分しなければ」——そんな鬱屈した思いを抱える登矢のもとへ、「未成年者宇宙体験キャンペーン」に当選した３人の地球人がやってくるところから、物語は動き始める。
（※ 以降、作品の核心に触れるネタバレを含みます。）
物語の終盤、「セブンポエム」の信奉者たちが生み出した、「セブン」と同等の知性を持つAI「セカンドセブン」が登場する。ルナティックを起こした「セカンドセブン」は、最初の「セブン」同様、「人類の３分の１を減らすことが必要」という結論を出す。しかし、それは、セカンドセブンが「『人類』をフレームの中に持つが、『人間』をフレームに持っていない」ためであったことが分かる。つまり、人類全体をひとつの生命のように捉えており、個々の人間のことを考慮する能力を持っていなかったことが、「人間の数を減らせばよい」という発想に繋がっていたのだ。
筆者は、この「AIが、『人類』と『人間』を理解できるか」が本作の核心にある問いだと考えている。本稿の副題とした「AIのなかに我々はいるのか」は、これを踏まえたものだ。
# 知能の枠組み「フレーム」
『地球外少年少女』には魅力的なSF要素が数多く登場する。宇宙ステーションという舞台そのものが設定の宝庫であるし、筆者は専門分野の関係もあり、やはりAI関連の設定に引きつけられた。
既に失われた、人を超えた知性を獲得したAI「セブン」。登矢の持つドローン「ダッキー」は言語機能が故障しているが、それがゆえの愛嬌を感じさせる。地球の子供が持ち込んだ「ブライト」はUN2.1の制式ドローンで、違法改造の行われている「ダッキー」と敵対するが、少年少女たちを危機から救うべく協調して行動するようになり、やがて「フレーム融合」することになる。
さて、本稿ではこの「フレーム」に注目して、解釈を進めていきたい。
AIに関連して「フレーム」という言葉を使うとき、まず想起されるのは「フレーム問題」だ。人工知能学会の公開している「What’s AI」 [1] によれば、「人工知能研究の最大の難問」であり、「今からしようとしていることに関係のあることがらだけを選び出すことが、実は非常に難しい」というものである。誤解を恐れずに言い換えれば、「AIが過度に心配性になり、何も動作を取れなくなる」ことだ。
例として、スーパーに、りんごを買いに行く時のことを考えてみたい。人間は、そこにあるりんごを手に持ったり見比べたりするが、これは「りんごの中から、良いりんごを選び出す」ための行動であって、「もしかしたら、この中にりんご型の爆弾が紛れ込んでいるのではないか」と心配しているケースは稀だろう。場所が書店で、りんごではなく檸檬だったら、また話は違うかもしれないが。
ともかく、このように、人間には「ありえない」可能性を無意識のうちに排除して、考えるべき対象を絞る能力がある。一方で、AIにこの能力を持たせることは難しい。なぜ、そのスーパーのりんごの中に、りんご型爆弾が存在することは「ありえない」のだろうか。「りんご型爆弾なんてものは存在しない」と教えてしまう手もあるが、それでは、いざ「りんご型爆弾」の存在を考慮すべき局面に立たされたとき、そのAIは無警戒に爆弾を起動させてしまうだろう。
改めて、「フレーム問題」の内容を言い換えてみる。「その時々で考えなくてもよいことを、無意識のうちに排除する能力」をAIに持たせることが難しいというのが、「フレーム問題」だ。
前置きが長くなったが、ノベライズ版の記述（下巻、P124）によれば、『地球外少年少女』における「フレーム」は、「AIが認知できる知能の枠組み」だ。さらに、「AIを学習させるために使われるデータセット」と関連付けて使っており、データセットの中にある要素が入っていることを「フレームに入っている」と表現している。
登矢が地球人に対して暴言を吐いていた理由についても、AIに関するこの用語になぞらえて「地球人という存在が、登矢のフレームに入っていなかったから」だと、劇中で指摘される。そして、登矢だけではなく、「セカンドセブン」のフレームにも、「（個々の）人間」が入っていなかったことが明らかになるのだ。
誰かを、何かを自分の思考の中に置いていること。これが『地球外少年少女』における「フレーム」であり、AIの知能制限とも深く結び付いた、作品の鍵となる設定になっている。さらにこれを「データセット」と結び付けていることが、筆者が『地球外少年少女』において大変興味深く、かつ刺激的だと思ったところの一つだ。
# 「醜さ」をAIに見せるべきか
近年の深層学習ブームの影響で、AIと言ったとき、機械学習、さらには深層学習と同一視される傾向にある。そして、深層学習においては、AIの構造をどう設計するかもさることながら、学習に用いるデータセットの規模や質が非常に大きなウェイトを占めている。いかに大規模なデータセットを用意し、これを強力な計算資源で扱うか。誤解を恐れずに言うならば、現在のAI技術の大きなインパクトは、この点に依存している部分が大きい。
2022年現在のAIにおいては、Transformer [2] と呼ばれる構造を基盤とした「大規模事前学習済みモデル」が重要な位置を占める。[b] BERT [3]やGPT-3 [4]などに代表されるもので、様々なタスクにおいてこれまでのAIの記録を塗り替え、人間の手によるものと見紛うような文章や画像の生成までが可能になってきている。こうした人工知能は、大規模なデータセットで汎用的な「学習済みモデル」を作成したものであり、GPT-3 を具体例にすると、約 5,000億単語にも及ぶデータを学習させている。[c]
学習するデータについて重要なのは、量だけではない。データセットの質に問題がある、たとえば極端な偏りがあった場合に、これを学習に用いたAIが非倫理的な判断を行うようになってしまう問題も知られている。企業の採用活動を支援するために作られたAIが、学習に使われた「10年分の履歴書」のほとんどが男性からのものであったことから、「女性」という言葉を含む履歴書を低く評価するようになってしまった事例が有名だ [5]。AIに学習させるデータをいかにクリーンなものにするか。現在のAI研究、そして社会実装のシーンにおいて、このことは非常に重要な課題になっていると言える。
2022年現在、AIの学習に使うデータセットについては、もともと質の高いものだけを集めたり、何らかの方法でクリーニングを行ったりすることが広く行われている。Google が発表した C4 というデータセットは、Common Crawl という組織がインターネット中から収集し公開しているデータを、クリーンにしたものだ [6]。GPT-3でも、5,000億単語のデータセットを作る際にフィルタリングが行われている。
これに対して、『地球外少年少女』においては、「限られた情報だけを見せるのではなく、すべてを見せてしまおう」という問題提起がなされる。つまり、フィルタリングを一切行わないで学習データに使おうというのだ。この部分が納得感を持った流れになっており、とても印象的に感じられた。
人間を減らそうとする「セカンドセブン」のフレームの中に、「人類」はいるが、「人間」はいない。「セカンドセブン」に「人間」を教えることが、目前に迫った破局を回避する唯一の手段となる。では、どのように「人間」を教えるか。ここに至って、「セカンドセブンをネットに繋ぎ、すべて見せよう」という主張がなされる。「綺麗な部分」だけではなく「醜い部分」もすべて見せて、その上でAIが何を学び取るかを信じようというのだ。
理想論に過ぎる、と思われるかもしれない。実際、キャラクターたちも最初から全員が賛成するわけではない。だが、登矢が、仲間たちに、そして我々視聴者に思い出させてくれるのだ。「すべて見せるのは、セカンドセブンが、世界最高の知性を有しているからだ」と。この匙加減にリアリティを感じ、膝を打つ思いがした。「とにかくすべて見せてしまえば、後はAIがうまく学習してくれる」という、「AI性善説」ではない。あくまで、十分な知性があらかじめ備わっているAIに対しての行動だと理由が提示されるからこそ、「綺麗な部分も、醜い部分も、すべてを見せる」という判断に説得力があるのだ。
# 私たちは、「未来から逃れられない」のか
『地球外少年少女』には、「未来からは逃れられない。」というキャッチコピーが付けられている。劇中では、人類を超えた知性「セブン」の予言「セブンポエム」が登場し、変えることのできない未来について語られる。『地球外少年少女』という作品自体も、「2045年」を描く「未来予測」だといえるが、その未来は私たちにとって「逃れられない」ものなのだろうか？
まず、磯監督には、この映画で描いた「2045年」を、避けられないものと主張する意図はないようだ。劇場公開版 Blu-ray の特製ブックレットにおいて、その意図が語られている。そもそものポリシーとして、「この作品はエンターテインメントだということを忘れないようにしよう」という考えのもと、敢えて「正確ではない表現もいろいろやって」いるという。宇宙の環境を厳密に画にしてしまうと、地球で生きている現代の人間にとっては違和感が強くなり、楽しめなくなってしまう。そうした部分については、「いまの人類には早すぎる」として、敢えて嘘をついたという。このアニメは、2045年の未来を厳密に予測することを意図したものではない。
そのことを踏まえた上で、本稿では、劇中の「AI」のリアリティについて検討してきた。アニメの「画」にする上で、物理法則の嘘が必要となる「宇宙」に比べると、「AI」にはそうした嘘の必然性は薄い。ましてや、本作の時代設定は2045年。レイ・カーツワイル博士が「シンギュラリティ（技術的特異点）」の起きる年だと予見したことで知られており [7]、2022年現在からすれば20年以上先の未来だ。「たった20年」と思われるかもしれない。だが、遡ること10年前、2012年にAlexNetが画像認識のコンテストで圧勝したことが [8]、今に至る深層学習ブームの発端となった。1980年代のネオコグニトロン [9] など連綿と続く研究があって、深層学習が花開いたわけだが、劇的な変化がこの10年の間に起きたことには違いない。（従来型のコンピュータではなく）「量子コンピュータ」が当たり前のように使われているらしき発言をキャラクターたちがしていることから察するに、2022年現在の「AI」とは大きく異なる作り方になっているのだろうし、それを可能にする技術的なブレークスルーが起きていたはずだ。そのブレークスルーがこれから20年の間に「絶対に起きない」とは、私には断言できない。
『地球外少年少女』で描かれた、未来のAI。それは逃れられないものであるかもしれないが、同時に、「待っているだけではやってこない」ものであるのかもしれない。
劇中、宇宙という極限環境でサバイバルすることについて、「このままここで何もせずにいたら死ぬ」ということが語られる。何もしなければ、事態は好転しない。むしろ、どんどん悪くなっていく可能性がある。極限環境でなくとも、これに近いことが言えるのではないかと感じる。
2022年現在、いわゆるAIの技術は急速な発展を続けている。AIの社会実装が期待され、同時に、様々な問題が生じうることも広く知られるようになってきた。データセットの偏りによってAIが差別的な判断を学習してしまったのは、その分かりやすい例だ。過度な期待は避けるべきであるし、同時に、極端な不安を煽るようなことも望ましくない。望むにしろ望まないにしろ、「AI」のない時代に戻ることはできない。それならば、「どうAIと付き合っていくのか」についての議論を深めていくべきだ。
劇中のUN2.1は決して清廉な組織として描かれてはおらず、「知能制限」は主人公たちを阻む壁となっている。しかし、人間にとって受け入れやすいかたちでAIの知性を標準化する試みは、現実的な問題として必要だ。AIおよびAI研究の倫理的な側面に関する議論は、今まさに検討すべきこととして、様々な学会で、これまで以上に注目されている。いずれは「AIのあらゆる制約を取り払う」タイミングが訪れるかもしれないが、それは「いまの人類には早すぎる」。いや、「いまのAIには早すぎる」と言うべきかもしれない。
# おわりに
エンターテインメントで描かれてきた未来は、多くの研究者や、その志望者に影響を与えてきた。筆者自身、『ドラえもん』の影響を強く受けて人工知能の研究者を志しており、『攻殻機動隊』をきっかけにVRの研究を志した友人もいる。『鉄腕アトム』、『機動戦士ガンダム』、そしてもちろん『電脳コイル』などなど、作品名を挙げていけばきりがない。筆者には、「近い将来、『ソードアート・オンライン』をきっかけとして、同じ道を志す後輩たちが出てくるはずだ」と、後輩を相手に偉そうに予言し、「『近い将来』ではなく、もういますよ」と、自らの時代遅れぶりを曝け出してしまった経験があるため、この手の発言には慎重になるべきなのだが、『地球外少年少女』がそのような作品の列に並ぶことは疑うべくもないだろう。この作品をきっかけに、宇宙、あるいはAIの道を志した人々が、いったいどのような未来図を描くのか、気の早いことながら今から楽しみで仕方ない。
最後に、胸に残ったいくつかの台詞を紹介して、本稿を締めようと思う。
「セブンは失敗したんじゃない。うまくいかない方法を見つけただけだ」
「一番危ういのは失敗することじゃない。失敗して諦めることが最も危険なんだ」
（以上）
筆者
霧友 正規（きりとも・まさき）
機械学習・自然言語処理の研究に従事する、兼業作家・ライター。親の顔よりもネコ型ロボットを見て育ち、「すこしふしぎ」の世界に惹かれる。大学院在学中の2014年、作家デビュー作『見えない彼女の探しもの』を上梓。2021年、創作支援に関する研究で博士（情報理工学）を取得。
個人ウェブサイト： https://www.kiritomomasaki.com
脚注
[a] 表記はノベライズ版のものを参考とした。ネットスラングを用いているのも、本作に2022年現在と地続きのリアリティを与えようとする試みだろう。
[b] 「Foundation Model （基盤モデル）」などとも呼ばれる。
[c] 簡単のため「単語」という表現を用いたが、厳密には、5,000億というのは「トークン」と呼ばれる単位でカウントされた数値。
参考文献
[1] 人工知能学会. What’s AI. http://www.ai-gakkai.or.jp/whatsai/ (Accessed: 2022/03/20)
[2] Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N Gomez, Łukasz Kaiser, and Illia Polosukhin. Attention is all you need. In I. Guyon, U. V. Luxburg, S. Bengio, H. Wallach, R. Fergus, S. Vishwanathan, and R. Garnett, editors, Advances in Neural Information Processing Systems, volume 30. Curran Associates, Inc., 2017.
[3] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pages 4171–4186, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics.
[4] Tom Brown, Benjamin Mann, Nick Ryder, Melanie Subbiah, Jared D Kaplan, Prafulla Dhariwal, Arvind Neelakantan, Pranav Shyam, Girish Sastry, Amanda Askell, Sandhini Agarwal, Ariel Herbert-Voss, Gretchen Krueger, Tom Henighan, Rewon Child, Aditya Ramesh, Daniel Ziegler, Jeffrey Wu, Clemens Winter, Chris Hesse, Mark Chen, Eric Sigler, Mateusz Litwin, Scott Gray, Benjamin Chess, Jack Clark, Christopher Berner, Sam McCandlish, Alec Radford, Ilya Sutskever, and Dario Amodei. Language models are few-shot learners. In H. Larochelle, M. Ranzato, R. Hadsell, M. F. Balcan, and H. Lin, editors, Advances in Neural Information Processing Systems, volume 33, pages 1877–1901. Curran Associates, Inc., 2020.
[5] Jeffery Dastin. Amazon scraps secret AI recruiting tool that showed bias against women. REUTERS, October 2018. https://www.reuters.com/article/us-amazon-com-jobs-automation-insight/amazon-scraps-secret-ai-recruiting-tool-that-showed-bias-against-women-idUSKCN1MK08G (Accessed: 2022/03/20)
[6] Google. c4 (TensorFlow マニュアル中のデータセットカタログ).
https://www.tensorflow.org/datasets/catalog/c4 (Accessed: 2022/03/20)
[7] レイ カーツワイル. ポスト・ヒューマン誕生: コンピュータが人類の知性を超えるとき. 日本放送出版協会, 2007.
[8] Alex Krizhevsky, Ilya Sutskever, and Geoffrey E Hinton. Imagenet classification with deep convolutional neural networks. In F. Pereira, C. J. C. Burges, L. Bottou, and K. Q. Weinberger, editors, Advances in Neural Information Processing Systems, volume 25. Curran Associates, Inc., 2012.
[9] Kunihiko Fukushima. Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position. Biological Cybernetics, 36(4):193–202, April 1980.
～～～
2024年度の「アニメ業界ライティング講座」は現在受講申込受付中です。ご関心のある方は是非こちらから詳細をご確認ください！
