MIT研究「SEAL」、LLMが自己編集で継続学習する新フレームワークを発表

MITのImprobable AI Labが、大規模言語モデル（LLM）がデプロイ後も自律的に学習し続けるフレームワーク「SEAL」を発表した。これは、モデル自身が学習データと更新指示を生成し、継続的に適応する「自己適応型」の学習を目指すもので、NeurIPS 2025に採択されている。従来の「一度学習したら凍結」というLLMの常識を変える可能性を秘めた研究だが、現状はあくまで研究段階のフレームワークであり、一般ユーザーがすぐに触れるような実用化には至っていない。

SEALとは：LLMに「学び続ける力」を与えるフレームワーク

従来のLLMは、膨大なデータで事前学習され、特定のタスク向けにファインチューニングされた後、デプロイされる。一度デプロイされると、そのモデルの知識や能力は基本的に静的であり、新しい情報を取り込むには再度一からファインチューニングを行う必要があった。MITの研究者らが提案するSEAL (Self-Adapting Language Models) は、このパラダイムを変える試みだ。

MITニュースによれば、SEALはLLMが新しい入力に遭遇した際、その情報をどのように内部知識に統合すべきかについての「自己編集（self-edits）」を生成する。この編集指示は、モデル自身の重みを更新するための教師ありファインチューニング（SFT）データとして利用され、永続的なモデルの変更を実現する。つまり、モデルが自らの学習データを作り出し、自らをアップデートする「継続学習」のサイクルを構築するのである。

SEALの仕組み：自己編集の生成と強化学習による最適化

SEALのプロセスは、主に二つの段階から構成されている。論文によると、第一段階は「自己編集の生成」だ。モデルは新しい入力（例えば、新しい事実や説明）を受け取ると、自身の内部状態や出力をどのように修正すべきかを示す編集指示（「〜についての知識を追加せよ」「〜という記述を修正せよ」など）を生成する。

第二段階は、この「自己編集」の質を高めるための「強化学習（RL）」の活用である。生成された編集が、下流タスク（質問応答など）のパフォーマンス向上にどれだけ寄与したかを報酬として、どのような編集を生成すべきかを学習する。これにより、単に新しいデータを追加するだけでなく、モデルの性能を実際に向上させる効果的な編集の仕方を、モデル自身が学んでいくことができる。

具体的な動作例：知識の統合と更新

例えば、あるLLMに「人物Aは2024年にX賞を受賞した」という新しい事実が入力されたとする。SEALフレームワーク下のモデルは、この情報を受け、「人物Aに関する知識ベースを更新し、受賞歴にX賞（2024年）を追加する」といった自己編集を生成する。その後、この編集指示を用いて自分自身を軽微にファインチューニングする。これにより、次回から「人物Aの受賞歴は？」という質問に対して、古い情報だけではなく、新たに取り込んだ「X賞（2024年）」も含めて回答できるようになる。このプロセスが継続的に繰り返されることで、モデルは静的なデータベースではなく、成長する生きた知識体系に近づいていく。

実験結果と有効性：知識統合タスクで成功

このアプローチの有効性は実験によって示されている。研究チームは、知識統合と少数ショット一般化のタスクでSEALを評価した。MITニュース及び論文によれば、特にARC（Abstraction and Reasoning Corpus）ベンチマークの簡略版において、SEALは72.5%の成功率を達成した。これは、新しい推論パターンを継続的に学習し、統合する能力の高さを示唆している。

この成果は、モデルが単に新しい事実を暗記するだけでなく、得られた情報に基づいて推論方法そのものを適応させ、一般化できる可能性を開くものだ。

「GPT-6が生きている」という憶測を超えて

この研究が公開された後、ソーシャルメディア上では「GPT-6は計算論的に“生きている”かもしれない」といったセンセーショナルな表現で話題になった。しかし、MITの研究論文自体にそのような表現はなく、これは研究の核心を誇張した一部の解釈に過ぎない。SEALが目指すのは、生物学的な「生命」ではなく、あくまで「デプロイ後も自律的に適応し学習し続ける計算システム」という意味での、より高度な機械学習のフレームワークである。

現在のSEALは研究コードであり、計算コストや編集の安定性、意図しない知識の破壊（破壊的忘却）など、実用化に向けては解決すべき課題も多い。したがって、この技術が直ちに商用LLMに組み込まれるとは考えにくい。

誰が注目すべき研究か

SEALは、AIの学習プロセスそのものの自律性を高める基礎研究である。そのため、最も関心を持つべきはAI/MLの研究者や、次世代の学習アルゴリズムの開発に携わるエンジニアだろう。また、長期的なAIの進化経路や、将来的に「生涯学習」するAIシステムがもたらす可能性とリスクについて考察する哲学者や政策立案者にとっても重要な示唆を含んでいる。

一方で、すぐに使えるツールを求めるビジネス開発者や一般ユーザーにとっては、現時点では知っておくべき「情報」の域を出ない。この研究が実際の製品やサービスに反映されるまでには、さらに多くの研究と開発の積み重ねが必要となるだろう。SEALは、静的なAIから動的なAIへの、重要な概念実証の第一歩なのである。