モデル編集（Model Editing）とは、大規模言語モデル（LLM）を再学習させずに、特定の知識だけをピンポイントで書き換える技術である。誤った事実や古くなった情報、削除すべき個人情報を、モデル全体を作り直すことなく修正できる点が最大の特徴だ。本記事は、AI ガバナンスや個人情報保護への対応を検討する企業の担当者・エンジニアを対象に、モデル編集の基本概念から代表的な手法、Machine Unlearning との違い、PDPA や「忘れられる権利」への実務的な活用までを順を追って解説する。読み終えるころには、自社のどの場面で何を使えばよいかの判断軸が持てるはずだ。

モデル編集の核心は、数十億のパラメータを丸ごと学習し直すのではなく、対象の知識を担っている「ごく一部の重み」だけを狙って書き換える点にある。 まずは再学習との違い、ファインチューニングとの関係、そして注目が集まる背景を順に押さえておきたい。

「モデルが古い社名を答えてしまう」——こうした問題に直面したとき、最初に思い浮かぶのは学習データを直して再学習する方法だろう。だが大規模モデルの再学習は、膨大な計算資源と時間、そして専門人材を必要とし、ひとつの事実を直すためだけに実行するのは現実的でない。モデル編集はこの前提を覆す。更新したい知識に対応する重みだけを特定し、その部分に絞って書き換えるため、数秒から数分単位で修正が完了する場合もある。再学習が「教科書をまるごと刷り直す」作業だとすれば、モデル編集は「該当ページの記述だけを訂正する」作業に近い。ただし両者は排他的ではなく、誤りが広範囲に及ぶ場合は再学習、限定的な事実の修正は編集、と使い分けるのが実務的な落としどころになる。

ファインチューニングや LoRA も「モデルを後から調整する」点ではモデル編集と似ているが、目的と粒度が異なる。ファインチューニングは一定量のデータセットでモデル全体（または広い層）の重みを調整し、文体・ドメイン適応・タスク特化といった「振る舞い全体」を変える手法だ。LoRA は低ランクの小さな行列を差し込むことで、調整するパラメータを大幅に絞りつつ同様の適応を行う。これらが「モデルの傾向を面で変える」のに対し、モデル編集は「特定の事実という点を変える」イメージに近い。たとえば、ある人物の役職のような個別の知識を、他の知識への影響を抑えながら書き換えることを狙う。そのため、データセットを用意して勾配降下を回すファインチューニングとは異なり、対象の重みを直接計算して更新する手法も含まれる。少数の事実を正確に直したいならモデル編集、全体の挙動を底上げしたいならファインチューニングという整理が出発点になる。

当初、モデルの誤りは「次のバージョンの再学習で直せばよい」と考えられがちだった。しかし運用が始まると、その発想では追いつかない場面が次々と現れる。法人名や制度は頻繁に変わり、誤情報やハルシネーションは個別に発覚し、さらに個人情報の削除要求のように「今すぐ、その情報だけを」消す必要が生じるからだ。再学習を待っていては対応が遅れ、コストも見合わない。こうした現場の要請から、特定の知識だけを低コストで素早く修正できるモデル編集に関心が集まっている。背景には規制環境の変化もある。全面施行済みの EU AI Act をはじめ、AI の出力に対する説明責任やデータ管理を企業に求める流れが強まり、「モデルが保持する知識をコントロールできること」自体がガバナンス上の要件になりつつある。技術的な利便性と制度的な必要性の両面から、モデル編集は実務テーマへと押し上げられている。

モデル編集が「知識の書き換え」だとすれば、Machine Unlearning は「学習した情報の消去」に主眼を置く技術だ。 両者は重なる部分もあるが、目的・評価の仕方・規制との結びつきが異なる。ここでは定義と使い分けの基準、そして「忘れられる権利」との関係を整理する。

Machine Unlearning（機械的アンラーニング）とは、いったん学習に使ったデータの影響をモデルから取り除き、「最初からそのデータを学習していなかった状態」に近づける技術を指す。狙いは知識の訂正そのものよりも、特定のデータが残した痕跡の除去にある。たとえば、ある利用者の個人情報や、権利上問題のあるテキストが学習データに含まれていた場合、その影響だけを後から抜き取りたいという要請に応える。実現方法は大きく二つに分かれる。ひとつは、データを分割して学習しておき、削除対象を含む部分だけを再学習し直す「厳密な」アプローチ。もうひとつは、勾配を逆方向に動かすなどして対象データの影響を打ち消す「近似的な」アプローチだ。厳密な手法は確実性が高い反面コストがかかり、近似手法は軽量だが消去の完全性を保証しにくい。どこまでの確実性を求めるかが選択の分かれ目になる。

両者の選択は「何を達成したいか」で決まる。事実を正しい値に置き換えたいならモデル編集、特定データの影響を消し去りたいなら Machine Unlearning が向く。

実務では両者を組み合わせる場面も多い。たとえば個人情報を扱う場合、まず該当知識を編集で無害な値に置き換え、その上で学習痕跡の除去を検討するといった段階的な対応が現実的だ。一方だけで完結すると考えず、目的に応じて補完的に使うとよい。

「忘れられる権利」は、本人の求めに応じて個人データを消去する権利として、GDPR の消去権（第 17 条）などで明文化されている。タイの PDPA をはじめ各国の個人情報保護法にも同種の規定が広がっている（各国の違いはASEAN データ保護法 4 カ国 徹底比較で整理している）。問題は、データベースのレコードを消すのは容易でも、いったん学習でモデルの重みに溶け込んだ情報を消すのは技術的に難しいという点だ。ここに Machine Unlearning が技術的な受け皿として期待される理由がある。さらに、全面施行済みの EU AI Act のように、AI システムの透明性やリスク管理を企業に求める枠組みが整いつつあり、「学習データに何が含まれ、それをどうコントロールできるか」を説明できることの重要性が増している。法務・コンプライアンス部門と技術部門が、削除要求への対応可能性を事前にすり合わせておくことが、規制対応のリスクを下げる近道になる。

モデル編集の手法は、対象の重みを直接計算して書き換える「ローカル編集」と、編集の仕方そのものを学習させる「メタ学習ベース」に大別できる。いずれもモデルの重みを操作するため、適用できるのは重みを入手して自前で動かせるオープンウェイトモデルに限られる。 編集したい知識の量や求める精度によって手法の選択は変わる。代表的な手法と比較の観点を見ていく。

ローカル編集手法は、「ある事実がモデルのどの重みに蓄えられているか」を突き止め、その箇所をピンポイントで書き換えるアプローチだ。代表格の ROME（Rank-One Model Editing）は、Transformer の中間層にある MLP を、入力（主語）を鍵、出力（事実）を値とする一種の連想記憶とみなす。どの層が対象の事実を担っているかを因果的な分析で特定し、その層の重みに対して「鍵を入れたら新しい値が出る」ような最小限の更新を加えることで知識を書き換える。MEMIT（Mass-Editing Memory in a Transformer）は、この考え方を複数層・数千件規模の同時編集に拡張した手法だ。連想記憶の特定の項目だけを差し替えるイメージに近く、再学習のように全体を揺らさずに済むのが利点である。一方で、対象の事実を正しく局在化できないと意図しない箇所まで影響しうるため、編集箇所を特定する精度が品質を左右する。

メタ学習ベースの手法は、「重みをどう書き換えれば、他に悪影響を与えずに知識を直せるか」というルール自体を、補助的なネットワークに学習させる。代表例の MEND は、編集したい事例から得られる勾配を、本体モデルへの適切な重み更新に変換する小さなネットワーク（エディタ）を事前に訓練しておく。実際の編集時には、このエディタが瞬時に更新量を出力するため、一件ごとに重い計算をやり直す必要がない。MALMEN は、この発想を大量編集向けに拡張し、多数の編集を効率よくまとめて適用できるようにした手法だ。ローカル編集が「書き換え方を人手で設計する」のに対し、メタ学習ベースは「書き換え方をデータから学ぶ」点が本質的な違いといえる。事前の訓練コストはかかるが、いったん用意すれば編集を反復しやすく、編集の規模が大きいほど効果を発揮しやすい。

手法選びでは、編集の精度だけでなく、副作用（関係ない知識への波及）と運用コストの三点をあわせて見るのが要点だ。

どの手法も「編集した知識は直る一方、周辺の知識や文章生成能力に副作用が出ないか」が共通の課題になる。そのため、本番適用の前に、編集対象だけでなく「編集しない関連知識」が保たれているかを評価する工程を必ず挟みたい。数値の優劣は公開ベンチマークやモデル構成によって変わるため、自社の対象モデルで検証することが欠かせない。

モデル編集と Machine Unlearning は、個人情報の削除要求や AI ガバナンス要件への対応を、再学習に頼らず現実的なコストで進めるための実装手段になりうる。 ただし技術だけでは完結せず、業務フローや評価体制とセットで設計する必要がある。実務での活用ポイントを三つの観点から見ていく。

個人情報の削除要求に備えるには、技術的な操作の前後を含めた一連のフローを決めておくことが重要だ。

1. 受付と本人確認: 要求内容と対象範囲を明確にする
2. 対象の特定: その情報が学習データ・モデルの出力のどちらに、どう影響しているかを洗い出す
3. 手法の選択: 出力を無害な値に直すだけでよいなら編集、学習痕跡まで除去すべきなら Machine Unlearning を検討する
4. 適用: 選んだ手法で修正・除去を実施する
5. 検証: 対象情報が再現されないこと、かつ無関係な機能が損なわれていないことを確認する
6. 記録: 対応内容と判断根拠を残し、説明責任に備える

要求の性質によって最適な手法が変わるため、フローの中に「どの場合にどちらを使うか」の判断基準を組み込んでおくと、対応のばらつきを抑えられる。

「自社の AI は、保持している知識を必要に応じて修正・削除できるか」——AI ガバナンスの観点では、この問いに答えられること自体が問われ始めている。全面施行済みの EU AI Act は、リスクの高い用途の AI に対して透明性やデータ管理、リスク低減の仕組みを求めており、モデルが誤った情報や不適切な情報を出し続ける状態を放置しにくくなっている。モデル編集や Machine Unlearning は、こうした要件に対して「出力をコントロールできる」「削除要求に技術的に対応できる」ことを示す具体的な手段になりうる。重要なのは、これらを場当たり的な修正ツールとしてではなく、ガバナンス体制の一部として位置づけることだ。誰がどの基準で編集を判断し、どう記録し、どう検証するか——運用ルールまで含めて設計してはじめて、技術が制度対応の裏づけとして機能する。体制づくりの全体像はASEAN進出企業の AI ガバナンス体制構築ガイドも参考になる。

ハルシネーション対策というと、検索拡張生成（RAG）でモデルに正しい情報を与える方法がまず挙がる（実装の勘所はRAG の精度を上げる方法で詳しく解説している）。だが、モデル自身が誤った事実を強く記憶している場合、外から正しい情報を渡しても古い知識に引きずられることがある。ここでモデル編集が補完的な役割を果たす。特定の誤った事実を内部知識のレベルで正しい値に書き換えておけば、検索に頼らずとも誤りの再発を抑えやすくなる。ただし、すべてのハルシネーションを編集で潰そうとするのは現実的でない。事実が頻繁に変わる領域は RAG で外部の最新情報を参照させ、めったに変わらないが繰り返し誤る固定的な事実はモデル編集で直す、といった役割分担が有効だ。編集はあくまで「内部知識の固定的な誤り」に効く手段であり、RAG と排他ではなく組み合わせることで、ハルシネーション対策全体の精度を底上げできる。

モデル編集と Machine Unlearning は万能ではなく、「一度操作すれば完全に消える・直る」という理解は誤りだ。 残存リスクや副作用を正しく見積もれないまま導入すると、対応した「つもり」が最も危ない。代表的な誤解を二つ取り上げる。

「削除した情報はもう二度と出てこない」と考えるのは危うい。特に近似的な Machine Unlearning では、対象データの影響を弱めても、痕跡が完全に消えるとは限らない。巧妙な質問の仕方や、関連する情報からの推測によって、消したはずの内容が部分的に再現されてしまう可能性が指摘されている。これは、知識が単一の場所ではなく、モデル内に分散して保持されていることに起因する。したがって実務では、「消去できた」ではなく「どの程度のリスクまで低減できたか」という確率的な見方が欠かせない。検証の際も、単純な質問で再現しないことを確認するだけでなく、言い換えや周辺情報を使った確認を行い、残存の度合いを評価する必要がある。確実性を最優先する場合は、コストはかかっても再学習を含む厳密な手法を選ぶ、という判断もありうる。

編集は対象の事実だけにとどまらず、関連する知識にまで影響が及ぶことがある。たとえば、ある人物の所属を書き換えたときに、その人物に関連する別の質問への答えまで不安定になる、といった波及だ。これは、モデル内の知識が互いに結びついているために起こる。最初は「一点だけ直せば済む」と考えがちだが、実際には「直した周りが崩れていないか」の確認まで含めて一つの作業と捉えるべきだ。波及効果を抑えるには、編集対象を必要最小限に絞り、編集後に関連知識を含むテスト項目で挙動を確認することが有効になる。また、大量の編集をまとめて適用する場合は、編集どうしが干渉して品質が劣化することもあるため、件数を区切って段階的に適用し、各段階で評価を挟む運用が安全だ。副作用はゼロにはできない前提で、許容範囲を定めて管理する発想が求められる。

最初の一歩は高度な手法の選定ではなく、「どの知識を、なぜ、どの確実性で直したいのか」というユースケースの明確化だ。 目的が定まれば、必要な手法と評価方法はおのずと絞り込める。小さく検証しながら始めるための進め方を示す。

まず取り組むべきは、自社で「知識を直したい・消したい」場面を洗い出し、優先順位をつけることだ。たとえば、頻繁に変わる事実の訂正、個人情報の削除要求への対応、繰り返し発生する固定的なハルシネーションの修正——目的によって適した手段は変わる。判断の軸はシンプルで、「正しい値に直したいのか、影響を消したいのか」「少数か大量か」「どこまでの確実性が必要か」の三つだ。出力さえ直ればよい限定的な事実ならモデル編集の小規模適用から、規制対応で確実性が問われる個人情報なら厳密な手法の検討から、というように入口を分ける。すべてを一度に対象にしようとすると評価が破綻するため、影響が大きく検証しやすい一つのユースケースを選び、そこで効果と副作用を見極めてから横展開するのが現実的だ。最初の対象選びが、その後の運用設計の土台になる。

前提として、これらの手法が対象にできるのは、重みを手元にダウンロードして動かせるオープンウェイトモデル（Llama や Mistral、Qwen、Gemma など。OpenAI も一部のモデルは重みを公開している）に限られる。Claude や、GPT・Gemini の API のように重みが非公開のモデルは、外部から重みに触れられないため編集の対象外だ。こうしたクローズドなモデルでは、RAG やシステムプロンプト、提供元が用意するファインチューニング機能で知識を補正する形になる。ツール選びとしては、編集手法をまとめて試せる EasyEdit のようなオープンソースのフレームワークが、ROME・MEMIT・MEND などを共通の枠組みで比較でき、小規模な検証の出発点に適している。ツール以上に重要なのが評価指標の設計だ。モデル編集の品質は、狙った知識が書き換わったか（信頼性）、言い換えても一貫して新しい答えになるか（汎化）、編集と無関係な知識や生成能力が保たれているか（局所性）の三点で測るのが基本となる。自社の対象モデルとユースケースに即した評価セットを用意し、これらを毎回測ることが、安全に運用へ進む前提になる。

Q. モデル編集とファインチューニングはどちらを使えばいい？ 少数の事実を正確に直したい場合はモデル編集、文体やドメイン適応などモデル全体の振る舞いを変えたい場合はファインチューニングが向く。両者は排他ではなく、目的に応じて使い分けるのが基本だ。

Q. Machine Unlearning を使えば学習データを完全に削除できる？ 完全な削除を保証できるとは限らない。特に近似的な手法では痕跡が残る可能性があり、「消去できた」ではなく「リスクをどこまで低減できたか」で評価するのが適切だ。確実性を最優先するなら、再学習を含む厳密な手法の検討が必要になる。

Q. PDPA や忘れられる権利への対応に、すぐ使える状態か？ 技術は実用段階に入りつつあるが、単体で規制対応が完結するわけではない。削除要求の受付から検証・記録までの業務フローと、副作用を測る評価体制をあわせて整えてはじめて、制度対応の裏づけとして機能する。