大規模言語モデルに特定の知識や振る舞いを「忘れさせる」技術が、研究段階から具体的な製品実装へと移行している。Amazonの生成AIサービス「Amazon Nova」に搭載されたカスタマイズ可能なコンテンツモデレーション設定の中核には、Reverse Direct Preference Optimization（rDPO）という手法が用いられている。この技術は、モデルの安全性を高めつつ、過剰な拒否反応（過剰拒否）を抑制する点に特徴がある。AIの出力制御をめぐる競争は、単純なフィルタリングから、モデル内部の知識表現そのものを操作する段階に入った。
rDPOとは何か：「忘れる」ための逆方向の選好最適化
Direct Preference Optimization（DPO）は、人間の好みに合った応答をモデルに学習させる手法として広く知られる。Amazonが開発したrDPOは、この考え方を逆転させたものだ。特定の応答を「選択しない」ように、あるいは特定の知識に基づく出力を「拒否する」ようにモデルを直接調整する。従来の事後フィルタリングと異なり、モデル内部のパラメータを変更するため、計算コストが追加されず、応答速度を維持したまま安全性を向上させられる。プロンプトレベルでの対策では回避される可能性があった根本的な脆弱性に対処する、モデルレベルの統制手段である。
Amazon Nova CCMSでの実装：段階的な制御レベルの提供
このrDPO技術は、Amazon Novaのカスタマイズ可能なコンテンツモデレーション設定（CCMS）として具現化された。ユーザーは一律の安全性フィルターではなく、自社のポリシーやユースケースに応じて制御の度合いを調整できる。例えば、医療相談アプリケーションでは医学的な内容に関する過剰拒否を避け、児童向け教育アプリでは厳格な制限をかけるといった使い分けが可能になる。汎用的な安全性と個別の事業要件との間に生じるトレードオフを、モデル側の調整で解消しようとする設計である。
競争の重心は「拒否の質」へ：過剰拒否問題の産業的意味
AIモデルが不適切な出力を避けようとするあまり、無害な質問まで拒否する「過剰拒否」は、企業導入における実用上の障害となっている。rDPOは、守るべき領域と応答すべき領域をモデルに学習させることで、この問題に直接対処する。これは、AI提供事業者間の競争軸が、単純な回答精度から、ビジネス要件に適合した「拒否の質」へと拡張していることを示す。規制対応と顧客体験の両立が、モデル選定の重要な判断基準になりつつある。
選択的忘却がもたらすガバナンスの変化
特定のデータを学習後に「忘れさせる」技術は、著作権やプライバシーに関する法的要請への対応手段としても注目される。rDPOはコンテンツモデレーションを目的としているが、この「選好最適化の反転」というアプローチ自体が、より広範なアンラーニング（機械学習モデルからの特定データの影響削除）技術の進展を加速させる可能性がある。AIガバナンスの手法が、利用時の制限から、モデルに内在する知識や傾向の事後的調整へと重心を移す契機となる。
