航空貨物の現場には日々、英語と日本語が混在する数千通のメールが届く。そこから貨物番号や重量、配送指示を正確に抜き出すには、高い多言語処理能力と、膨大な運用コストの壁があった。IBS SoftwareはAmazon Bedrockの蒸留機能を使い、大規模モデルの知恵を小型モデルに移植。95%の認識精度を保ちながら、処理コストを約14分の1に抑える実装に成功した。

23種類の情報を2言語で抜き出す、貨物現場の見えない負荷

IBS Softwareの貨物システムが処理する電子メールには、航空貨物運送状（AWB）番号、フライト詳細、各種重量、寸法、商品説明、荷送人情報、特別取扱コードなど、実に23種類の重要情報が含まれる。これらを英語と日本語の両方で正確に抽出する必要があり、従来は人手による確認が運用速度を落とす原因だった。単純なキーワード検索では文脈や表記ゆれに対処できず、かといって大規模なAIモデルを毎回呼び出すと、リアルタイム処理に求められる速度とコストの要件を満たせない。精度と経済性の両立が、この領域の構造的な課題として横たわっていた。

オープンソースでの壁からBedrock蒸留への転換点

開発チームは当初、PyTorchやTextBrewerといったオープンソースの蒸留フレームワークで解決を試みた。しかしバイリンガルデータに対応するパイプラインの設定が複雑過ぎ、トークンレベルでの蒸留に適したハイパーパラメータの調整にも失敗。既存のメール処理基盤との互換性も乏しく、プロジェクトは2ヶ月目で壁に直面した。転機はAmazon Bedrockのマネージド蒸留機能への切り替えだ。Nova Proモデルの知識を軽量なNova Liteへ移す方針に集中し、カスタム設定で学習を最適化。70ステップ・4エポックの訓練で損失を0.05から0.008まで低減し、テストセットで95.085%のF1スコアを達成した。

コスト14分の1を支えるトークンベース蒸留の仕組み

この成果の中核は、大きな教師モデルの出力するトークンごとの確率分布を、小さな生徒モデルに直接学習させる蒸留手法にある。単に最終的な正解ラベルを教えるのではなく、モデルが「ほぼ正解に近い」と評価した選択肢まで含めて知識を移植するため、小型モデルでも教師に近い微妙な判断力が備わる。Amazon Bedrockの環境では蒸留パイプラインのインフラ管理が不要で、IBSのチームはデータセットの品質と評価指標の設計に集中できた。結果として、大規模モデル単体で処理していた場合と比べ、推論コストを14分の1に削減。物流メールのリアルタイム処理に求められる経済性をクリアした。

物流AIの競争軸は多言語小型モデルの現場実装へ

今回の事例が示すのは、巨大な汎用AIをそのまま使う時代から、特定業務に特化した小型モデルをいかに効率的に育てるかという競争への移行だ。特に物流・貿易領域では英語と現地語が混在する文書が標準であり、多言語対応の固有表現抽出（NER）は単独の企業努力では解決しにくい重い課題だった。Amazon Bedrockのようなマネージド蒸留環境が、研究開発の負荷を引き下げ、9人のチームが約4ヶ月で本番導入まで到達できる水準に変わっている。この構図は、似た多言語文書処理を抱える法務、医療、金融の分野にも波及する可能性がある。