💬 NLP

Konkani LLM: Multi-Script Instruction Tuning and Evaluation for a Low-Resource Indian Language

この論文は、3 つの文字体系（デーヴァナーガリー、ロミー、カンナダ）のデータ不足という課題に対処するため、Gemini 3 を用いて 10 万件の合成指示データセット「Konkani-Instruct-100k」を構築し、これに基づいて低リソース言語コンゴニ語に特化した大規模言語モデル「Konkani LLM」を開発・評価し、機械翻訳タスクにおいて既存のオープンソースモデルを凌駕し、一部ではプロプライエタリモデルと競合する性能を示したことを報告するものです。

原著者： Reuben Chagas Fernandes, Gaurang S. Patkar

公開日 2026-03-26

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Reuben Chagas Fernandes, Gaurang S. Patkar

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

この論文は、**「コンカーニ語（Konkani）」**というインドの言語を、最新の AI（大規模言語モデル）がもっと上手に扱えるようにしたという研究報告です。

まるで**「忘れられかけた方言を、AI という新しい図書館に復活させる」**ような物語だと想像してみてください。

以下に、専門用語を噛み砕いて、身近な例え話で解説します。

1. 問題：「三つの顔を持つ言語」というジレンマ

コンカーニ語は、インドのゴア地方などで話されている美しい言語ですが、AI にとって**「非常に扱いにくい」**という問題がありました。

3 つの文字体系（スクリプト）:
コンカーニ語は、話している内容は同じなのに、書く文字が地域やコミュニティによって3 種類に分かれています。
1. デーヴァナーガリー文字（ヒンディー語と同じような文字）
2. ローミ文字（英語のアルファベットを使ったローマ字風）
3. カンナダ文字（南インドの別の文字）
AI の困りごと:
今の AI は、英語やヒンディー語のような「データが山ほどある言語」は得意ですが、コンカーニ語は**「データが極端に少ない（低資源）」上に、「3 つの文字がバラバラ」なので、AI が混乱してしまいます。まるで、「同じ料理のレシピが、日本語、英語、フランス語で書かれていて、しかも本が 1 冊しかない」**ような状態で、AI が「どっちが正しいのか」がわからなくなっていたのです。

2. 解決策：AI 先生が「10 万問」の練習問題を作る

研究者たちは、既存のデータが足りないため、**「AI 先生（Gemini 3）」**に頼んで、新しい練習問題集を作りました。

コンカーニ・インストラクト 10 万（Konkani-Instruct-100k）:
人工知能を使って、10 万個以上の「質問と答え」のセットを自動生成しました。
- 工夫: ただの質問だけでなく、**「文法の解説付き」**の答えを作りました。
- 例え: 普通の辞書が「単語の意味」だけ載せているのに対し、このデータセットは**「文法ドリル付きの教科書」**のようなものです。「なぜこの言葉はこう変化するのか？」という理由（性別や丁寧さのルール）まで含めて教えています。
- バランス: デーヴァナーガリー、ローミ、カンナダの 3 つの文字を均等に混ぜて作りました。これで、AI が特定の文字ばかり覚えて偏らないようにしました。

3. 実験：AI を「コンカーニ語の専門家」に育てる

この新しい「10 万問の教科書」を使って、既存の AI モデル（Llama や Qwen など）を**「微調整（ファインチューニング）」**しました。

LoRA（ローラ）という技術:
全部の AI を作り直すのはお金と時間がかかりすぎるので、**「AI の頭に付けた小さなメモ帳（アダプター）」**のようなものだけ作って、知識を注入しました。これなら、軽くて安価に、コンカーニ語に特化した AI を作れます。

4. 結果：劇的な進化

実験の結果、以下のことがわかりました。

翻訳が上手くなった:
元の AI モデルはコンカーニ語の翻訳が下手でしたが、この研究で育てたモデルは、「Google 翻訳」や「有料の最新 AI」にも負けない、あるいはそれ以上の性能を発揮しました。
文字の壁を越えた:
3 つの文字（スクリプト）の間を行き来する翻訳（例：ローミ文字からカンナダ文字へ）も、以前よりはるかに正確になりました。
小さなモデルでも勝てる:
巨大な AI でなくても、**「質の高いデータ（教科書）」**で鍛えれば、小さな AI でも言語のニュアンスを正しく理解できるようになりました。

5. 今後の展望：「コンカーニ・ベンチマーク」

研究者たちは、この成果をさらに広げるために、**「コンカーニ語のテスト問題（ベンチマーク）」**も作りました。
これにより、今後誰かが新しい AI を作っても、「どの AI がコンカーニ語を一番上手に扱えるか」を公平にテストできるようになります。

まとめ：この研究のすごいところ

この論文は、**「データが少ない言語を、AI 自体が教科書を作りながら、3 つの文字の壁を越えて復活させた」**という点で画期的です。

比喩で言うと:
以前は、コンカーニ語という「小さな村」には、道案内をする人がいなかったため、AI という「旅行者」は迷子になっていました。
この研究では、**「AI 先生が村の全住民（3 つの文字のコミュニティ）に聞き取り調査をして、完璧な地図（10 万問のデータ）と、道順の解説書（文法ルール）を作った」**のです。
その結果、AI はもう迷子にならず、コンカーニ語の村を自由自在に歩き回れるようになりました。

これは、世界中の「マイナーな言語」を AI が守り、未来に繋げていくための、とても重要な一歩です。

論文要約：Konkani LLM（低資源インド言語のための多スクリプト指示調整と評価）

1. 背景と課題 (Problem)

コンカーニー語（Konkani）は、インドのゴア州およびコンカン地域に固有のインド・アーリア語派の言語ですが、自然言語処理（NLP）の分野では「低資源言語」として扱われています。主な課題は以下の通りです。

スクリプトの多様性: コンカーニー語は、公式にデーヴァナーガリー文字、ロミ文字（ラテン文字/ローマ・コンカーニー）、カンナダ文字の 3 種類の文字体系を使用します。
データの不足と断片化: 高品質な並列コーパスが不足しており、既存のデータセットは特定の文字体系に偏っており、統一された言語モデルの学習を妨げています。
既存 LLM の限界: 大規模言語モデル（LLM）は多言語性能が高いものの、コンカーニー語に対する指示調整（Instruction Tuning）データが不足しているため、スクリプト忠実性や文法精度において不十分です。また、マラーティー語やヒンディー語との混同（汚染）も問題となります。

2. 提案手法と方法論 (Methodology)

本研究は、合成データ生成とパラメータ効率型ファインチューニングを組み合わせたパイプラインを提案しています。

2.1 データセットの構築：Konkani-Instruct-100k

既存の指示対データが不足しているため、Gemini 3（および Gemini 2.5 Pro）を「教師モデル」として用いた合成データ生成を行いました。

規模: 約 10 万 6 千サンプル（Konkani-Instruct-100k）。
スクリプトバランス: デーヴァナーガリー、ロミ、カンナダの 3 文字体系を均等に配分し、文字体系へのバイアスを排除。
生成戦略:
- Tutor-Style フレームワーク: 単なる QA ペアではなく、18 の基礎トピック（食事、家族、時制など）に基づき、言語の基礎を教える形式を採用。
- 形態論的分解: 各サンプルに、品詞タグや語幹・接尾辞の構造分解（Grammar Decomposition Table）を含めさせ、文法ルールの明示を強制。これにより、モデルの推論能力と文法精度を向上させました。
- ドメイン多様性: 政治、科学技術など多様な分野のプロンプトを使用し、文脈の多様性を確保。

2.2 モデルのファインチューニング

オープンウェイトモデルを、上記の合成データセットでファインチューニングしました。

対象モデル: Llama 3.1 (8B), Gemma 3 (4B, 12B, 27B), Qwen2.5 (1.5B, 14B) など。
手法: LoRA（Low-Rank Adaptation）を使用。
- Rank $r=64$ , $\alpha=128$ 。
- 注意機構（q, k, v, o）と MLP 層（gate, up, down）に適用。
- 8-bit AdamW、bfloat16 精度、Gradient Checkpointing による長コンテキスト対応。
目的: 言語的に制御されたデータで訓練されたコンパクトなモデルが、汎用モデルよりもスクリプト忠実性と文法精度で優位であることを実証すること。

2.3 評価ベンチマーク：Konkani-Bench

構成: 人間が注釈した 200 件のデータセット。
タスク:
1. 翻訳: コンカーニー語（3 文字体系）→ 英語。
2. 転写（Transliteration）: 3 文字体系間の相互転写（例：ロミ↔デーヴァナーガリー、カンナダ↔ロミなど）。
評価指標: BLEU, chrF++, COMET（翻訳用）、および LLM-as-a-judge（Gemini 3 Flash による）を用いた「スクリプト忠実性」「有用性」「他言語汚染の不在」の評価。

3. 主要な貢献 (Key Contributions)

Konkani-Instruct-100k: 蒸留（Distillation）を通じて生成された、初の大規模な多スクリプト指示調整データセット。
Konkani LLM シリーズ: コンカーニー語の地域的特徴に最適化された、ファインチューニングされたモデル群の公開。
Konkani-Bench: 3 文字体系と英語を跨ぐ、人間注釈付きの多スクリプト評価ベンチマークの構築。

4. 結果 (Results)

翻訳タスク:
- 提案されたファインチューニングモデル（特に konkani-Qwen2.5-14B-Instruct）は、ベースモデルを大幅に上回る性能を示しました。
- 一部の設定では、Gemini 3 Pro や GPT-5 などのプロプライエタリな大規模モデルと競合する、あるいはそれを上回るスコア（COMET 83.58 など）を達成しました。
転写タスク:
- ベースモデルに比べて、ファインチューニングモデルはすべてのスクリプト間方向で劇的な改善を見せ、クロススクリプトの堅牢性を示しました。
LLM-as-a-judge 評価:
- ロミ/デーヴァナーガリー: Llama-3.1-8B ベースのモデルが総合的に最高スコア。
- カンナダ: Qwen2.5-14B ベースのモデルが最高スコア。
- どのモデルも、マラーティー語やヒンディー語への汚染が少なく、コンカーニー語特有の文法（性、数、格）を正確に扱っていました。

5. 意義と結論 (Significance & Conclusion)

本研究は、低資源かつ多スクリプト環境にある言語（コンカーニー語）に対する LLM のアプローチにおいて重要なマイルストーンです。

合成データの有効性: 人手による高品質データが不足する状況でも、適切なプロンプト設計と教師モデルを用いた合成データ生成が、実用的な言語モデルの構築に有効であることを実証しました。
多スクリプト対応: 単一の文字体系に依存せず、複数の文字体系を同時に学習・評価する枠組みを提供しました。
実用化: 軽量な LoRA アダプターとしてモデルを公開し、Hugging Face や konkani.app でデモを提供することで、地域コミュニティへのアクセスを容易にしました。

今後の課題として、合成データに内在する教師モデルのバイアス、方言の多様性への対応、および継続的プレトレーニングやフルファインチューニングによるさらなる性能向上が挙げられています。