[](https://huggingface.co/ErickvL)
-
より新しいアーキテクチャが採用されているにもかかわらず、DharmaOCR はドメイン特化と的を絞ったトレーニングにより、ブラジルポルトガル語において Mistral OCR4 および Unlimited-OCR を上回るパフォーマンスを発揮しました。本記事では、この優位性の背景にある証拠とメカニズムを示します。 ソース
-
[
](#despite-newer-architectures-dharmaocr-outperformed-mistral-ocr4-and-unlimited-ocr-on-brazilian-portuguese-through-domain-specialization-and-targeted-training-this-article-presents-the-evidence-and-the-mechanism-behind-that-advantage)
より新しいアーキテクチャが採用されているにもかかわらず、DharmaOCR はドメイン特化と的を絞ったトレーニングにより、ブラジルポルトガル語において Mistral OCR4 および Unlimited-OCR を上回るパフォーマンスを発揮しました。本記事では、この優位性の背景にある証拠とメカニズムを示します。
3ヶ月前、私たちは DharmaOCR に関する論文を公開し、そのうちの1つのモデルをオープンソース化しました。目標は明確でした。ブラジルポルトガル語に特化した光学文字認識（OCR）を構築することです。
トレーニングプロセスは2つのフェーズに分かれています。第1フェーズは、さまざまなソース、フォーマット、複雑さのレベルからなる大量のポルトガル語ドキュメントを使用した教師あり微調整（SFT）です。このフェーズでは、モデルの重みをブラジルポルトガル語の特定の語彙、構文、ドキュメント構造にアライメントさせます。これにより、表現能力を広範な多言語空間に分散させるのではなく、ターゲット言語に集中させます。第2フェーズでは、直接好みの最適化（Direct Preference Optimization: DPO）を適用します。モデルは単に正しい文字起こしから学習するだけでなく、候補出力間の比較による好みデータから学習するため、推論時に一貫してより優れた抽出結果を選択できるようになります。このフェーズが解決するのは、正確性ではなく安定性の問題です。生成モデルの出力が重複したり一貫性を欠いたりする失敗モードを抑制することで、DPO は推論時間とコストを削減し、本番環境におけるモデルの出力の信頼性を大幅に向上させます。
最終的な組み合わせの効果として、ポルトガル語に焦点を当てたベンチマークにおいて、このモデルは最高の抽出品質スコアと最低の劣化率を達成しました。これら2つのフェーズはどちらも欠かせません。微調整フェーズでドメイン能力を構築し、DPO フェーズでモデルが最も失敗しやすい条件下でもその能力が維持されるようにします。
OCR モデルの進化は非常に早いです。しかし、DharmaOCR を開発するきっかけとなった当初の課題（複雑なドキュメントにおける抽出品質の差や、本番環境におけるモデルの安定性の差）は解消されていません。むしろ、分野の発展に伴い、それらはより示唆に富むものとなっています。
マルチモーダル生成モデルの普及により、言語モデルベースの OCR が広く利用可能になりました。その後に登場した微調整された OCR のバリエーションの波も、この技術の採用がいかに急速であったかを反映しています。しかし、この普及によって技術の基本特性が変わったわけではありません。生成モデル上に構築された OCR システムは、本質的に確率的です。文字起こしの誤りは、この確率的技術に固有の変数です。モデル間の違いは、どれだけ多くのエラーが発生するか、そしてどのようなタイプのエラーが発生するかという点にあります。これは、モデルの構造（アーキテクチャとパラメータ数）と、これらのパラメータがタスクに対してどのようにトレーニングされたかという2つの要素によって決定されます。
アーキテクチャとパラメータ数は、モデルが学習できる能力の上限を決定します。トレーニング方法は、それらの能力がどのように分配されるかを決定します。
この区分により、特化（専精）は設計上の好みではなく、構造的な問題になります。モデルが単一の言語、限定されたドキュメントタイプ、特定のタスクなど、限られたドメインのみでトレーニングされる場合、すべてのパラメータがそのタスク専用に割り当てられます。逆に、モデルがより広いドメイン（例えば、N個の言語を処理する多言語モデルなど）をカバーするようにトレーニングされる場合、同じパラメータがこれらすべてのドメイン間で分配されなければなりません。この分配は線形ではありません。ニューロンの重ね合わせの原理により、単一のパラメータが複数の特徴を同時にエンコードできます。しかし、分配が存在することは事実であり、その結果も同様に現実的です。カバー範囲が広いモデルほど、個々の部分へのリソースの投入量は少なくなります。
DharmaOCR のトレーニング目標は、まさにこの制約を逆手に取ることでした。このモデルは、他の言語で最適な選択肢になるようには設計されていませんし、これまでもそうではありませんでした。その代わり、ネットワーク内のすべての利用可能なパラメータを、ブラジルポルトガル語の特定の語彙、形態、正書法のパターンに向けて最適化することができました。これは、このドメインにおけるモデルリソースの最も的を絞った活用方法です。
この集中化こそが、多言語モデルやより広範なドメインモデルに対する本質的な優位性の基礎となっています。この優位性は、競合他社よりも大きなアーキテクチャや複雑なトレーニングプロセスに依存しているわけではありません。新しいアーキテクチャやトレーニング技術は、あらゆるモデルの能力を向上させます。そうではなく、リソースがどこに投入されているかに依存しているのです。つまり、複数のドメインに分散させるのではなく、単一のドメインに集中させているということです。
3ヶ月が経ち、より新しいモデルが登場しました。これらのモデルがよりモダンで強力になったとき、特化の優位性が依然として維持されるかどうかは、また別の問題です。
DharmaOCR の論文発表から3ヶ月後、2つの新しい OCR モデルが研究コミュニティで大きな注目を集めました。Mistral OCR4 と Unlimited-OCR です。どちらも、新しいトレーニング技術、新しいデータセット、そして多言語や複数のベンチマークにおける強力なパフォーマンスを特徴とする、真の技術的進歩を代表するものです。これらは、OCR システムの基準を引き上げるようなモデルです。
これら両方のモデルを、ポルトガル語専用に設計された DharmaOCR のベンチマークでテストしたところ、結果は非常に明確でした。
DharmaOCR のスコアは 0.925、Mistral OCR4 は 0.798、Unlimited-OCR は 0.7587 でした。
差は歴然としています。Mistral OCR4 は DharmaOCR より約13パーセントポイント低く、Unlimited-OCR は16パーセントポイント以上低くなっています。どちらも私たちのモデルの後にリリースされ、膨大な研究リソースに支えられています。DharmaOCR が根本的にポルトガル語のみに注意を集中させているタスクにおいて、特化の優位性は測定可能であり、かつ顕著です。
ベンチマークテストが核心的な発見です。次に、なぜこの差がこのような特定の形で現れるのかを説明します。
難解なポルトガル語ドキュメントの処理は、多言語モデルが最もエラーを起こしやすい部分を正確に浮き彫りにします。ENEM（ブラジル全国高校試験）の作文は、手書きテキストと、ブラジルポルトガル語特有の語彙、固有名詞、文化的背景を組み合わせたものです。これらはまさに、言語に特化したトレーニングが効果を発揮するタイプのドキュメントです。
図 1：ベンチマーク評価に使用された ENEM 作文の手書き原稿と、各モデルの出力。誤読部分は赤で示されている。
Mistral OCR4 によるこの種のドキュメントの文字起こしでは、Chico Buarque（ブラジルで最も広く知られているミュージシャンの一人）の名前が……と文字起こしされていました。