jpn.traineddata を Pokemon Go 用に最適化する

[udnp]

jpn.traineddata を変更せずに日本語の認識をこれ以上改善するのは限界っぽいので，
次のサイトにある情報を参考にして jpn.traineddata を Pokemon Go 用に最適化する．

[参考] tesstrain.sh で Tesseract-OCR の言語データをカスタマイズする

[udnp]

関連 issue

• 認識言語を英語から日本語に入れ替えると数字によっては識別できない場合がある #2
• 「ニドラン♂」の認識に必ず失敗する。 #3
• 日本語の識字率を上げたい #6
• 日本語だとイーブイの進化形ポケモンに対する認識が失敗する #8
• HP 値の認識に失敗する #11
• リーダー評価の OCR で HP の指摘を認識しない／OCR fails to recognize "HP" in the leader's appraisals. #14

[udnp]

jpn.traineddata を生成するための langdata としては，
次の場所で atuyosi さんが公開されているものをベースとして利用させてもらう．
https://github.com/atuyosi/langdata/tree/07e4484fe83d23214c70fdc5f87770e38b98e7b9

GoIV では OCR エンジンとして tesseract-ocr の Android 用 wrapper である tess-two を利用しており，
tess-two では langdata として tesseract-ocr の v3.04 用のものを要求しているが，
先述の langdata は，これを満している．

Pre-requisites

• Android 2.3 or higher
• A v3.04 trained data file for a language. Data files must be copied to the Android device in a subdirectory named tessdata.

https://github.com/rmtheis/tess-two#pre-requisites

[udnp]

langdata のファイルで必須のものは jpn/jpn.training_text だけなようなので，
他のファイルは思い切って削除．
まずは必須のファイルだけからスタートして認識の様子を見る．
(atuyosi さんの日本語向け変更は，この場合必要なかったかも．．．)

Training Tesseract – tesstrain.sh

Required files

At a minimum the following files need to be provided in your langdata directory (note that [lang] is the language code, e.g. 'kan' or 'eng'):

• [lang]/[lang].training_text (alternatively this can be specified on the command line with --training_text /path/to/textfile)

認識結果に改善に必要になったら戻してみる．

[udnp]

その後いろいろ改善を進めて，予想以上に認識速度が使ってて気持ちいいくらいに向上した．

認識時間の比較動画，同じポケモンの個体値を連続して 10 匹認識させている．
左 : 改善後 vs 右 : 改善前

何を行って改善したかを，この後まとめる．

[udnp]

#16 (comment)

jpn.traineddata を生成するための langdata としては，
次の場所で atuyosi さんが公開されているものをベースとして利用させてもらう．
https://github.com/atuyosi/langdata/tree/07e4484fe83d23214c70fdc5f87770e38b98e7b9

この変更は最近になって本家 https://github.com/tesseract-ocr/langdata の master branch に merge されたようだ．

[udnp]

jpn.traineddata の改善方針としてはポケモンGo に出てくる文字列に限定して学習・最適化させる．
そのため一般的な OCR のようにどのような文字列に対しても認識を期待するような方法／結果は必要なく，ここでの方法はそのための解にはならない．

サーチ・エンジンでそれを期待して辿り着くひとがいるみたいなので念のため．

[udnp]

まず，tesseract-ocr の OCR 学習のオプションや設定ファイルが複雑で数も多いため，
何が有効で何が無駄なのか簡単には把握できない．．．．

Langdata
https://github.com/tesseract-ocr/tesseract/wiki/Training-Tesseract-%E2%80%93-tesstrain.sh#langdata

option list

• http://www.sk-spell.sk.cx/tesseract-ocr-parameters-in-302-version
• https://github.com/naptha/tesseract.js/blob/master/docs/tesseract_parameters.md

そのため，mandatory の学習設定ファイルである jpn.config だけを残した状態からスタートした．[f0ccc32]

またオプションを日本語で推奨されているものだけ有効にした．
Useful parameters for Japanese and Chinese

[udnp]

次に学習用テキストを OCR で認識したい Pokemon Go のテキストだけ収録するようにした．
[ea223e0], [c75fac2]

[udnp]

次に CP や HP などの数字の認識を期待して，
学習する font に Lato を追加した．[03d9632]

Lato font は Pokemon Go のゲームで描画される英数字 font に近いとされていて，
GoIV origin の UI フォントとしても使われていたのでそれを拝借した．