Skip to content

sotokisehiro/chrome-llm-sample

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

18 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

chrome-llm-sample

概要

Chrome ブラウザで動作する文章生成 AI のサンプルコードです。

Chrome の事前設定

  • バージョン 132 以降の Chrome が必要です。
  • Chrome を起動します。
  • Chrome のアドレスバーに chrome://flags と入力して設定画面を開き、次の項目を設定します。
1. 「Enables optimization guide on device」の値を 「Enabled BypassPerfRequirement」 に設定。
2. 「Prompt API for Gemini Nano」の値を「Enable」に設定。
3. 「Text Safety Classifier」の値を「Enabled Executes safety classifier but no retraction of output」に設定。(V132で追加)

flagsの設定

  • Chrome を再起動します。

  • Chrome のアドレスバーに chrome://components と入力して設定画面を開き、次の項目をクリックして待つ。

1. 「Optimization Guide On Device Model」※

componetsの設定

  • Chrome を再起動します。

※もし 「Optimization Guide On Device Model」 が表示されない場合は、Chrome の開発者モードでコンソールを開き、次のコードを実行してください。

    await ai.languageModel.create()

エラーが出ますが問題ありません。

使い方

llm.html を Chrome で読み込んでください。次のような画面が表示されたら成功です。お楽しみください。 LLM画面

お試し

llm.html をダウンロードする前に こちら で動作確認することもできます。

※先に Chrome の事前設定は済ませておいてください。

About

Google Chromeの内蔵ローカルLLMでチャットするためのサンプルコードです。

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

 
 
 

Contributors

Languages