M5Stack Coreシリーズに接続し、他のPC等で動作しているAIモデル（大規模言語モデル(LLM)）を、M5Stackから使用できるようにするModuleです。M5Stackとは、M5Stack社のLLM Moduleと同等の接続となるため、ソフトウエア的にはLLM Moduleと同様に扱うことができます。他のPCのLLMへはUSBやWiFiで接続します。M5StampS3Aに必要なソフトウエアを書き込んで使用してください。StampS3Aの取り付け方法が2種類あります。
StampS3Aをリフローはんだ付け等で直接基板に実装します。M5Stack接続用のMbusコネクタもリフローはんだ付け等で基板に実装してください。また必要に応じて、Module Frameをとりつけてください。
2.54mmピンヘッダ実装済みのStampS3Aと、6pと9p（または8p）のピンソケット、およびMbusコネクタまたは2.54mmの2列x15ピンの低プロファイルのピンヘッダを用意します。
まず基板のこちら面に、6pと9p（または8p）のピンソケットをはんだ付けします。（8pソケットを使う場合は、この写真のように1列分を開けた位置にとりつけてください）
Mbusコネクタをはんだ付け、または2.54mmの2列x15ピンの低プロファイルのピンヘッダをこの写真のようにはんだ付けします。M5Stack本体に接続される側（この写真では下側）の端子の先端が、基板面から5.5mmの位置になるようにしてください。
最後に2.54mmピンヘッダ実装済みのStampS3Aを取り付けて完成です。
Moduleに書き込む専用のファームウェアがあります。CoreからはLLM-Moduleのライブラリで通信できるように 「一部」 なっています。PC等との通信はWiFiまたはシリアル通信が選択できます。
※StampS3Aをリフロー実装した場合は、USB-Cケーブル抜き差し時に、StampS3Aを手で押さえて固定することを推奨します。
PlatformIOでstampS3Rをビルドして、基板上のM5StampS3に書き込みます。
このとき、secrets.hでPC等のローカルIPアドレス、WiFiのSSID/パスワードを設定してください。
現在はLLMサーバーとしてOllamaのみサポートしています。
シリアルで接続する場合はserialにあるスクリプトを動かして待機させてください。
WiFiで接続する場合はOllamaの設定からExpose Ollama to the networkを有効にしてください。
サンプルプログラム(coreS3_test)を用意しています。お使いのOllamaからアクセス可能なモデル名に変更してお試しください。画面にreadyと表示されたら、シリアルモニタからテキストを入力してEnterキーを押すと、会話ができます。
- [o] module_llm.checkConnection
- [o] module_llm.llm.setup
- [o] module_llm.llm.inferenceAndWaitResult
Designed by Junichi Akita (@akita11) / akita@ifdl.jp
Programmed by Ogawa3427 / ogawa3427@ifdl.jp