てきとうなさいと べぇたばん

Raspberry Pi AI HAT+2で自然言語(英語)でやり取りができた

TOP > てきとうにこらむ > プログラミング日記 > Raspberry Pi AI HAT+2で自然言語(英語)でやり取りができた

Raspberry Pi AI HAT+ 2。これだけでLLMが動く時代ですか…

Raspberry Pi に AI HAT+ 2が届いた

今までのAI HAT+はメモリがなかったのでLLMが動かなかったのですが、今回8GBのモデルが付いたことで、LLMが動かせるようになりました。

その際のメモを貼っていきます。

参考サイト

そぞらさんのページは参考になりました。この通りにセットアップすれば、特別仕様のollamaでチャットができるようになります。確かに、Qwen2:1.5bが一番日本語として自然なやり取りができたと思いました。

更にマイクをつけてリアルタイム会話を試みる

Whisperを使って日本語でやろうとすると、とても小さいモデルでちょっと時間がかかって正確でない日本語でストレスだったのですが、日本語が対応してない代わりにAI HAT+ 2で処理してくれるのでほぼ一瞬で受け答えが成立しました。すごいです。

やりかたを下に記します。

https://sozorablog.com/ai-hat-2/#toc13 のVLMで画像を説明してもらうの章にある、hailo-appsをcloneしてくるところまでは一緒です。

ここからが違うところですので、下のようにコマンドを叩きます。

~/hailo-apps/ $ cd local_resources/piper_models
~/hailo-apps/local_resources/piper_models $ python3 -m piper.download_voices en_US-amy-low

これで、 hailo-apps/local_resources/piper_models に、2つのファイルがダウンロードされます。

以下のコマンドでボイスチャットができます。(英語です!)

~/hailo-apps/local_resources/piper_models $ cd ../../
~/hailo-apps/ $ python -m hailo_apps.python.gen_ai_apps.voice_assistant.voice_assistant

感想

CPUでtext-to-speechと、speech-to-textをやろうとすると、とても時間がかかり使い物にならなかったのですが、まさかRaspberry PiのAI HAT+ 2だけでここまでできる時代になったとは…とてもすごいですね。こりゃみんなAI言うわけだ。

ただ、VOICEVOXで発音させたいなあって思ったりはしてますが、そういうのってできるんですかね?日本語でやり取りしたいです。っていうのは課題なのかなあ。

2026/01/19 1:13