UBELS
UBELS: User-Based Efficient Language System. ユーザベースで記憶機能を備え、低コスト、速い反応速度中心のLLM を脳として使用し、応答速度が速く、かつ、優れた応答クオリティもあきらめないような言語処理システム（一般的にはアシスタント用途）を構築しようとするプロジェクトです。 現在、LLMはGeminiがかなり速いのでそちらを使ってみています。
難しいかったこと
リアルタイムで対話するように作るのがまだ難しいです。 もちろんOpenAIホームページで提供する高級音声モードを使えば良いが、それを低コストで構築したいですが、どうしてもttsの精度を上げるためには現在の私のコンピュータのGPUパワーでは応答が遅くなりました。
解決方法
機械音が強いが応答が速いttsを利用すれば、非常に速い応答速度を具現することができます。 対話の途中の割り込みはまだ不可能です。今後の課題
学んだこと
LLMプロンプト設定やAPI利用、ttsライブラリ、flutterアプリなどの統合