はてなブックマーク

はじめに こんにちは。開発部の雨です。 今回は、ローカル環境で動く「長期記憶付きチャットボット」をゼロから実装する方法を紹介します。 最初はシンプルに「全会話履歴をそのままLLMに渡す」素朴な実装からスタートし、その問題点を実際に確認しながら、RAG（Retrieval-Augmented Generation）とChromaDBを使って段階的に改善していきます。最終的には、会話がどれだけ長くなっても関連情報だけを的確に引き出せる、実用的なチャットボットが完成します。 使用するツールはすべて完全ローカル・無料。APIキーは一切不要です。 問題の本質 LLMを使ったチャットボットを作るとき、多くの人が最初にこう実装します。 messages = [] while True: user_input = input("You: ") messages.append({"role": "user"