LLMのファインチューニングとRAG ―チャットボット開発による実践―

※この電子書籍は紙版書籍のページデザインで制作した固定レイアウトです。 ローカルLLMでファインチューニングとRAGを学ぼう！ 本書は、公開されている大規模言語モデル（LLM: Large Language Model）を使ってローカル環境に独自のチャットボットを構築することを目標に、LLM のファインチューニングと RAG (Retrieval Augmented Generation) の基礎と、そのプログラミングについて学ぶものです。 ChatGPTの台頭により、高性能なチャットボットへの期待が急速に高まっています。しかし、そのチャットボットの核となるLLMは基本的に言語モデルであるために、幻覚（誤った情報）を生成してしまいます。とくに、LLMはローカルな情報や最新の情報は持っていないため、それらに関する質問に対しては正しい回答が期待できません。また、ChatGPTのようにLLMが外部のサーバにある場合、自社データや顧客データを入力することには抵抗があると思います。 本書では、そういった課題を解決するために、公開LLMをファインチューニングしたり、公開LLMを使ったRAGを構築したりすることで、よりニーズに沿ったチャットボットを構築します。こういった調整を行って構築したチャットボットは、特定の分野について深く正確に回答してくれるようになります。 <本書のポイント> ・LLMについての基本事項を学べます。 ・LLMのファインチューニングの方法とRAGの構築方法を学べます。 ・解説したプログラムをウェブサイトで配布します。 第1章　大規模言語モデル 第2章　ファインチューニング：言語モデルの追加学習 第3章　Instruction Tuning：指示に基づくファインチューニング 第4章　大規模言語モデルのファインチューニング 第5章　RAG：検索を併用した文生成 第6章　ChainlitによるGUIのチャットボット