内容説明
生成AIを使いたいのに、クラウドAPIの費用や社内セキュリティー、GPU不足が壁になる――本書は、そんな制約下でもノートPC1台でローカルLLMを動かすための実践入門です。llama.cppとllama-cpp-pythonによる量子化モデルの導入から、マルチターンチャット、RAG、Function Calling、VLMの画像理解までをPythonサンプルで解説。さらにDifyとLocalAIをセルフホストして、ノーコードでAIアプリを作る流れや、量子化形式の選び方、日本語対応モデルの性能比較も扱います。クラウドに頼り切らず、自前環境でLLMを試し、業務活用の足がかりをつかみたい人に最適な一冊です。
目次
はじめに
第1章 貧弱環境での挑戦
第2章 基礎編
第3章 応用編
第4章 活用シーンを広げる
付録A 量子化
付録B パフォーマンス測定
あとがき
