量子化

llama-cpp-pythonは、FacebookのオープンソースAIであるLLaMAをPythonから簡単に使えるようにするライブラリ。インストール方法と基本的な使い方の紹介と、GPUを使う場合の設定方法の解説。