#llama-cpp-python

3LM-setup-wizard

主にGGUFのローカルLLMモデルを動かすのに使うllama-cpp-python。 非常に便利ですがセットアップが大変めんどくさいため、これ一つで大体の環境での各々の最適なllama-cpp-pythonのインストールが出来るようになっています。あくまでllama-cpp-pythonのインストールがメインなので、他に必要なファイルは各自で調べて入れてください。 仮想環境作成の是非や、構築後に弱めのモデルをHuggingFaceから一時的（あるいはずっと）にダウンロードして、実際に動くかどうかのテストをする機能もついています。