

243
ログインすると、反応・保存・フォローができます
ログイン / 登録主にGGUFのローカルLLMモデルを動かすのに使うllama-cpp-python。
非常に便利ですがセットアップが大変めんどくさいため、これ一つで大体の環境での各々の最適なllama-cpp-pythonのインストールが出来るようになっています。あくまでllama-cpp-pythonのインストールがメインなので、他に必要なファイルは各自で調べて入れてください。
仮想環境作成の是非や、構築後に弱めのモデルをHuggingFaceから一時的(あるいはずっと)にダウンロードして、実際に動くかどうかのテストをする機能もついています。
反応・コメントフィードバック
使ってみた感想やバグ報告など、開発者に直接届きます
ログインすると感想を投稿できます
ログインしてフィードバック