「DeepSeek」を安心のローカル環境で実行して試す方法【Jan編】

AIモデルを追加する(1)試しにGoogleのLLM「Gemma 2」を読み込んでみる。Googleが公開しているGemma 2のGGUFファイルは、Janではダウンロードできなかったので、Bartowski氏がGGUFに変換したものを使う。それには入力ボックスにHugging FaceのURL「https://huggingface.co/bartowski/gemma-2-9b-it-GGUF」を入力する。