月別アーカイブ: 2023年8月

GPTをローカル環境で構築

GPT3.5に相当するLlama 2をローカルな環境に構築できるので、しばらく試してみることにする。

1.Text Generation web UIのインストール

2.モデルのダウンロート
試しに、CyberAgentが商用利用可能な7B(68億パラメータ)の大規模言語モデルOpenCalm7Bを使ってみることにする。

metaのサイトからLlama2をダウンロードする。

いずれもSDのautomatic1111みたいに簡単に進めることができる。メモリーは結構必要