この類の技術革新は著しく早いですね。研究室でのローカルLLM運用を考えております。私も何気なくGPTに執筆中の文章を入れて校正に使っているということは、もちろん学生もやっているでしょうから、何とかしないといけないと知らないうちに、研究成果が漏洩なんてこともあり得るかもしれません。
NoteBook LMみたいなローカルで運用できるツールが無いかと調べると、OpenNotebookなるものがあるとのことで、環境を構築して使って見た。LM StudioでUbuntu機にAPI サーバ立ち上げて、自分の普段使いのPCにOpen Notebookをインストールしました。合わせてWSL2, Dockerが必要です。とりあえず最近書いた解説原稿を入れてみたら、文章の内容を反映して要約してくれた。もうしばらく使って見てよさそうなら展開しよう。




