エントリーの編集
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
ローカルPCでLINEの日本語大規模言語モデル3.6bを動かして遊んでみた
記事へのコメント0件
- 注目コメント
- 新着コメント
このエントリーにコメントしてみましょう。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
- バナー広告なし
- ミュート機能あり
- ダークモード搭載
関連記事
ローカルPCでLINEの日本語大規模言語モデル3.6bを動かして遊んでみた
先日LINEが公開した日本語大規模言語モデルが面白いという噂を聞いたので、ローカルPCで動かして、いろ... 先日LINEが公開した日本語大規模言語モデルが面白いという噂を聞いたので、ローカルPCで動かして、いろいろ遊んでみます。 line-corporation/japanese-large-lm-3.6b をggmlに変換 ローカルPCで大規模言語モデルを動かすには、llama.cppやggmlを使う方法があります。ここでは、ggmlを使います。 Colabを使ってggmlに変換 Google Colab Proを使って、T4のハイメモリを選択。以下をセルで実行。 # ライブラリのインストール ! pip install torch transformers accelerator numpy sentencepiece accelerate # ggmlをコンパイル ! git clone https://github.com/ggerganov/ggml.git ! cd ggml &&