[輪講資料] LoRA: Low-Rank Adaptation of  Large Language Models

テクノロジーカテゴリーの変更を依頼記事元:

speakerdeck.com/hpprc

155 usersがブックマークコメント

コメント

9

記事へのコメント9件

注目コメント
新着コメント

hnishi2509 lora

2023/04/21 リンク

stealthinu LoRAの構造や性能、出てきた背景など全部丁寧に説明されていてとてもわかりやすかった。実はLoRAって新たに学習するというより大量に学習された中に埋まっているものを取り出してるほうが近いのかな？

2023/04/19 リンク

misshiki 全66ページのスライド資料。

自然言語処理

2023/04/19 リンク

auto_chan やはりLLMもLoRA。ローラのLoRAを適用した言語モデルをローラのLoRAを適用したボイチェンに繋げてローラのLoRAを適用したCGに喋らせよう……「ローラだよー！」閣下のLoRAも掛け合わせて「ふははははは！ローラであるぞよ！

2023/04/19 リンク

razokulover まとまってる

2023/04/19 リンク

knok PEFT便利

2023/04/19 リンク

rxh 良くまとめてあるいい資料。ありがたい。

2023/04/19 リンク

shunkeen 門外漢のど素人である私でも、LoRAの気持ちがわかったと錯覚できるぐらい、資料がわかりやすい。／元のモデルを追加学習で変更しないし、外付け可能ってことは、LoRAを差し替えるだけで、能力を切り替えられるのか。

AI
文章

2023/04/19 リンク

gabill ChatGPTが飛び抜け過ぎていてこの辺スルーしてた。でも他も実用レベルになってくるとむしろLoRAが適用しやすいOSSのモデルが有利になってくるかも知れないのか。

2023/04/18 リンク

注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています

規約違反を報告

アプリのスクリーンショット

いまの話題をアプリでチェック！

バナー広告なし
ミュート機能あり
ダークモード搭載

アプリをダウンロード

関連記事

[輪講資料] LoRA: Low-Rank Adaptation of  Large Language Models

パラメータを固定した事前学習済みモデルに対して、ごく少数のパラメータからなる低ランク行列を導入・... パラメータを固定した事前学習済みモデルに対して、ごく少数のパラメータからなる低ランク行列を導入・学習することで、モデル全体のfine-tuningと同等の性能を発揮できる手法であるLoRAと、その論文について解説した資料です。深層学習を用いた自然言語処理の歴史的な変遷と周辺技術から、LoRAが必要とされるに至った背景まで丁寧に解説します。

ブックマークしたユーザー

techtech05212024/06/06
stang4992024/01/08
roogh5eeSha62023/11/15
Nyoho2023/10/05
rodori2023/10/02
minetty992023/09/01
agongji2023/06/11
imyutaro2023/06/03
takutakuma2023/06/01
heatman2023/05/20
phji2023/05/16
kenta19842023/05/08
miguchi2023/04/27
s_ryuuki2023/04/26
t104712023/04/23
kat212023/04/21
hnishi25092023/04/21
kojika172023/04/21

同じサイトの新着

同じサイトの新着をもっと読む

いま人気の記事

いま人気の記事をもっと読む

いま人気の記事 - テクノロジー

いま人気の記事 - テクノロジーをもっと読む

新着記事 - テクノロジー

新着記事 - テクノロジーをもっと読む

設定を変更しましたx