CivitaiでLoraTraining
おっすおっす(＾ω＾)
AI生成の話だよ。CivitaiはAIのmodelデータベースです。自分はVram6GBでグラボパワーが必要な事ができないのでSDXL系のLoraトレーニングは手が出せなかったのだけど、今は外部で生成サービスしてる場所がありCivitaiもその１つです。
2024/11/06時点でのSDXL Lora生成の覚書です。サイトの内容は変化してくので暫くしたら項目変化してるかもしれない。
１．Buzzを貯める
生成するにはサイト内で使えるポイントのBuzzが必要。貯め方は日課をする、課金して買う。Lora生成には1300Buzzほど必要になると思う。日課をすると1日150Buzz手に入る。以下日課を画像付きで紹介。日本時間AM９時に更新される。
・imageタブ押して出てくる画像にイイネ50回する(100Buzz)
・create(青いペンで画面右上にある)を押して、「claim 25 Buzz」(左下に出てくる)を押す。(25buzz)
・画像を1枚投稿する。(25Buzz) Createを開いて「Post Image」、開いた画面に画像をドラッグ＆ドロップすると2番目画像みたいに画像データが出力される。ここで画像タグに引っかかると投稿できない。Loliとかそれ系は禁止されてる。問題なければ右上の「Publish」を押せば投稿完了。
２．Lora生成
まず学習させたい画像素材を1024*1024のサイズで用意する。多いほど良い。用意したらCivitaiで学習を始める。「Create」から「Lora Training」を選択。次の画面になる。
自分にあった項目で良いけど今回はキャラクターで作るから左のを選ぶ。Nameにloraの名前を入れる、好きに書く。次に学習画像の取り込み。Nextすると次の画像になる。
上の部分に画像をドラッグ＆ドロップで入れると次の画像の様に一覧表示される。タグが未記入なので「Auto Label」でタグ付けしていく。タグ付けは画像に表示されてる素材でどれを学習に紐づけるか指定する作業。
「Auto Label」を押すと窓が開くので「Existing Tags」で「ignore」指定。
・ignore：タグ付けされてたらスキップする。
・append：タグ付けされてても追加で増やす。
・overwrite：タグ付けされてても上書きする。
「Max Tags」は自動でつけるタグの数。15位あると大体カバーしてくれる。
「Prepend Tags」で絶対に加えるタグが指定できる。キャラクターだったら名前など。
submit押すと自動でタグ付けが始まる。画像についてるタグを確認して足りなそうなものを手動で追加していく。
最後にこのデータに使ったイメージは自分のだよーって同意を２箇所する。データセット公開しても良いなら「share my dataset」もチェックする。
タグ付けが終わったら生成に使うベースModelの選択。既存のベースセットだと使えるBuzzが500で済む。civitaiにupされてるmodel使うと1000Buzz必要。普段使いしてるmodelあるならそれを選ぶのが拡張性はないけど無難かと思うけど、lora学習は使ってるモデルとの差を学習するから学習用モデルを使うのが良い、という記述をほかで見た(2024/11/17追記)。
選択後。Advanced Settingsを開いてサンプルプロンプトを入れる。epoch毎に記述した画像を作ってくれるのでどの段階が良いか区別しやすい。後に画像を添えるのでそれみると判りやすいと思う。
トレーニング項目設定。Step1500～2000が目安みたい。epoch、num repeats、Batchsizeを調整して範囲内に入れる。batchsizeは1~6で、１だと画像を１枚づつ処理するからキャラLoraだと相性が良い、みたい。resolutionを1024にする。Unet LRを0.0001。networkdimを32。alphaを16。dimは学習情報をどれだけ保持するか、多いと情報をそれだけつけれるけどlora容量がでかくなる。(128で900MB程度)。alphaは小さいほど学習率があがるので１が良い、てサイトもあるのでdim超えなければお好みで。optimaizerは「prodigy」、他に「adafactor」が選べるけどprodigyは収束率が早いので少ないStepでそれっぽくできてくるという検証結果があった。
下にある「Submit」押すとBuzzこれだけ使いますって表示窓が出る。
「confirm」押すとトレーニングが始まります。時間は書いてあるけど＋１時間以上と考えて気長に待つ。終わると登録メールアドレスにできたよーってメール届きます。
完成したらこんな表示に変わる。「Publish」を押すと学習された内容が表示される。白いアイコン押すとデータセットがダウンロードできる。
Epochをいくつかの段階毎にサンプルプロンプトで登録した画像を生成してくれるのでどの段階のloraができが良いのか判る。好みの所をダウンロードする。
「publish」を押すとたぶん公開する設定画面に飛ぶ、公開したことないのでわからない。CivitaiでのLora Trainingは以上。