ai/ai
ai/ai
1
0
This commit is contained in:
syui 2025-03-23 11:30:27 +09:00
parent 462af07720
commit 301c2ea9c4
Signed by: syui
GPG Key ID: 5417CFEBAD92DF56

View File

@ -39,7 +39,13 @@ webからはatprotoを通じて実行されます。
apple siliconでLoRA(finetuning)するには`mlx_lm`を使用します。
```sh
# https://ai.google.dev/gemma/docs/core/lora_tuning
$ brew install --cask anaconda
$ brew info anaconda
$ cd /opt/homebrew/Caskroom/anaconda/*
$ ./Anaconda3*.sh
```
```sh
$ conda create -n finetuning python=3.11
$ conda activate finetuning
$ pip install mlx-lm #apple silicon
@ -59,7 +65,7 @@ $ ollama create ai -f ./Modelfile
## unsloth
windowsでgemma3をunslothしてcustom modelを作成します。
windowsでLoRA(finetuning)するには`unsloth`を使います。
```sh
$ nvidia-smi
@ -82,6 +88,8 @@ $ powershell.exe -ExecutionPolicy Bypass -File .\unsloth_windows.ps1
$ vim custom.py
```
上記はpwshでunsolthを使う方法ですが、wslを使ったほうがいいです。
```py
# https://docs.unsloth.ai/get-started/fine-tuning-guide
from unsloth import FastModel