Guide: Finetuna en open source-modell för under 1000 kr
Med LoRA och rätt molnval går det att skräddarsy en 13B-modell utan att tömma plånboken.
Johan Persson1 min läsning
Du behöver inte hyra ett kluster för att finetuna en modell. Med LoRA-tekniken räcker en enkel GPU i några timmar.
Stegen
- Välj basmodell — Mistral 13B är ett bra utgångsläge
- Förbered 500–2000 högkvalitativa exempel
- Kör LoRA-träning på Runpod eller Lambda Labs
- Validera mot ett blint testset