Aigen
Lokale AI-genererings-pipelines — ACE-Step musikk, ComfyUI bilde.
En liten hjemmelab-rigg for ende-til-ende lokal generering: ComfyUI for bilde, ACE-Step for musikk, et tynt orkestreringslag som lar én prompt fan-ut over modaliteter. Maskinvare er en enkelt arbeidsstasjons- GPU; det interessante arbeidet er i orkestreringen — å holde modellvektene resident lenge nok til å amortisere lastetid, planlegge jobber slik at GPU-en ikke går tom og ikke trasher, persistere prompt-og-seed-metadata sammen med utdataene slik at et resultat kan re-rolles eller re-walks måneder senere.
Personlig verktøy. Lærdommen verdt å bære med inn i klientarbeid er at «lokal generering» er operasjonelt billigere enn folk antar når orkestreringen er på plass — det vanskelige slutter å være modellen, og blir køen.