DarkIdol Llama-3.1-8B-Instruct-1.2-Uncensored

DarkIdol Llama-3.1-8B-Instruct-1.2-Uncensored este un model conversațional de tip roluri bazat pe Llama-3.1 în varianta 8B.

Acest model LLM este specializat pe crearea de personaje fictive și dialogul cu acestea prin aplicații de tip SillyTavern sau direct prin inferență locală prin LM Studio.

DarkIdol care poate fi descărcat gratuit de pe HuggingFace aduce optimizările Llama 3.1. și permite generarea de scenarii sau povești de toate genurile.

1. Instalarea modelului DarkIdol Llama-3.1-8B-Instruct-1.2-Uncensored

Modelul poate fi instalat local prin LM Studio direct din HuggingFace

în funcție de tipul de cuantizare ales, modelul are o dimensiune de până la 9 GB și poate fi instalat complet în memoria VRAM a plăcilor video casnice.

Pentru a rula modelul, LM Studio trebuie setat în mod server:

și poate fi apelat pe localserver pe portul 1234.

2. Utilizarea Instalarea modelului DarkIdol Llama-3.1-8B-Instruct-1.2-Uncensored împreună cu SillyTavern

SillyTavern este o aplicație dedicată rulării LLM-urilor de tip conversațional pentru crearea de personaje capabile să susțină dialog sau să genereze o poveste pe o temă dată.

Silly Tavern trebuie configurat pentru a putea utiliza Instalarea modelului DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored de pe serverul local LM Studio:

deci setăm url-ul server-ului pe:

http://localhost:1234/

și alegem modelul:

RichardErkhov/aifeifei798_-_DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored-gguf/DarkIdol-Llama-3.1-8B-Instruct-1.2-Uncensored.Q4_0.gguf

3. La taclale cu DarkIdol

Pentru început am creeat un nou personaj principal – DarkIdol cu care vom dialoga:

I-am adăugat o personalitate care se învârte în jurul glumelor, poantelor, ușor glumeață – pentru că personajul va avea rolul de ORACOL într-un oraș fantastic al viitorului numit Euforia.

Personajul meu este Paul. fiind cel care va conversa cu Oracolul:

Și acum să încercăm căteva linii de dialog:

După cum se vede, DarkIdol încearcă să se comporte cum a fost instruit, râspunzând cu o întrebare în stil glumeț.

Atunci când cerem soluții, DarkIdol se comportă precum un oracol adevărat, răspunzând cu informații interpretabile:

4. Concluzii

Jocurile cu personaje pe roluri diferite sunt atrăgătoare și mari consumatoare de timp. Stimulează imaginația cu foarte puține elemente, iar modelele LLM adaugă o perspectivă și mai mare poveștilor.

DarkIdol nu se dezminte: folosește capacitatea conversațională a Llama 3.1., răspunde repede și păstrează povestea în contextul cerut de utilizator.

Împreună cu SillyTavern, DarkIdol reușește să programeze personalitatea personajelor din poveste în cele mai mici detalii și să genereze povești în care ne putem cufunda fără probleme pentru mult timp.