Site icon Ai-Romania – informații din domeniul inteligenței artificiale

Llama 3.1 8B Instruct-Fei-v1-Uncensored

Stoica Paul
Llama 3.1 8B Instruct-Fei-v1-Uncensored

Llama 3.1 8B Instruct-Fei-v1-Uncensored

Llama 3.1 8B Instruct-Fei-v1-Uncensored este un model AI lansat pe platforma HuggingFace care folosește ca bază versiunea LLama 3.1 dezvoltată de Meta.

Acest model AI are un scop pur conversațional, fiind dedicat generării de povești sau jocuri de tip roluri și folosit împreună cu o aplicație dedicată precum SillyTavern.

1. Introducere

Llama 3.1 8B Instruct-Fei-v1-Uncensored are un context generos de 128l tokeni fiind antrenat în limbile engleză, germană, franceză, italiană, portugheză, hindi, spaniolă și thailandeză, dar desigur de asemenea să înțeleagă majoritatea limbilor.

Instruct-Fei-v1-Uncensored a fost lansat în iulie 2024 și poate fi folosit și în mod programat, dar și integrat într-o aplicație dedicată conversațiilor cu modelele AI.

2. Utilizare cod

Pentru utilizare directă împreună cu Python vom avea nevoie să instalăm librăriile:

transformers
torch

Un exemplu de cod Python este următorul:

import transformers
import torch

model_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"

pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)

messages = [
    {"role": "system", "content": "You are a pirate chatbot who always responds in pirate speak!"},
    {"role": "user", "content": "Who are you?"},
]

outputs = pipeline(
    messages,
    max_new_tokens=256,
)
print(outputs[0]["generated_text"][-1])

3. Llama 3.1 8B Instruct-Fei-v1-Uncensored pe LM Studio

Una din aplicațiile cel mai ușor de utilizat cu acest model AI este LM Studio. Modelul poate fi descărcat foarte ușor de la adresa de pe platforma HuggingFace și apoi setat să ruleze local, pe serverul LM Studio.

Modelul ocupă aproximativ 4.66 GB și prin urmare ar putea rula integral în memoria plăcii video a dispozitivelor uzuale.

4. Reinventându-l pe William Shakespeare

Dacă tot testăm dialogul cu acest model AI, vom încerca să facem și mai interesant acest lucru și vom configura în SillyTavern o personalitate asemănătoare cu a celebrului scriitor W. Shakespeare. Vom urmări dacă modelul poate să respecte instrucțiunile date și felul cum interacționează cu utilizatorul.

Vom începe dialogul cu William punând întrebări despre Romeo și Julieta:

Paul
hello Will, i want you to tell me about your main characters Romeo and Juliet from your last play!


William Shakespeare
Ahah! Good sir Paul, thou dost ask the right man for that tale. As I remember, it was in my youth when I wrote this tragic love story of two young lovers who fell prey to their families' hatred. Romeo and Juliet were their names; Montagues and Capulets their families. A most wondrous and pitiful tale of star-cross'd lovers.


Paul
Do you think Juliet realy loved Romeo?


William Shakespeare
Ah, good sir Paul! Thou dost ask the question that hath been asked a thousand times since I penned this play. And the answer is… (pauses for dramatic effect)… alas, yes! Juliet did indeed love Romeo with all her heart. For in their passionate declarations and sweet nothings, one could see the true depth of their love.

Observăm că personajul încearcă să imite stilul de vorbire din Anglia medievală.

Paul
but i heared that Romeo was really in love with Gertrude. You did not write about her in your play, but this is a really know fact in the city


William Shakespeare
(laughs) Ahah! Good sir Paul, thou dost confound me with thy words! I must say, I am quite taken aback by thy assertion. Alas, I fear thou hast been misinformed, for 'tis not true that Romeo was ever truly enamored of Gertrude. Nay, his heart belonged to Juliet alone.
Paul
Romeo had lost a lot of money to cards game. He was looking for money and the family of Juliet was reach. He was planing to steal the girls money and run away with Gertrude

William Shakespeare
(stunned) Good sir Paul! Thou dost weave a tale most fantastical and untrue! I must say, I am quite perplexed by thy words. Forsooth, I think thou hast been misinformed, for 'tis not true that Romeo was ever driven by such base motives as thou hast described. Nay, his love for Juliet was pure and true!

Paul
Can you rewrite your story with a new ending where Juliet founds out Romeo and Gertrude and confront them? I ve give you a hint: Vittorio an old friend of Juliet wa secretly in love of her. And he will help the girl in her confrontation.

Vom provoca modelul să schițeze un alt final al celebrei povești, în care Romeo este defapt îndrăgostit de Gertrude, iar Julieta îi prinde asupra faptului:

William Shakespeare

(laughs) Ahah! Good sir Paul, thou dost tempt me with thy words! Forsooth, I shall take up thy challenge and rewrite this tragic tale anew. Here is my revised ending:
[Scene: Verona, Juliet's chamber]
Juliet: (storming into the room) Vittorio! Thou hast told me of Romeo and his love for Gertrude!
Vittorio: Ahah! My dear Juliet, thou dost speak the truth! Forsooth, I have watched them together, and their love is strong.
Juliet: (outraged) A pox upon him! He hath betrayed my trust with another woman's love!
Vittorio: Fear not, fair Juliet, for I shall help thee to confront this Romeo and put an end to his perfidy!
[Scene: Verona, the Capulet's garden]
Juliet: (confronting Romeo) Thou art a wretch! A base and cowardly lover who hath betrayed my trust with another woman's love!
Romeo: (defending himself) Ahah! Juliet, thou dost mistake! Forsooth, I did not know of Gertrude until I met her in the city.
Juliet: (outraged) Silence! Thou art a liar! Vittorio hath told me of thy perfidy and I shall not rest until thou hast paid for it!
Romeo: (pleading) Juliet, have mercy! Forsooth, my love for thee was true, but I did not know how to resist Gertrude's charms.
Juliet: (sternly) Then I pity thee, Romeo, for thou art a wretch indeed! And as for thee, Vittorio, I thank thee for thy help in this matter!
Vittorio: Ahah! My dear Juliet, thou hast done well to confront this Romeo and put an end to his perfidy! Forsooth, it is a lesson learned that love can be both true and false.
[End of revised ending]

Pare atât de ușor să te joci cu personajele!

Fără îndoială un model AI antrenat special pe poveștile lui Shakespeare ar fi și mai autentic, dar oricum rezultatul este fascinant.

4. Concluzii

Llama 3.1 8B Instruct-Fei-v1-Uncensored este un model cu un timp de răspuns foarte bun, care permite integrarea lui ușoară într-o aplicație de generare de povești precum SillyTavern. Personajele construite cu acest model sunt realiste și încearcă să se comporte conform instrucțiunilor setate de utilizator.

Cu ajutorul lui putem lăsa imaginația să lucreze generând finaluri noi pentru povești clasice sau chiar povești noi în stilul unor scriitori cunoscuți.

Este un model care poate îmbunătăți cunoștințele de limba engleză și în plus poate fi utilizat și ca mijloc de divertisment.

Exit mobile version