andreidima commited on
Commit
25f182b
·
verified ·
1 Parent(s): a934c89

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +4 -2
README.md CHANGED
@@ -14,7 +14,7 @@ LoRA (QLoRA) training technique.
14
 
15
  - **Language:** Romanian
16
  - **License:** Llama2 Community License Agreement
17
- - **Finetuned from model:** Llama-2-7b
18
 
19
  ### Model Sources
20
  - **Paper:** https://arxiv.org/abs/2410.04269
@@ -29,13 +29,15 @@ model = AutoModelForCausalLM.from_pretrained(MODEL_NAME, device_map="auto")
29
 
30
  input_text = """"Context: În anul 1600, Mihai Viteazul a realizat prima unire a Țărilor Române: Țara Românească, Transilvania și Moldova. Această unire a fost un moment important în istoria României.
31
  Întrebare: În ce an a realizat Mihai Viteazul prima unire a Țărilor Române?
32
- Răspuns:"""
33
  input_ids = tokenizer(input_text, return_tensors="pt")
34
 
35
  outputs = model.generate(**input_ids, max_new_tokens=100, eos_token_id = [13])
36
  print(tokenizer.decode(outputs[0]))
37
  ```
38
 
 
 
39
  ## Training Details and Evaluation
40
 
41
  Please refer to the paper for details on the model's training and evaluation.
 
14
 
15
  - **Language:** Romanian
16
  - **License:** Llama2 Community License Agreement
17
+ - **Finetuned from model:** Meta's Llama2 7B
18
 
19
  ### Model Sources
20
  - **Paper:** https://arxiv.org/abs/2410.04269
 
29
 
30
  input_text = """"Context: În anul 1600, Mihai Viteazul a realizat prima unire a Țărilor Române: Țara Românească, Transilvania și Moldova. Această unire a fost un moment important în istoria României.
31
  Întrebare: În ce an a realizat Mihai Viteazul prima unire a Țărilor Române?
32
+ Răspuns: """
33
  input_ids = tokenizer(input_text, return_tensors="pt")
34
 
35
  outputs = model.generate(**input_ids, max_new_tokens=100, eos_token_id = [13])
36
  print(tokenizer.decode(outputs[0]))
37
  ```
38
 
39
+ Note: Adding a space at the end of the prompt has been observed to significantly improve the model's output quality.
40
+
41
  ## Training Details and Evaluation
42
 
43
  Please refer to the paper for details on the model's training and evaluation.