szymonrucinski commited on
Commit
ed52f5b
1 Parent(s): 2a408a5

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +16 -0
README.md CHANGED
@@ -21,6 +21,22 @@ Krakowiak-v2-7b is a huge update to [Krakowiak-7b](https://huggingface.co/szymon
21
 
22
  Mistral 7B is a pretrained base model and therefore does not have any moderation mechanisms.
23
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
24
  ## Krakowiak team
25
 
26
  [Szymon Franciszek Ruciński](https://szymonrucinski.pl)
 
21
 
22
  Mistral 7B is a pretrained base model and therefore does not have any moderation mechanisms.
23
 
24
+ ## Instruction format
25
+
26
+ In order to leverage instruction fine-tuning, your prompt should be surrounded by `[INST]` and `[/INST]` tokens. The very first instruction should begin with a begin of sentence id. The next instructions should not. The assistant generation will be ended by the end-of-sentence token id.
27
+
28
+ E.g.
29
+ ```
30
+ text = "<s>[INST] Czy warto się uczyć? [/INST]"
31
+ "Jako model języka AI nie mam osobistych opinii ani przekonań. Jednak uczanie się jest ogólnie cenione i angażuje długoterminowe korzyści dla jednostki i społeczeństwa. Dzięki nauce można opracować umiejętności, zdobąć wiedzę i zwiększyć potencjał osobisty i zawodowy. Ponadto nauka promuje otwartość na innowacje i może zapewnić lepszą perspektywę życia. Dlatego uczanie się jest ogólnie cenione i wartościowe dla osób, które chcą osiągnąć cel lub rozwinąć swoją wiedzę. Jednak każda sytuacja może być inna i niektóre osoby mogą mieć różne cele lub okoliczności, które wpływają na ich podejście do nauki. Ostatecznie zależy to od indywidualnych preferencji i celów.</s> "
32
+ "[INST] Gdzie warto się uczyć? [/INST]"
33
+ ```
34
+
35
+ ## Model parameters
36
+
37
+ From my experience the temperature value of 0.7 is the best baseline value.
38
+
39
+
40
  ## Krakowiak team
41
 
42
  [Szymon Franciszek Ruciński](https://szymonrucinski.pl)