Update to Swahili model

app.py

@@ -14,7 +14,7 @@ MAX_INPUT_TOKEN_LENGTH = int(os.getenv("MAX_INPUT_TOKEN_LENGTH", "4096"))
 DESCRIPTION = """\
 # Tamil Llama 2
 
-This Space demonstrates the Tamil Llama-2 7b [model](https://huggingface.co/abhinand/tamil-llama-7b-instruct-v0.1) as a daily life AI assistant.
+This Space demonstrates the [Swahili (Jacaranda) model](https://huggingface.co/abhinand/tamil-llama-7b-instruct-v0.1) fine-tuned from Llama-2 7b, used as a daily life AI assistant.
 """
 
 LICENSE = """
@@ -25,17 +25,18 @@ As a derivate work of [Llama-2-7b-chat](https://huggingface.co/meta-llama/Llama-
 this demo is governed by the original [license](https://huggingface.co/spaces/huggingface-projects/llama-2-7b-chat/blob/main/LICENSE.txt) and [acceptable use policy](https://huggingface.co/spaces/huggingface-projects/llama-2-7b-chat/blob/main/USE_POLICY.md).
 """
 
-SYSTEM_PROMPT = "நீங்கள் உதவிகரமான மற்றும் மரியாதைக்குரிய மற்றும் நேர்மையான AI உதவியாளர்."
+SYSTEM_PROMPT = ""
 
-PROMPT_TEMPLATE = """## Instructions:\n{% if messages[0]['role'] == 'system' %}{{ messages[0]['content'] + '\n' }}{% endif %}{% for message in messages %}{% if message['role'] == 'user' %}{{ '\n## Input:\n' + message['content'] + '\n'}}{% elif message['role'] == 'assistant' %}{{ '\n## Response:\n' + message['content'] + '\n'}}{% endif %}{% endfor %}\n\n## Response:\n"""
+PROMPT_TEMPLATE = """Below is a chat history between a user and an AI assistant (you). The user gives instructions. Write a response that appropriately completes the latest request.\n\n{% for message in messages %}{% if message['role'] == 'user' %}{{ '\n### Instruction:\n' + message['content'] + '\n'}}{% elif message['role'] == 'assistant' %}{{ '\n### Response:\n' + message['content'] + '\n'}}{% endif %}{% endfor %}\n\n### Response:\n"""
 
 if not torch.cuda.is_available():
     DESCRIPTION += "\n<p>Running on CPU 🥶 This demo does not work on CPU.</p>"
 
 if torch.cuda.is_available():
-    model_id = "abhinand/tamil-llama-7b-instruct-v0.1"
+    model_id = "Jacaranda/UlizaLlama"
     model = AutoModelForCausalLM.from_pretrained(model_id, torch_dtype=torch.float16, device_map="auto")
     tokenizer = AutoTokenizer.from_pretrained(model_id)
+    tokenizer.add_special_tokens({'pad_token': '[PAD]'}
     tokenizer.chat_template = PROMPT_TEMPLATE
     tokenizer.use_default_system_prompt = False
 
@@ -125,11 +126,11 @@ chat_interface = gr.ChatInterface(
     ],
     stop_btn=None,
     examples=[
-        ["வணக்கம், நீங்கள் யார்?"],
-        ["நான் பெரிய பணக்காரன் இல்லை, லேட்டஸ்ட் iPhone-இல் நிறைய பணம் செலவழிக்க வேண்டுமா?"],
-        ["பட்டியலை வரிசைப்படுத்த பைதான் செயல்பாட்டை எழுதவும்."],
-        ["சிவப்பும் மஞ்சளும் கலந்தால் என்ன நிறமாக இருக்கும்?"],
-        ["விரைவாக தூங்குவது எப்படி?"],
+        ["Ninawezaje kupata usingizi haraka?"],
+        ["Bosi wangu anadhibiti sana, nifanye nini?"],
+        ["Je, ni vipindi gani muhimu katika historia vya kujua kuvihusu?"],
+        ["Ni kazi gani nzuri ikiwa ninataka kupata pesa lakini pia kufurahiya?"],
+        ["Nivae nini kwenye harusi?"],
     ],
 )