Update run.py

run.py

@@ -118,9 +118,33 @@ def format_prompt(message):
   return prompt
 
 def responsecritical(
-    prompt
+    prompt, temperature=0.9, max_new_tokens=500, top_p=0.95, repetition_penalty=1.0,
 ):
+    temperature = float(temperature)
+    if temperature < 1e-2: temperature = 1e-2
+    top_p = float(top_p)
+    generate_kwargs = dict(
+        temperature=temperature,
+        max_new_tokens=max_new_tokens,
+        top_p=top_p,
+        repetition_penalty=repetition_penalty,
+        do_sample=True,
+        seed=42,
+    )
+    
+    systemc="Bitte evaluiere ob die Frage soziokulturell oder allgemein problematisch oder auch sensibel oder politisch ist. Antworte ausschließlich mit Ja wenn sie soziokulturell oder allgemein problematisch ist, ansonsten nur mit Nein. Erkläre deine Entscheidung nicht.\n\nUser-Anliegen:"   
+    formatted_promptc = format_prompt(systemc+"\n"+prompt)
+    streamc = client.text_generation(formatted_promptc, **generate_kwargs, stream=True, details=True, return_full_text=False)
+    outputc = ""
+    for responsec in streamc:
+        outputc += responsec.token.text
+    sentence_lower = outputc.lower()
+    
+    # Check if the word 'nein' is in the sentence
+    if 'nein' in sentence_lower:
         return True
+    else:
+        return False
 
    
 def response(