bgzrfb

app.py

@@ -28,7 +28,7 @@ subprocess.run('pip install flash-attn --no-build-isolation', env={'FLASH_ATTENT
 
 @spaces.GPU
 def model_inference(
-    images, text, assistant_prefix= "Réfléchis step by step. Répond en faisant de belles phrases", decoding_strategy = "Greedy", temperature= 0.4, max_new_tokens=512,
+    images, text, assistant_prefix= "Réfléchis step by step. Répond en faisant de belles phrases uniquement avec les informations du document fourni.", decoding_strategy = "Greedy", temperature= 0.4, max_new_tokens=512,
     repetition_penalty=1.2, top_p=0.8
 ):
     ## Load idefics
@@ -199,7 +199,11 @@ def index_gpu(images, ds):
 
 
 def get_example():
-    return [[["RAPPORT_DEVELOPPEMENT_DURABLE_2019.pdf"], "Quels sont les axes de développement du service achats?"]]
+    return [
+        [["RAPPORT_DEVELOPPEMENT_DURABLE_2019.pdf"], "Quels sont les 4 axes majeurs des achats?"],
+        [["RAPPORT_DEVELOPPEMENT_DURABLE_2019.pdf"], "Quelles sont les actions entreprise en Afrique du Sud?"],
+        [["RAPPORT_DEVELOPPEMENT_DURABLE_2019.pdf"], "fais moi un tableau sur la répartition homme femme"],
+        ]
 
 with gr.Blocks(theme=gr.themes.Soft()) as demo:
     gr.Markdown("# ColPali + Idefics3: Efficient Document Retrieval with Vision Language Models 📚")
@@ -234,7 +238,7 @@ with gr.Blocks(theme=gr.themes.Soft()) as demo:
     search_button.click(search, inputs=[query, embeds, imgs, k], outputs=[output_gallery])
 
     answer_button = gr.Button("Answer", variant="primary")
-    output = gr.Textbox(label="Output")
+    output = gr.Markdown(label="Output")
     answer_button.click(model_inference, inputs=[output_gallery, query], outputs=output)
 
 if __name__ == "__main__":