utilizzare il modello su LoLLMS
#1
by
cashinvoice
- opened
Ciao, è possibile utilizzare questo modello con [LoLLMS] (https://github.com/ParisNeo/lollms-webui)?
Sono nuovo nel campo, e sto cercando di capire come far funzionare tutto. LoLLMS mi sembra ottimo, visto che mi permette di selezionare diversi modelli e (in parte almeno) configurarli, tutto in un unico posto. Ma in realtà sto riuscendo a far funzionare ben poco, oltre Ollama e llama-2
Ciao, sinceramente non conosco questa libreria. Internamente, però, siamo riusciti a lanciare un'interfaccia basata su Gradio ( https://www.gradio.app/ ) senza grossi problemi. Abbiamo usato questa libreria: https://github.com/oobabooga/text-generation-webui