v1

Dockerfile

@@ -0,0 +1,9 @@
+FROM node:22-alpine
+
+WORKDIR iatalking
+RUN npm i express
+
+COPY ./server.js ./server.js
+
+CMD ["node","./server.js"]
+

docker-compose.yml

@@ -0,0 +1,7 @@
+services:
+    jaycoach:
+        image: jaycoach
+        environment:
+            - HF_TOKEN=$HF_TOKEN
+        ports:
+            - 3000:8080

server.js

@@ -0,0 +1,93 @@
+const express 	= require('express')
+const app 		= express()
+const port 		= 8080
+
+
+const hfToken = process.env.HF_TOKEN
+
+if(!hfToken){
+	throw new Error('NO TOKEN!');
+}
+
+async function Prompt(error, tentativas){
+	
+	if(tentativas){
+		tentativas = 'últimas tentativas:'+tentativas
+	} else 
+		tentativas = ""
+	
+	let prompt = `
+		(usar muito humor e sarcasmo, máx 20 palavras, encerrar com |fim|)
+		Um usuário está estudando Redes Neurais e IA e está aprendendo o conceito de Erro (erro quadrático médio).
+		Ele está fazendo um exercío onde deve gerar o menor valor possível (abaixo de 499 já está muito bom!)
+		
+		Gere  uma mensagem para ser exibida ao usuário com base no valor do erro atual dele.
+		Use essas informacoes:
+		
+			Erro atual: ${error}
+			${tentativas} 
+	`
+	
+	console.log(prompt.length, prompt);
+	
+	let data = {
+		inputs: [
+			"<|user|>"
+			,prompt
+			+"<|end|>"
+			,"<|assistant|>"
+		].join("\n")
+		
+		,parameters:{
+			 max_new_tokens: 100
+			,return_full_text: false
+			,temperature: 0.6
+		}
+		
+		,options:{
+			use_cache: false
+		}
+
+	}
+	
+	const response = await fetch(
+		"https://api-inference.huggingface.co/models/microsoft/Phi-3-mini-4k-instruct",
+		{
+			headers: { Authorization: "Bearer "+hfToken, "content-type":"application/json" },
+			method: "POST",
+			body: JSON.stringify(data),
+		}
+	);
+	
+	const result = await response.json();
+	return result;
+}
+
+app.get('/', async (req, res) => {
+	
+	let tentativas = req.query.tentativas;
+	
+	if(tentativas && tentativas.length >= 100){
+		res.json({error:"Tentando atacar né?"})
+		return;
+	}
+	
+	if(tentativas)
+		tentativas = tentativas.split(",").map(Number).join(",");
+	
+	
+	resp = await Prompt(req.query.error, tentativas);
+	
+	
+	let gentext = resp[0].generated_text
+	
+	let textParts = gentext.split('|fim|');
+	let txtFinal = textParts[0];
+	
+	console.log("FullResp:"+gentext);
+	res.json({text:txtFinal})
+})
+
+app.listen(port, () => {
+  console.log(`JayCoach running`)
+})