File size: 420 Bytes
b2d14e6
fbc30a4
42a2df0
fbc30a4
cbc3854
 
 
 
fbc30a4
b2d14e6
 
1
2
3
4
5
6
7
8
9
10
11
12
from transformers import pipeline

pipe = pipeline("text-generation", model="carlosdimare/qclase")

def responder(mensaje, historial):
    prompt = f"### Instrucción:\n{mensaje}\n\n### Respuesta:\n"
    salida = pipe(prompt, max_new_tokens=200, do_sample=True, temperature=0.7)[0]["generated_text"]
    return salida[len(prompt):]

import gradio as gr
gr.Interface(fn=responder, inputs="text", outputs="text").launch()