Update app.py

app.py

@@ -3,9 +3,21 @@ import torch
 from transformers import AutoTokenizer, AutoModelForCausalLM
 import spaces , os
 from quickmt import Translator
-from quickmt.hub import hf_download, hf_list
+from huggingface_hub import snapshot_download
+
 
 MODEL_ID = "bmiller22000/xyntrai-mistral-2.5-7b-chat-nsfw"
+MODEL_NAME = "quickmt/quickmt-en-vi"
+
+# --- tải model từ Hugging Face ---
+model_path = snapshot_download(MODEL_NAME)
+translator = Translator(model_path, device="auto")
+
+def translate_text(text):
+    if not text.strip():
+        return ""
+    output = translator([text], beam_size=1)
+    return output[0]
 
 # Tải model và tokenizer 1 LẦN DUY NHẤT
 tokenizer = AutoTokenizer.from_pretrained(MODEL_ID, trust_remote_code=True)
@@ -65,13 +77,13 @@ def chat_with_model(prompt, system_prompt, chatbot_display, internal_history):
     
     # 5. Decode *chỉ* phần trả lời mới
     response_text = tokenizer.decode(output_tokens[0][inputs.shape[-1]:], skip_special_tokens=True)
-
+    translated =  translate_text(response_text)
     # 6. Cập nhật "bộ nhớ" (gr.State) với lượt nói MỚI
     internal_history.append({"role": "user", "content": prompt})
-    internal_history.append({"role": "assistant", "content": response_text})
+    internal_history.append({"role": "assistant", "content": translated})
     
     # 7. Cập nhật lịch sử hiển thị (gr.Chatbot)
-    chatbot_display.append([prompt, response_text])
+    chatbot_display.append([prompt, translated])
 
     # 8. Trả về cả hai để cập nhật UI
     # (chuỗi rỗng "" để xóa nội dung trong ô prompt_box)