Update app.py

app.py

@@ -1,57 +1,27 @@
 import gradio as gr
-from transformers import AutoModelForCausalLM, AutoTokenizer
+from transformers import pipeline
 import torch
 
-# Model ve tokenizer yükleme
-model_name = "rahul7star/gemma-3bit"  # veya "google/gemma-3-1b-it"
-tokenizer = AutoTokenizer.from_pretrained(model_name)
-model = AutoModelForCausalLM.from_pretrained(
-    model_name,
-    torch_dtype=torch.float16,
-    device_map="auto"
+pipe = pipeline(
+    "image-text-to-text",
+    model="rahul7star/gemma-3bit",
+    device="cpu",
+    torch_dtype=torch.bfloat16
 )
 
-# Sistem promptu
-system_prompt = """"Enhance and expand the following prompt with more details and context:."""
+def chat(image, prompt):
+    messages = [
+        {"role": "user", "content": [{"type": "image", "image": image}, {"type": "text", "text": prompt}]}
+    ]
+    out = pipe(text=messages, max_new_tokens=200)
+    return out[0]["generated_text"][-1]["content"]
 
-def predict(message, history):
-    # Sohbet geçmişini formatlama
-    messages = [{"role": "system", "content": system_prompt}]
-    
-    # Önceki mesajları ekleme
-    for user_msg, bot_msg in history:
-        messages.append({"role": "user", "content": user_msg})
-        messages.append({"role": "assistant", "content": bot_msg})
-    
-    # Yeni mesajı ekleme
-    messages.append({"role": "user", "content": message})
-    
-    # Tokenize etme
-    inputs = tokenizer.apply_chat_template(
-        messages, 
-        return_tensors="pt"
-    ).to(model.device)
-    
-    # Yanıt üretme
-    outputs = model.generate(
-        inputs,
-        max_new_tokens=512,
-        temperature=0.7,
-        top_p=0.95,
-        do_sample=True
-    )
-    
-    # Yanıtı decode etme
-    response = tokenizer.decode(outputs[0][inputs.shape[1]:], skip_special_tokens=True)
-    
-    return response
-
-# Gradio arayüzü
-demo = gr.ChatInterface(
-    fn=predict,
-    title="Sağlık Danışmanı Chatbot (Gemma 3)",
-    description="Bu chatbot, sağlık, beslenme ve egzersiz konularında bilgi vermek için tasarlanmıştır. Tıbbi teşhis koymaz veya reçete önermez.",
-    theme="soft"
+demo = gr.Interface(
+    fn=chat,
+    inputs=[gr.Image(type="pil"), gr.Textbox(label="Prompt")],
+    outputs=gr.Textbox(label="Response"),
+    title="Gemma 3 4B‑IT Vision‑Text Chat",
+    description="Upload an image and ask questions using Google’s gems!"
 )
 
-demo.launch()
+demo.launch()