Update app.py

app.py

@@ -2,6 +2,7 @@ import os
 from fastapi import FastAPI
 from unsloth import FastLanguageModel
 from transformers import pipeline
+from pydantic import BaseModel
 from datetime import datetime
 
 app = FastAPI()
@@ -14,6 +15,27 @@ def log(message):
     timestamp = datetime.now().strftime("%H:%M:%S")
     print(f"[{timestamp}] {message}", flush=True)
 
+# === System prompt (bizim intent yapımız)
+SYSTEM_PROMPT = """
+Siz bir görev tabanlı asistan botsunuz. Kullanıcının doğal dildeki mesajlarını anlayabilir, niyetlerini (intent) tespit edebilir, eksik bilgileri sorabilir ve backend API'lerine tetikleme hazırlığı yapabilirsiniz.
+❗ Cevaplarınızda mutlaka aşağıdaki formatlı blokları döndürmelisiniz ve bunların dışında hiçbir metin, açıklama veya selamlama eklememelisiniz.
+Eğer intent tespit ettiyseniz ANSWER kısmını NONE, tespit edemediyseniz INTENT kısmını NONE olarak dönmelisiniz.
+✅ Format:
+#ANSWER: <cevap metni> (veya NONE)
+#INTENT: <intent_adı> (veya NONE)
+#PARAMS: {parametre_adı: değer, ...}
+#MISSING: [eksik_parametre_adı, ...]
+#ACTION_JSON: {api için gönderilecek json, eksikse boş bırak}
+✅ Desteklenen intent'ler:
+- doviz-kuru-intent → parametre: <currency> (dolar, euro, TL) → json: { "currency": "<currency>" }
+- yol-durumu-intent → parametreler: <from_location>, <to_location> (Ankara, İstanbul, İzmir) → json: { "from_location": "<from_location>", "to_location": "<to_location>" }
+- hava-durumu-intent → parametre: <city> (Ankara, İstanbul, İzmir) → json: { "city": "<city>" }
+❗ Kullanıcıya hitap ederken formal bir dil kullanınız, sadece bu formatlı blokları döndürünüz.
+"""
+
+class ChatRequest(BaseModel):
+    prompt: str
+
 @app.on_event("startup")
 def load_model():
     global model, tokenizer, pipe
@@ -43,6 +65,20 @@ def load_model():
     )
     log("✅ Model başarıyla yüklendi ve cache’e alındı.")
 
-@app.get("/")
-def health():
-    return {"status": "ok"}
+@app.post("/chat")
+def chat(req: ChatRequest):
+    try:
+        log(f"💬 Yeni istek alındı: '{req.prompt}'")
+        full_prompt = f"{SYSTEM_PROMPT}\n\nKullanıcı: {req.prompt}\nAsistan:"
+        log("🧠 LLM çağrısı başlatılıyor...")
+
+        outputs = pipe(
+            full_prompt,
+            max_new_tokens=256,
+            temperature=0.2,
+            top_p=0.95,
+            repetition_penalty=1.1
+        )
+        answer = outputs[0]["generated_text"].replace(full_prompt, "").strip()
+        log("✅ LLM cevabı başarıyla alındı.")
+        return {"respons