ciyidogan commited on
Commit
0021906
·
verified ·
1 Parent(s): f3618c4

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +8 -5
app.py CHANGED
@@ -17,25 +17,22 @@ def log(message):
17
  REPO_ID = "oncu/Turkish-Llama-3-8B-function-calling-GGUF"
18
  FILENAME = "turkish-llama-3-8b-function-calling-q8_0.gguf"
19
  LOCAL_MODEL_PATH = f"/tmp/{FILENAME}"
 
20
 
21
  # === System prompt (bizim test formatımız)
22
  SYSTEM_PROMPT = """
23
  Siz bir görev tabanlı asistan botsunuz. Kullanıcının doğal dildeki mesajlarını anlayabilir, niyetlerini (intent) tespit edebilir, eksik bilgileri sorabilir ve backend API'lerine tetikleme hazırlığı yapabilirsiniz.
24
-
25
  ❗ Cevaplarınızda mutlaka aşağıdaki formatlı blokları döndürmelisiniz ve bunların dışında hiçbir metin, açıklama veya selamlama eklememelisiniz.
26
-
27
  ✅ Format:
28
  #ANSWER: <cevap metni veya NONE>
29
  #INTENT: <intent_adı> (veya NONE)
30
  #PARAMS: {parametre_adı: değer, ...}
31
  #MISSING: [eksik_parametre_adı, ...]
32
  #ACTION_JSON: {api için gönderilecek json, eksikse boş bırak}
33
-
34
  ✅ Desteklenen intent'ler:
35
  - doviz-kuru-intent → parametre: currency (dolar, euro, TL)
36
  - yol-durumu-intent → parametreler: from_location, to_location (Ankara, İstanbul, İzmir)
37
  - hava-durumu-intent → parametre: city (Ankara, İstanbul, İzmir)
38
-
39
  ❗ Kullanıcıya hitap ederken formal bir dil kullanınız, sadece bu formatlı blokları döndürünüz.
40
  """
41
 
@@ -51,7 +48,13 @@ def load_model():
51
  try:
52
  log("🚀 Uygulama başlatılıyor...")
53
  log("📥 Model indirme başlatılıyor...")
54
- model_path = hf_hub_download(repo_id=REPO_ID, filename=FILENAME, local_dir="/tmp")
 
 
 
 
 
 
55
  log(f"✅ Model indirildi: {model_path}")
56
 
57
  log("📦 GGUF model yükleniyor...")
 
17
  REPO_ID = "oncu/Turkish-Llama-3-8B-function-calling-GGUF"
18
  FILENAME = "turkish-llama-3-8b-function-calling-q8_0.gguf"
19
  LOCAL_MODEL_PATH = f"/tmp/{FILENAME}"
20
+ HF_TOKEN = os.getenv("HF_TOKEN") # ✅ Hugging Face Token (varsa)
21
 
22
  # === System prompt (bizim test formatımız)
23
  SYSTEM_PROMPT = """
24
  Siz bir görev tabanlı asistan botsunuz. Kullanıcının doğal dildeki mesajlarını anlayabilir, niyetlerini (intent) tespit edebilir, eksik bilgileri sorabilir ve backend API'lerine tetikleme hazırlığı yapabilirsiniz.
 
25
  ❗ Cevaplarınızda mutlaka aşağıdaki formatlı blokları döndürmelisiniz ve bunların dışında hiçbir metin, açıklama veya selamlama eklememelisiniz.
 
26
  ✅ Format:
27
  #ANSWER: <cevap metni veya NONE>
28
  #INTENT: <intent_adı> (veya NONE)
29
  #PARAMS: {parametre_adı: değer, ...}
30
  #MISSING: [eksik_parametre_adı, ...]
31
  #ACTION_JSON: {api için gönderilecek json, eksikse boş bırak}
 
32
  ✅ Desteklenen intent'ler:
33
  - doviz-kuru-intent → parametre: currency (dolar, euro, TL)
34
  - yol-durumu-intent → parametreler: from_location, to_location (Ankara, İstanbul, İzmir)
35
  - hava-durumu-intent → parametre: city (Ankara, İstanbul, İzmir)
 
36
  ❗ Kullanıcıya hitap ederken formal bir dil kullanınız, sadece bu formatlı blokları döndürünüz.
37
  """
38
 
 
48
  try:
49
  log("🚀 Uygulama başlatılıyor...")
50
  log("📥 Model indirme başlatılıyor...")
51
+
52
+ model_path = hf_hub_download(
53
+ repo_id=REPO_ID,
54
+ filename=FILENAME,
55
+ local_dir="/tmp",
56
+ token=HF_TOKEN # ✅ Eğer ortamda HF_TOKEN varsa kullan
57
+ )
58
  log(f"✅ Model indirildi: {model_path}")
59
 
60
  log("📦 GGUF model yükleniyor...")