File size: 1,967 Bytes
84a6ebb |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 |
import gradio as gr
from transformers import pipeline
# โโโโโโโโโโโ
# 1. ุชุญู
ูู ูุงุนุฏุงุฏ ุงููู
ูุฐุฌ
# โโโโโโโโโโโ
# ููุณุชุฎุฏู
ูู
ูุฐุฌ "google/flan-t5-base" ูู
ุซุงู ุฎููู ูุณุจููุง
# ุชุฃูุฏ ุฅูู ู
ุซุจุช ู
ูุชุจุฉ 'transformers' ู 'torch' ูุจู ุงูุชุดุบูู
chatbot = pipeline(
task="text2text-generation",
model="google/flan-t5-base",
device=0 # ูู ุนูุฏู GPU. ูู ู
ุด ุนูุฏู GPUุ ุฎูููู -1 ุฃู ุงุญุฐูู ุฎุงูุต.
)
# โโโโโโโโโโโ
# 2. ุฏุงูุฉ ุงูุฑุฏ ุนูู ุงูู
ุณุชุฎุฏู
# โโโโโโโโโโโ
def get_response(user_input):
# ููู
ุฑุฑ ุงููุต ูููู
ูุฐุฌ ุนูุดุงู ูููุฏ ุฑุฏ
result = chatbot(
user_input,
max_length=200, # ุฃูุตู ุทูู ููุฑุฏ
do_sample=True, # ุชูุนูู ุงูุนุดูุงุฆูุฉ ุจุดูู ุจุณูุท
top_p=0.9, # ูุณุจุฉ ุงูู nucleus sampling
temperature=0.7 # ุชุญูู
ูู ุงูุชููุน ุฅูู ูุฏ ูู ุงูุฑุฏูุฏ
)
# ุจูุฑุฌูุน ูุตู ุงูุฑุฏ ุงูู
ูููุฏ
return result[0]["generated_text"]
# โโโโโโโโโโโ
# 3. ุฅูุดุงุก ูุงุฌูุฉ Gradio
# โโโโโโโโโโโ
iface = gr.Interface(
fn=get_response,
inputs=gr.Textbox(
lines=2,
placeholder="ุงูุชุจ ุณุคุงูู ุฃู ุฑุณุงูุชู ููุง..."
),
outputs="text",
title="๐ค ุดุงุช ุจูุช AI ุญูููู - FLAN-T5",
description="ุงูุชุจ ุฃู ุณุคุงู ุฃู ููุงู
ุ ูุงููู
ูุฐุฌ ููุฑุฏ ุนููู ุจุทุฑููุฉ ุฐููุฉ. ุจุณ ุงูุชูุฑ ุฅู ุงููู
ูุฐุฌ ู
ุด ู
ุซุงูู 100%ุ ูู
ู
ูู ูุทูุน ุฑุฏูุฏ ุบุฑูุจุฉ ุฃุญูุงููุง. ๐"
)
# โโโโโโโโโโโ
# 4. ุชุดุบูู ุงูุชุทุจูู
# โโโโโโโโโโโ
if __name__ == "__main__":
iface.launch(share=False) # ูู ุนุงูุฒ ุชูุดุฑู ุนูู ุงููุช ุงุณุชุฎุฏู
share=True
|