import gradio as gr | |
from transformers import pipeline | |
# โโโโโโโโโโโ | |
# 1. ุชุญู ูู ูุงุนุฏุงุฏ ุงููู ูุฐุฌ | |
# โโโโโโโโโโโ | |
# ููุณุชุฎุฏู ูู ูุฐุฌ "google/flan-t5-base" ูู ุซุงู ุฎููู ูุณุจููุง | |
# ุชุฃูุฏ ุฅูู ู ุซุจุช ู ูุชุจุฉ 'transformers' ู 'torch' ูุจู ุงูุชุดุบูู | |
chatbot = pipeline( | |
task="text2text-generation", | |
model="google/flan-t5-base", | |
device=0 # ูู ุนูุฏู GPU. ูู ู ุด ุนูุฏู GPUุ ุฎูููู -1 ุฃู ุงุญุฐูู ุฎุงูุต. | |
) | |
# โโโโโโโโโโโ | |
# 2. ุฏุงูุฉ ุงูุฑุฏ ุนูู ุงูู ุณุชุฎุฏู | |
# โโโโโโโโโโโ | |
def get_response(user_input): | |
# ููู ุฑุฑ ุงููุต ูููู ูุฐุฌ ุนูุดุงู ูููุฏ ุฑุฏ | |
result = chatbot( | |
user_input, | |
max_length=200, # ุฃูุตู ุทูู ููุฑุฏ | |
do_sample=True, # ุชูุนูู ุงูุนุดูุงุฆูุฉ ุจุดูู ุจุณูุท | |
top_p=0.9, # ูุณุจุฉ ุงูู nucleus sampling | |
temperature=0.7 # ุชุญูู ูู ุงูุชููุน ุฅูู ูุฏ ูู ุงูุฑุฏูุฏ | |
) | |
# ุจูุฑุฌูุน ูุตู ุงูุฑุฏ ุงูู ูููุฏ | |
return result[0]["generated_text"] | |
# โโโโโโโโโโโ | |
# 3. ุฅูุดุงุก ูุงุฌูุฉ Gradio | |
# โโโโโโโโโโโ | |
iface = gr.Interface( | |
fn=get_response, | |
inputs=gr.Textbox( | |
lines=2, | |
placeholder="ุงูุชุจ ุณุคุงูู ุฃู ุฑุณุงูุชู ููุง..." | |
), | |
outputs="text", | |
title="๐ค ุดุงุช ุจูุช AI ุญูููู - FLAN-T5", | |
description="ุงูุชุจ ุฃู ุณุคุงู ุฃู ููุงู ุ ูุงููู ูุฐุฌ ููุฑุฏ ุนููู ุจุทุฑููุฉ ุฐููุฉ. ุจุณ ุงูุชูุฑ ุฅู ุงููู ูุฐุฌ ู ุด ู ุซุงูู 100%ุ ูู ู ูู ูุทูุน ุฑุฏูุฏ ุบุฑูุจุฉ ุฃุญูุงููุง. ๐" | |
) | |
# โโโโโโโโโโโ | |
# 4. ุชุดุบูู ุงูุชุทุจูู | |
# โโโโโโโโโโโ | |
if __name__ == "__main__": | |
iface.launch(share=False) # ูู ุนุงูุฒ ุชูุดุฑู ุนูู ุงููุช ุงุณุชุฎุฏู share=True | |