|
|
--- |
|
|
language: |
|
|
- zh |
|
|
library_name: transformers |
|
|
pipeline_tag: text2text-generation |
|
|
--- |
|
|
|
|
|
```python |
|
|
from transformers import AutoTokenizer, AutoModelForCausalLM |
|
|
|
|
|
tokenizer = AutoTokenizer.from_pretrained("svjack/bloom-dialogue") |
|
|
|
|
|
model = AutoModelForCausalLM.from_pretrained("svjack/bloom-dialogue") |
|
|
|
|
|
tokenizer.decode( |
|
|
model.generate( |
|
|
tokenizer.encode( |
|
|
"你认为今天的天气怎么样？", return_tensors="pt", add_special_tokens=True |
|
|
), max_length = 128, |
|
|
num_beams=2, |
|
|
top_p = 0.95, |
|
|
top_k = 50, |
|
|
repetition_penalty = 2.5, |
|
|
length_penalty=1.0, |
|
|
early_stopping=True, |
|
|
)[0], |
|
|
skip_special_tokens = True |
|
|
).split("\n-----\n") |
|
|
|
|
|
''' |
|
|
['你认为今天的天气怎么样？ ', |
|
|
' 下午下雨了，不是吗？ ', |
|
|
' 是的 。 我希望这个周末不会下雨。 ', |
|
|
' 你为什么这么说 ？ ', |
|
|
' 好吧，我们本周要下雨了。 ', |
|
|
' 真的吗 ？ ', |
|
|
' 是的 。 ', |
|
|
' 明天天气会很愉快。 顺便说一句，您想在将来做什么？ ', |
|
|
' 我想成为一名工程师。 ', |
|
|
' 那不是那么容易吗？ ', |
|
|
' 是的，我想成为一名工程师。 ', |
|
|
' 您想要什么样的工作？ ', |
|
|
' 我需要学习成为一名工程师。 ', |
|
|
' 您什么时候开始学习？'] |
|
|
''' |
|
|
``` |
