Files changed (1) hide show
  1. README.md +75 -64
README.md CHANGED
@@ -1,65 +1,76 @@
1
- ---
2
- license: apache-2.0
3
- language:
4
- - ja
5
- - en
6
- base_model:
7
- - Qwen/Qwen2.5-32B-Instruct
8
- - cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese
9
- - abeja/ABEJA-Qwen2.5-32b-Japanese-v0.1
10
- ---
11
-
12
- ## 概要
13
- このモデルは[Qwen/Qwen2.5-32B](https://huggingface.co/Qwen/Qwen2.5-32B)をファインチューニングしたAbeja社のベースモデルにDeepSeek社のR1蒸留モデルである[deepseek-ai/DeepSeek-R1-Distill-Qwen-32B](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-32B)を日本語ファインチューニングしたcyber agent社の[cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese](https://huggingface.co/cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese)をChatVectorを用いて加えたものに、独自の日本語強化ファインチューニングをしたモデルとなります。
14
-
15
- ## 注意
16
- Abeja社はbaseモデルを公開していないため、マイナスチャットベクターを用いて作りました。
17
- このモデルは **長考モデル**ではありません。
18
- ## How to use
19
- ```python
20
- from transformers import AutoModelForCausalLM, AutoTokenizer
21
-
22
- model_name = "DataPilot/Arrival-32B-Instruct-v0.4"
23
- tokenizer_name = ""
24
-
25
- if tokenizer_name == "":
26
- tokenizer_name = model_name
27
-
28
- model = AutoModelForCausalLM.from_pretrained(
29
- model_name,
30
- torch_dtype="auto",
31
- device_map="auto"
32
- )
33
- tokenizer = AutoTokenizer.from_pretrained(tokenizer_name)
34
-
35
- prompt = "9.9と9.11はどちらのほうが大きいですか?"
36
- messages = [
37
- {"role": "system", "content": "あなたは優秀な日本語アシスタントです。問題解決をするために考えた上で回答を行ってください。"},
38
- {"role": "user", "content": prompt}
39
- ]
40
- text = tokenizer.apply_chat_template(
41
- messages,
42
- tokenize=False,
43
- add_generation_prompt=True
44
- )
45
- model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
46
-
47
- generated_ids = model.generate(
48
- **model_inputs,
49
- max_new_tokens=1024
50
- )
51
- generated_ids = [
52
- output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
53
- ]
54
-
55
- response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
56
-
57
- print(response)
58
- ```
59
-
60
- ## ベンチマーク
61
- このモデルはELYZA-task100で4.61をマークしました。(評価にはGroqのllama3-70B-8192を使用しました。)
62
-
63
-
64
- ## 謝辞
 
 
 
 
 
 
 
 
 
 
 
65
  モデルの作成者であるDeepSeekチーム, Qwenチーム, Abejaチーム, CyberAgentチーム、評価モデルの作成者であるmeta社とAPIを公開���ているGroq社、計算資源を貸していただいたVOLTMIND社に感謝を申し上げます。
 
1
+ ---
2
+ license: apache-2.0
3
+ language:
4
+ - zho
5
+ - eng
6
+ - fra
7
+ - spa
8
+ - por
9
+ - deu
10
+ - ita
11
+ - rus
12
+ - jpn
13
+ - kor
14
+ - vie
15
+ - tha
16
+ - ara
17
+ base_model:
18
+ - Qwen/Qwen2.5-32B-Instruct
19
+ - cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese
20
+ - abeja/ABEJA-Qwen2.5-32b-Japanese-v0.1
21
+ ---
22
+
23
+ ## 概要
24
+ このモデルは[Qwen/Qwen2.5-32B](https://huggingface.co/Qwen/Qwen2.5-32B)をファインチューニングしたAbeja社のベースモデルにDeepSeek社のR1蒸留モデルである[deepseek-ai/DeepSeek-R1-Distill-Qwen-32B](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-32B)を日本語ファインチューニングしたcyber agent社の[cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese](https://huggingface.co/cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese)をChatVectorを用いて加えたものに、独自の日本語強化ファインチューニングをしたモデルとなります。
25
+
26
+ ## 注意
27
+ Abeja社はbaseモデルを公開していないため、マイナスチャットベクターを用いて作りました。
28
+ このモデルは **長考モデル**ではありません。
29
+ ## How to use
30
+ ```python
31
+ from transformers import AutoModelForCausalLM, AutoTokenizer
32
+
33
+ model_name = "DataPilot/Arrival-32B-Instruct-v0.4"
34
+ tokenizer_name = ""
35
+
36
+ if tokenizer_name == "":
37
+ tokenizer_name = model_name
38
+
39
+ model = AutoModelForCausalLM.from_pretrained(
40
+ model_name,
41
+ torch_dtype="auto",
42
+ device_map="auto"
43
+ )
44
+ tokenizer = AutoTokenizer.from_pretrained(tokenizer_name)
45
+
46
+ prompt = "9.9と9.11はどちらのほうが大きいですか?"
47
+ messages = [
48
+ {"role": "system", "content": "あなたは優秀な日本語アシスタントです。問題解決をするために考えた上で回答を行ってください。"},
49
+ {"role": "user", "content": prompt}
50
+ ]
51
+ text = tokenizer.apply_chat_template(
52
+ messages,
53
+ tokenize=False,
54
+ add_generation_prompt=True
55
+ )
56
+ model_inputs = tokenizer([text], return_tensors="pt").to(model.device)
57
+
58
+ generated_ids = model.generate(
59
+ **model_inputs,
60
+ max_new_tokens=1024
61
+ )
62
+ generated_ids = [
63
+ output_ids[len(input_ids):] for input_ids, output_ids in zip(model_inputs.input_ids, generated_ids)
64
+ ]
65
+
66
+ response = tokenizer.batch_decode(generated_ids, skip_special_tokens=True)[0]
67
+
68
+ print(response)
69
+ ```
70
+
71
+ ## ベンチマーク
72
+ このモデルはELYZA-task100で4.61をマークしました。(評価にはGroqのllama3-70B-8192を使用しました。)
73
+
74
+
75
+ ## 謝辞
76
  モデルの作成者であるDeepSeekチーム, Qwenチーム, Abejaチーム, CyberAgentチーム、評価モデルの作成者であるmeta社とAPIを公開���ているGroq社、計算資源を貸していただいたVOLTMIND社に感謝を申し上げます。