SetFit with mini1013/master_domain
This is a SetFit model that can be used for Text Classification. This SetFit model uses mini1013/master_domain as the Sentence Transformer embedding model. A LogisticRegression instance is used for classification.
The model has been trained using an efficient few-shot learning technique that involves:
- Fine-tuning a Sentence Transformer with contrastive learning.
- Training a classification head with features from the fine-tuned Sentence Transformer.
Model Details
Model Description
Model Sources
Model Labels
Label |
Examples |
6.0 |
- '대퍼스냅퍼 똑딱이 매직벨트 유아벨트 [160001]똑딱이 매직벨트-레드 출산/육아 > 유아동잡화 > 벨트/멜빵'
- '리틀그라운드룰라비(WH)-골지타이즈(73A12-816-03) 화이트_19 출산/육아 > 유아동잡화 > 벨트/멜빵'
- '어린이 기획전 땡땡이 멜빵 블랙 잇템 출산/육아 > 유아동잡화 > 벨트/멜빵'
|
9.0 |
- '키즈 양털 부츠 아동 여아 방한 털 신발 겨울 방한화 털신 유아 어린이 슈즈 PS8218 10_PS8220_블랙_180 출산/육아 > 유아동잡화 > 신발 > 부츠/털신'
- '반스 키즈 운동화 팔켄 올드스쿨 유아 벨크로 115 - 220mm 01. 반스 올드스쿨V 키즈_화이트레드_160(오늘출발) 출산/육아 > 유아동잡화 > 신발 > 운동화'
- '텐우드 뉴벤 아기 유아 아동 여아 남아 엄마랑 세트 운동화 신발 140-250 네이비_190 출산/육아 > 유아동잡화 > 신발 > 운동화'
|
1.0 |
- '푸아송 악세 플레인귀마개 핑크_FREE 출산/육아 > 유아동잡화 > 귀마개'
- '아동 귀마개 유아 아기 초등 여아 남아 방한 겨울 귀도리 D.방한세트_11_몰랑 핑크_핑크 (763930) 출산/육아 > 유아동잡화 > 귀마개'
- '노스페이스키즈 귀마개 키즈 이어머프 NA5IP50S ONE 출산/육아 > 유아동잡화 > 귀마개'
|
2.0 |
- '미니위즈 웨이브 아쿠아슈즈 핫핑크 170 출산/육아 > 유아동잡화 > 기타유아동잡화'
- '아오스타 페이크폴라 아이보리_Free 출산/육아 > 유아동잡화 > 기타유아동잡화'
- '23겨울신상)고유 바닐라워머 갈색_junior-withadult(+3200) 출산/육아 > 유아동잡화 > 기타유아동잡화'
|
3.0 |
- '포크칩스 에펠넥타이 키즈 주니어 리본으로도가능 유아동잡화 23가을 베이지_free 출산/육아 > 유아동잡화 > 넥타이'
- '댄디피쉬 유아 보타이 핀타입_백일 출산/육아 > 유아동잡화 > 넥타이'
- '네오텍스 스팡클 넥타이 / 어린이넥타이 블루 출산/육아 > 유아동잡화 > 넥타이'
|
5.0 |
- '유아동 겨울 안감 네키 넥워머 모음, 아기 목도리, 국내생산 유아 여아 남아 머플러 4.체크사각곰_레드 출산/육아 > 유아동잡화 > 목도리'
- '아기 아동 유아 목도리 머플러 워머 쁘띠 어린이집 유치원 단체 학원 교회 브라운 베이지_2.셀프-노랑바스켓(+꽃 스티커) 출산/육아 > 유아동잡화 > 목도리'
- '23겨울 미니로브 잼잼머플러 진핑크_FREE 출산/육아 > 유아동잡화 > 목도리'
|
7.0 |
- '달빛상회 주니어선글라스 쥬피터 화이트&형광오렌지 유아안경 키즈선글라스 실버렌즈(FA2147 SILVER) 출산/육아 > 유아동잡화 > 선글라스'
- '어린이 야구 스포츠 고글 선글라스 자외선X 조카선물 렌즈색상_레드(51053RED) 출산/육아 > 유아동잡화 > 선글라스'
- '리얼쉐이드 아기 유아 아동선글라스 자외선차단 KC인증 리얼키즈쉐이드 C3.칠리(0~2세)_블랙+c716 출산/육아 > 유아동잡화 > 선글라스'
|
10.0 |
- '유아 아동 방수 앞치마 팔토시세트 김장 요리 미술 사자_130 출산/육아 > 유아동잡화 > 앞치마/토시/두건'
- '유아앞치마 아기 어린이집 앞치마 두건 세트 팔토시 옐로우_케빈(남아2)_한글반듯체 출산/육아 > 유아동잡화 > 앞치마/토시/두건'
- '플리에 한정수량 세일 유아미술가운 / 전신미술가운 / 지퍼백제공 B급상품(이염불량) 색상랜덤발송 / 성별기재_전신미술가운(투피스)_S (키95cm 이하) 출산/육아 > 유아동잡화 > 앞치마/토시/두건'
|
12.0 |
- '유아 아동 우산 초등학생 초등 어린이 투명우산 포켓몬 시나모롤 피카츄 카카오 아기상어 헬로키티_16_헬로키티 스위트_200 (753761) 출산/육아 > 유아동잡화 > 우산'
- '핸드메이드 유아 아동 어린이 판초우의-체크 동물 캐릭터 비옷 우비 레인코트 장마 안전자켓 03. 유아동 판초우의-체크(블랙)_03. 유아동 판초우의-체크(블랙)/XL 출산/육아 > 유아동잡화 > 우산'
- '카카오프렌즈 어린이 아동 우산 32종 모음 02 트래블패턴 30011 네오핫핑크 출산/육아 > 유아동잡화 > 우산'
|
14.0 |
- '초등학생지갑 남아카드지갑 여아지갑 동전 남학생반지갑 07
08. 초등학생지갑_07.009 부드러운 소가죽카드지갑_옐로우 출산/육아 > 유아동잡화 > 지갑' - '유아동 어린이 남아 여아 선물 캐릭터 추천지갑 모음 (산리오 시나모롤 피카츄 포켓몬 동전지갑 목걸이지갑 반지갑) 포켓몬 원형 목걸이지갑_블랙 출산/육아 > 유아동잡화 > 지갑'
- '초등학생지갑 남아카드지갑 여아지갑 동전 남학생반지갑 0910. 양가죽지갑_10.코인목걸이카드지갑 _그레이 출산/육아 > 유아동잡화 > 지갑'
|
0.0 |
- '초등 학생 책가방 아동 키즈 백팩 여아 가방 051.BB-314_블랙 출산/육아 > 유아동잡화 > 가방 > 백팩'
- '뉴발란스 키즈 고기능 고학년 2WAY 에센셜 데일리 초등학생 뉴키온세트 백팩 책가방 시즌 미니미 백팩_NK8ADF502U 베이지 출산/육아 > 유아동잡화 > 가방 > 백팩'
- '산리오 시나모롤 미아방지 가방 입체 배낭 251864 출산/육아 > 유아동잡화 > 가방 > 미아방지가방'
|
11.0 |
- '아기 양말 신생아 발목 니삭스 돌 백일 양말세트 02)골지 양말_블랙_0호(90-110mm) 출산/육아 > 유아동잡화 > 양말'
- '아동양말 아기 유아 겨울 크리스마스 양말 주니어 어린이 키즈퓨처 남아 여아 초등 W03- 드림수면 (5종)_4호 (7~8세) 출산/육아 > 유아동잡화 > 양말'
- '아기양말 유아양말 아동양말 키즈 컬러 돌돌이 가을 겨울 미끄럼방지 세트 돌돌이 3호(L)_버건디(1켤레) 출산/육아 > 유아동잡화 > 양말'
|
13.0 |
- '유아 어린이 아동 니트 스마트폰 터치 기모 털 겨울 장갑 주니어 초등 성인 여성 방한 2) 하트 / 아동(5~7세용)_레드 출산/육아 > 유아동잡화 > 장갑'
- '로이 키즈울장갑 초등학생 베이지_Free 출산/육아 > 유아동잡화 > 장갑'
- '남아장갑 아동 유아 스키장갑 초등학생 주니어 벙어리 손가락 F.오지스키장갑_36_윈터 체크 오지_M (00380) 출산/육아 > 유아동잡화 > 장갑'
|
16.0 |
- '아기 유아 한복 머리띠 배씨 호박 헤어밴드 머리핀 여아 돌잔치 설 추석 촬영 출산/육아 > 유아동잡화 > 한복소품'
- 'BEEU 명절 설 한복 머리핀 나비 꽃 호박 여아 여성 유아 아기 아동 어린이 성인 헤어핀 머리띠 헤어밴드 장식 장신구 출산/육아 > 유아동잡화 > 한복소품'
- '명절 한복 머리띠,설 추석 호박 배씨 선녀 자개 땋은 댕기 헤어밴드 유아동 여아 여성 출산/육아 > 유아동잡화 > 한복소품'
|
17.0 |
- '(흐르지않는) 유아 헤어핀 아기 머리핀 여아 똑딱 집게 논슬립 핀 어린이집 선물 B92.데이지 미니_데이지_3.5cm벨벳집게핀 출산/육아 > 유아동잡화 > 헤어액세서리 > 헤어핀'
- '아기헤어밴드 신생아 리본 레이스 백일 돌 유아 여아 머리띠 ♡11 피오니 헤어밴드_화이트 출산/육아 > 유아동잡화 > 헤어액세서리 > 헤어밴드'
- '밍크 벨벳 유아머리끈 여아 머리방울 아기 고무줄 12. 벨로아 방울 (한쌍)_대-인디핑크 출산/육아 > 유아동잡화 > 헤어액세서리 > 헤어끈'
|
8.0 |
- '사계절 아기 목수건 겨울 기모 스카프빕 초등 봄 여름 거즈 턱받이 소프트스카프빕_코끼리블루 출산/육아 > 유아동잡화 > 스카프'
- '삼각 아기스카프 유아 쁘띠 어린이집 목수건 거즈 스카프_심플 핑크 출산/육아 > 유아동잡화 > 스카프'
- '아오스타 윈터케이프 진주_Free 출산/육아 > 유아동잡화 > 스카프'
|
15.0 |
- '밴드 타이즈 크림아이_3-4세 출산/육아 > 유아동잡화 > 타이즈'
- '도레미 27컬러 봄 유아동 골지 데일리 타이즈 베이비 스타킹 남아 여아 공용 브라운_3호 출산/육아 > 유아동잡화 > 타이즈'
- '데일리베베 분리형타이즈 검정_JS ( 9-10세) 출산/육아 > 유아동잡화 > 타이즈'
|
4.0 |
- '아기모자 유아 귀달이 방한 겨울 비니 니트 모자 B1.코튼 레옹 비니_브라운_FREE(3개월~4세) 출산/육아 > 유아동잡화 > 모자'
- '아기모자 캡 벙거지 니트 비니 유아 아동 백일 돌 두돌 베레모 봄 여름 가을 겨울 워싱무지 JJ)m자수볼캡_퍼플_FREE 출산/육아 > 유아동잡화 > 모자'
- '비치붐 카멜레온 리버시블 버킷햇 여성벙거지모자 키즈 아동 성인 코코아_L(59cm) 출산/육아 > 유아동잡화 > 모자'
|
Evaluation
Metrics
Uses
Direct Use for Inference
First install the SetFit library:
pip install setfit
Then you can load this model and run inference.
from setfit import SetFitModel
model = SetFitModel.from_pretrained("mini1013/master_cate_bc20")
preds = model("23겨울 색종이장갑 노랑 출산/육아 > 유아동잡화 > 장갑")
Training Details
Training Set Metrics
Training set |
Min |
Median |
Max |
Word count |
7 |
15.3769 |
28 |
Label |
Training Sample Count |
0.0 |
70 |
1.0 |
70 |
2.0 |
70 |
3.0 |
70 |
4.0 |
70 |
5.0 |
70 |
6.0 |
70 |
7.0 |
70 |
8.0 |
70 |
9.0 |
70 |
10.0 |
70 |
11.0 |
70 |
12.0 |
70 |
13.0 |
70 |
14.0 |
70 |
15.0 |
70 |
16.0 |
20 |
17.0 |
70 |
Training Hyperparameters
- batch_size: (256, 256)
- num_epochs: (30, 30)
- max_steps: -1
- sampling_strategy: oversampling
- num_iterations: 50
- body_learning_rate: (2e-05, 1e-05)
- head_learning_rate: 0.01
- loss: CosineSimilarityLoss
- distance_metric: cosine_distance
- margin: 0.25
- end_to_end: False
- use_amp: False
- warmup_proportion: 0.1
- l2_weight: 0.01
- seed: 42
- eval_max_steps: -1
- load_best_model_at_end: False
Training Results
Epoch |
Step |
Training Loss |
Validation Loss |
0.0042 |
1 |
0.4815 |
- |
0.2110 |
50 |
0.5015 |
- |
0.4219 |
100 |
0.425 |
- |
0.6329 |
150 |
0.1055 |
- |
0.8439 |
200 |
0.035 |
- |
1.0549 |
250 |
0.0152 |
- |
1.2658 |
300 |
0.0077 |
- |
1.4768 |
350 |
0.0043 |
- |
1.6878 |
400 |
0.0018 |
- |
1.8987 |
450 |
0.0008 |
- |
2.1097 |
500 |
0.0009 |
- |
2.3207 |
550 |
0.0008 |
- |
2.5316 |
600 |
0.0006 |
- |
2.7426 |
650 |
0.0004 |
- |
2.9536 |
700 |
0.0002 |
- |
3.1646 |
750 |
0.0001 |
- |
3.3755 |
800 |
0.0001 |
- |
3.5865 |
850 |
0.0001 |
- |
3.7975 |
900 |
0.0001 |
- |
4.0084 |
950 |
0.0 |
- |
4.2194 |
1000 |
0.0 |
- |
4.4304 |
1050 |
0.0 |
- |
4.6414 |
1100 |
0.0 |
- |
4.8523 |
1150 |
0.0 |
- |
5.0633 |
1200 |
0.0 |
- |
5.2743 |
1250 |
0.0 |
- |
5.4852 |
1300 |
0.0 |
- |
5.6962 |
1350 |
0.0 |
- |
5.9072 |
1400 |
0.0 |
- |
6.1181 |
1450 |
0.0 |
- |
6.3291 |
1500 |
0.0 |
- |
6.5401 |
1550 |
0.0 |
- |
6.7511 |
1600 |
0.0 |
- |
6.9620 |
1650 |
0.0 |
- |
7.1730 |
1700 |
0.0 |
- |
7.3840 |
1750 |
0.0 |
- |
7.5949 |
1800 |
0.0 |
- |
7.8059 |
1850 |
0.0 |
- |
8.0169 |
1900 |
0.0 |
- |
8.2278 |
1950 |
0.0 |
- |
8.4388 |
2000 |
0.0 |
- |
8.6498 |
2050 |
0.0 |
- |
8.8608 |
2100 |
0.0 |
- |
9.0717 |
2150 |
0.0 |
- |
9.2827 |
2200 |
0.0 |
- |
9.4937 |
2250 |
0.0 |
- |
9.7046 |
2300 |
0.0 |
- |
9.9156 |
2350 |
0.0 |
- |
10.1266 |
2400 |
0.0 |
- |
10.3376 |
2450 |
0.0 |
- |
10.5485 |
2500 |
0.0 |
- |
10.7595 |
2550 |
0.0 |
- |
10.9705 |
2600 |
0.0 |
- |
11.1814 |
2650 |
0.0 |
- |
11.3924 |
2700 |
0.0 |
- |
11.6034 |
2750 |
0.0 |
- |
11.8143 |
2800 |
0.0 |
- |
12.0253 |
2850 |
0.0 |
- |
12.2363 |
2900 |
0.0 |
- |
12.4473 |
2950 |
0.0 |
- |
12.6582 |
3000 |
0.0 |
- |
12.8692 |
3050 |
0.0 |
- |
13.0802 |
3100 |
0.0 |
- |
13.2911 |
3150 |
0.0 |
- |
13.5021 |
3200 |
0.0 |
- |
13.7131 |
3250 |
0.0 |
- |
13.9241 |
3300 |
0.0 |
- |
14.1350 |
3350 |
0.0 |
- |
14.3460 |
3400 |
0.0 |
- |
14.5570 |
3450 |
0.0 |
- |
14.7679 |
3500 |
0.0 |
- |
14.9789 |
3550 |
0.0 |
- |
15.1899 |
3600 |
0.0 |
- |
15.4008 |
3650 |
0.0 |
- |
15.6118 |
3700 |
0.0 |
- |
15.8228 |
3750 |
0.0 |
- |
16.0338 |
3800 |
0.0 |
- |
16.2447 |
3850 |
0.0 |
- |
16.4557 |
3900 |
0.0 |
- |
16.6667 |
3950 |
0.0 |
- |
16.8776 |
4000 |
0.0 |
- |
17.0886 |
4050 |
0.0 |
- |
17.2996 |
4100 |
0.0 |
- |
17.5105 |
4150 |
0.0 |
- |
17.7215 |
4200 |
0.0 |
- |
17.9325 |
4250 |
0.0 |
- |
18.1435 |
4300 |
0.0 |
- |
18.3544 |
4350 |
0.0 |
- |
18.5654 |
4400 |
0.0 |
- |
18.7764 |
4450 |
0.0 |
- |
18.9873 |
4500 |
0.0 |
- |
19.1983 |
4550 |
0.0 |
- |
19.4093 |
4600 |
0.0 |
- |
19.6203 |
4650 |
0.0 |
- |
19.8312 |
4700 |
0.0 |
- |
20.0422 |
4750 |
0.0 |
- |
20.2532 |
4800 |
0.0 |
- |
20.4641 |
4850 |
0.0 |
- |
20.6751 |
4900 |
0.0 |
- |
20.8861 |
4950 |
0.0 |
- |
21.0970 |
5000 |
0.0 |
- |
21.3080 |
5050 |
0.0 |
- |
21.5190 |
5100 |
0.0 |
- |
21.7300 |
5150 |
0.0 |
- |
21.9409 |
5200 |
0.0 |
- |
22.1519 |
5250 |
0.0 |
- |
22.3629 |
5300 |
0.0 |
- |
22.5738 |
5350 |
0.0 |
- |
22.7848 |
5400 |
0.0 |
- |
22.9958 |
5450 |
0.0 |
- |
23.2068 |
5500 |
0.0 |
- |
23.4177 |
5550 |
0.0 |
- |
23.6287 |
5600 |
0.0 |
- |
23.8397 |
5650 |
0.0 |
- |
24.0506 |
5700 |
0.0 |
- |
24.2616 |
5750 |
0.0 |
- |
24.4726 |
5800 |
0.0 |
- |
24.6835 |
5850 |
0.0 |
- |
24.8945 |
5900 |
0.0 |
- |
25.1055 |
5950 |
0.0 |
- |
25.3165 |
6000 |
0.0 |
- |
25.5274 |
6050 |
0.0 |
- |
25.7384 |
6100 |
0.0 |
- |
25.9494 |
6150 |
0.0 |
- |
26.1603 |
6200 |
0.0 |
- |
26.3713 |
6250 |
0.0 |
- |
26.5823 |
6300 |
0.0 |
- |
26.7932 |
6350 |
0.0 |
- |
27.0042 |
6400 |
0.0 |
- |
27.2152 |
6450 |
0.0 |
- |
27.4262 |
6500 |
0.0 |
- |
27.6371 |
6550 |
0.0 |
- |
27.8481 |
6600 |
0.0 |
- |
28.0591 |
6650 |
0.0 |
- |
28.2700 |
6700 |
0.0 |
- |
28.4810 |
6750 |
0.0 |
- |
28.6920 |
6800 |
0.0 |
- |
28.9030 |
6850 |
0.0 |
- |
29.1139 |
6900 |
0.0 |
- |
29.3249 |
6950 |
0.0 |
- |
29.5359 |
7000 |
0.0 |
- |
29.7468 |
7050 |
0.0 |
- |
29.9578 |
7100 |
0.0 |
- |
Framework Versions
- Python: 3.10.12
- SetFit: 1.1.0
- Sentence Transformers: 3.3.1
- Transformers: 4.44.2
- PyTorch: 2.2.0a0+81ea7a4
- Datasets: 3.2.0
- Tokenizers: 0.19.1
Citation
BibTeX
@article{https://doi.org/10.48550/arxiv.2209.11055,
doi = {10.48550/ARXIV.2209.11055},
url = {https://arxiv.org/abs/2209.11055},
author = {Tunstall, Lewis and Reimers, Nils and Jo, Unso Eun Seo and Bates, Luke and Korat, Daniel and Wasserblat, Moshe and Pereg, Oren},
keywords = {Computation and Language (cs.CL), FOS: Computer and information sciences, FOS: Computer and information sciences},
title = {Efficient Few-Shot Learning Without Prompts},
publisher = {arXiv},
year = {2022},
copyright = {Creative Commons Attribution 4.0 International}
}