T5 improvement

This commit is contained in:
Jakub Adamski 2023-02-12 14:22:43 +01:00
parent 1d9457baaa
commit c708f9093f
2 changed files with 528 additions and 493 deletions

View File

@ -47,15 +47,15 @@ Najważniejsze cechy:
Najważniejsze cechy:
- wytrenowany model t5-base
- typ modelu transformers.T5ForConditionalGeneration
- input modelu - treść smsa
- output modelu - tekstowo klasa 1 'conversation' lub klasa 2 'advertising'
- input modelu - 'binary classification: ' + treść smsa
- output modelu - tekstowo '1' lub '0'
- finetuning na zbiorze treningowym
- adamW optimizer
- learning rate 3e-4
- 16 batch size
- 4 epoch
- Accuracy: 0%
- MCC: 0
- Accuracy: 74%
- MCC: 0.190
### Zero-shot Transformer Encoder-Decoder - FLAN-T5
Najważniejsze cechy:

File diff suppressed because one or more lines are too long