s444341/Przetwarzanie_tekstu
1
0
Fork 0
Code Issues Pull Requests Projects Releases Wiki Activity

T5 improvement

Browse Source
This commit is contained in:
Jakub Adamski 2023-02-12 14:22:43 +01:00
parent 1d9457baaa
commit c708f9093f
2 changed files with 528 additions and 493 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

8
projekt/README.md
View File

@ -47,15 +47,15 @@ Najważniejsze cechy:
Najważniejsze cechy: Najważniejsze cechy:
- wytrenowany model t5-base - wytrenowany model t5-base
- typ modelu transformers.T5ForConditionalGeneration - typ modelu transformers.T5ForConditionalGeneration
- input modelu - treść smsa - input modelu - 'binary classification: ' + treść smsa
- output modelu - tekstowo klasa 1 'conversation' lub klasa 2 'advertising' - output modelu - tekstowo '1' lub '0'
- finetuning na zbiorze treningowym - finetuning na zbiorze treningowym
- adamW optimizer - adamW optimizer
- learning rate 3e-4 - learning rate 3e-4
- 16 batch size - 16 batch size
- 4 epoch - 4 epoch
- Accuracy: 0% - Accuracy: 74%
- MCC: 0 - MCC: 0.190
### Zero-shot Transformer Encoder-Decoder - FLAN-T5 ### Zero-shot Transformer Encoder-Decoder - FLAN-T5
Najważniejsze cechy: Najważniejsze cechy:

1013
projekt/T5_sms_spam.ipynb
View File

File diff suppressed because one or more lines are too long