README modified
This commit is contained in:
parent
a9e6944d12
commit
9da7c43ad1
@ -4,11 +4,12 @@
|
||||
|
||||
# Transformer Decoder - GPT-2
|
||||
## Modyfikacje
|
||||
1. ????
|
||||
1. Zamrożenie pierwszych 40 warstw
|
||||
2. Zmiana głowy klasyfikacyjnej poprzez dodanie po 2 warstwy dropout i relu()
|
||||
|
||||
|
||||
# Transformer Encoder-Decoder - T5
|
||||
## Modyfikacje
|
||||
1. Zamrożenie pierwszych 20 warstw
|
||||
|
||||
# Transformer w trybie few-shot/zero-shot learning - ?????
|
||||
# Transformer w trybie few-shot/zero-shot learning - ?????
|
||||
|
Loading…
Reference in New Issue
Block a user