s444465/projekt-glebokie
1
0
Fork 0
Code Issues Pull Requests Projects Releases Wiki Activity

README modified

Browse Source
This commit is contained in:
Andrzej Preibisz 2023-02-12 20:07:25 +01:00
parent a9e6944d12
commit 9da7c43ad1
1 changed files with 3 additions and 2 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

5
README.md
View File

@ -4,11 +4,12 @@
# Transformer Decoder - GPT-2 # Transformer Decoder - GPT-2
## Modyfikacje ## Modyfikacje
1. ???? 1. Zamrożenie pierwszych 40 warstw
2. Zmiana głowy klasyfikacyjnej poprzez dodanie po 2 warstwy dropout i relu()
# Transformer Encoder-Decoder - T5 # Transformer Encoder-Decoder - T5
## Modyfikacje ## Modyfikacje
1. Zamrożenie pierwszych 20 warstw 1. Zamrożenie pierwszych 20 warstw
# Transformer w trybie few-shot/zero-shot learning - ????? # Transformer w trybie few-shot/zero-shot learning - ?????