pms
/
moj-2024
3
3
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity

Lab 4

This commit is contained in:
Paweł Skórzewski 2024-03-27 12:05:16 +01:00
parent 116aa493ce
commit ef8708b144
1 changed files with 13 additions and 14 deletions
Show Stats Download Patch File Download Diff File Expand all files Collapse all files

27
lab/04_statystyczny_model_językowy.ipynb
View File

@ -26,33 +26,30 @@
}, },
{ {
"cell_type": "code", "cell_type": "code",
"execution_count": 36, "execution_count": 3,
"metadata": {}, "metadata": {},
"outputs": [], "outputs": [],
"source": [ "source": [
"class Model():\n", "class Model():\n",
" \n", " \n",
" def __init__(self, vocab_size=30_000, UNK_token= '<UNK>'):\n", " def __init__(self, vocab_size=30_000, UNK_token= '<UNK>', n=2):\n",
" # n - parametr dla \"n\"-gramów\n",
" pass\n", " pass\n",
" \n", " \n",
" def train(corpus:list) -> None:\n", " def train(self, corpus:list) -> None:\n",
" pass\n", " pass\n",
" \n", " \n",
" def get_conditional_prob_for_word(text: list, word: str) -> float:\n", " def get_conditional_prob_for_word(self, text: list, word: str) -> float:\n",
" pass\n", " pass\n",
" \n", " \n",
" def get_prob_for_text(text: list) -> float:\n", " def get_prob_for_text(self, text: list) -> float:\n",
" pass\n", " pass\n",
" \n", " \n",
" def most_probable_next_word(text:list) -> str:\n", " def most_probable_next_word(self, text:list) -> str:\n",
" 'nie powinien zwracań nigdy <UNK>'\n", " 'nie powinien zwracań nigdy <UNK>'\n",
" pass\n", " pass\n",
" \n", " \n",
" def high_probable_next_word(text:list) -> str:\n", " def generate_text(self, text_beggining:list, length: int, greedy: bool) -> list:\n",
" 'nie powinien zwracań nigdy <UNK>'\n",
" pass\n",
" \n",
" def generate_text(text_beggining:list, length: int, greedy: bool) -> list:\n",
" 'nie powinien zwracań nigdy <UNK>'\n", " 'nie powinien zwracań nigdy <UNK>'\n",
" pass" " pass"
] ]
@ -91,10 +88,12 @@
"- Wymyśl 5 krótkich zdań. Dla każdego oblicz jego prawdopodobieństwo.\n", "- Wymyśl 5 krótkich zdań. Dla każdego oblicz jego prawdopodobieństwo.\n",
"- Napisz włąsnoręcznie funkcję, która liczy perplexity na korpusie i policz perplexity na każdym z modeli dla podzbiorów train i test.\n", "- Napisz włąsnoręcznie funkcję, która liczy perplexity na korpusie i policz perplexity na każdym z modeli dla podzbiorów train i test.\n",
"- Wygeneruj tekst, zaczynając od wymyślonych 5 początków. Postaraj się, żeby dla obu funkcji, a przynajmniej dla `high_probable_next_word`, teksty były orginalne.\n", "- Wygeneruj tekst, zaczynając od wymyślonych 5 początków. Postaraj się, żeby dla obu funkcji, a przynajmniej dla `high_probable_next_word`, teksty były orginalne.\n",
"- Stwórz model dla korpusu z ZADANIE 1 i policz perplexity dla każdego z tekstów (zrób split 90/10) dla train i test.\n", "- Stwórz model dla korpusu z ZADANIE 1 i policz perplexity dla każdego z tekstów (zrób split 9:1) dla train i test.\n",
"\n",
"Dodatkowo:\n",
"- Dokonaj klasyfikacji za pomocą modelu językowego.\n", "- Dokonaj klasyfikacji za pomocą modelu językowego.\n",
"- Zastosuj wygładzanie metodą Laplace'a.\n", " - Znajdź duży zbiór danych dla klasyfikacji binarnej, wytrenuj osobne modele dla każdej z klas i użyj dla klasyfikacji.\n",
"- Znajdź duży zbiór danych dla klasyfikacji binarnej, wytrenuj osobne modele dla każdej z klas i użyj dla klasyfikacji." "- Zastosuj wygładzanie metodą Laplace'a."
] ]
}, },
{ {