diff --git a/cw/03_Entropia.ipynb b/cw/03_Entropia.ipynb
new file mode 100644
index 0000000..5edb1a1
--- /dev/null
+++ b/cw/03_Entropia.ipynb
@@ -0,0 +1,528 @@
+{
+ "cells": [
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "![Logo 1](https://git.wmi.amu.edu.pl/AITech/Szablon/raw/branch/master/Logotyp_AITech1.jpg)\n",
+ "
\n",
+ "
Ekstrakcja informacji
\n",
+ " 3. Entropia [ćwiczenia]
\n",
+ " Jakub Pokrywka (2022)
\n",
+ "\n",
+ "\n",
+ "![Logo 2](https://git.wmi.amu.edu.pl/AITech/Szablon/raw/branch/master/Logotyp_AITech2.jpg)"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 1,
+ "metadata": {
+ "scrolled": true
+ },
+ "outputs": [
+ {
+ "name": "stdout",
+ "output_type": "stream",
+ "text": [
+ "Requirement already satisfied: dahuffman in /home/kuba/anaconda3/lib/python3.8/site-packages (0.4.1)\r\n"
+ ]
+ }
+ ],
+ "source": [
+ "!pip install dahuffman"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 2,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "import random\n",
+ "from collections import Counter\n",
+ "from dahuffman import HuffmanCodec"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 3,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "NR_INDEKSU = 375985"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "## Wprowadzenie"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 4,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "tekst = 'Ala ma kota. Jarek ma psa'"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 5,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "codec = HuffmanCodec.from_data(tekst)"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 6,
+ "metadata": {},
+ "outputs": [
+ {
+ "data": {
+ "text/plain": [
+ "Counter({'A': 1,\n",
+ " 'l': 1,\n",
+ " 'a': 6,\n",
+ " ' ': 5,\n",
+ " 'm': 2,\n",
+ " 'k': 2,\n",
+ " 'o': 1,\n",
+ " 't': 1,\n",
+ " '.': 1,\n",
+ " 'J': 1,\n",
+ " 'r': 1,\n",
+ " 'e': 1,\n",
+ " 'p': 1,\n",
+ " 's': 1})"
+ ]
+ },
+ "execution_count": 6,
+ "metadata": {},
+ "output_type": "execute_result"
+ }
+ ],
+ "source": [
+ "Counter(tekst)"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 7,
+ "metadata": {
+ "scrolled": true
+ },
+ "outputs": [
+ {
+ "name": "stdout",
+ "output_type": "stream",
+ "text": [
+ "Bits Code Value Symbol\n",
+ " 2 00 0 ' '\n",
+ " 2 01 1 'a'\n",
+ " 4 1000 8 't'\n",
+ " 5 10010 18 _EOF\n",
+ " 5 10011 19 '.'\n",
+ " 5 10100 20 'A'\n",
+ " 5 10101 21 'J'\n",
+ " 5 10110 22 'e'\n",
+ " 5 10111 23 'l'\n",
+ " 4 1100 12 'k'\n",
+ " 4 1101 13 'm'\n",
+ " 5 11100 28 'o'\n",
+ " 5 11101 29 'p'\n",
+ " 5 11110 30 'r'\n",
+ " 5 11111 31 's'\n"
+ ]
+ }
+ ],
+ "source": [
+ "codec.print_code_table()"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 8,
+ "metadata": {},
+ "outputs": [
+ {
+ "data": {
+ "text/plain": [
+ "{' ': (2, 0),\n",
+ " 'a': (2, 1),\n",
+ " 't': (4, 8),\n",
+ " _EOF: (5, 18),\n",
+ " '.': (5, 19),\n",
+ " 'A': (5, 20),\n",
+ " 'J': (5, 21),\n",
+ " 'e': (5, 22),\n",
+ " 'l': (5, 23),\n",
+ " 'k': (4, 12),\n",
+ " 'm': (4, 13),\n",
+ " 'o': (5, 28),\n",
+ " 'p': (5, 29),\n",
+ " 'r': (5, 30),\n",
+ " 's': (5, 31)}"
+ ]
+ },
+ "execution_count": 8,
+ "metadata": {},
+ "output_type": "execute_result"
+ }
+ ],
+ "source": [
+ "codec.get_code_table()"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 9,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "encoded = codec.encode(tekst)"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 10,
+ "metadata": {},
+ "outputs": [
+ {
+ "data": {
+ "text/plain": [
+ "'1010010111010011010100110011100100001100110010101011111010110110000110101001110111111011'"
+ ]
+ },
+ "execution_count": 10,
+ "metadata": {},
+ "output_type": "execute_result"
+ }
+ ],
+ "source": [
+ "\"{:08b}\".format(int(encoded.hex(),16))"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "A l a"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "101001 10111 01"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 11,
+ "metadata": {},
+ "outputs": [
+ {
+ "data": {
+ "text/plain": [
+ "'Ala ma kota. Jarek ma psa'"
+ ]
+ },
+ "execution_count": 11,
+ "metadata": {},
+ "output_type": "execute_result"
+ }
+ ],
+ "source": [
+ "codec.decode(encoded)"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 12,
+ "metadata": {},
+ "outputs": [
+ {
+ "data": {
+ "text/plain": [
+ "25"
+ ]
+ },
+ "execution_count": 12,
+ "metadata": {},
+ "output_type": "execute_result"
+ }
+ ],
+ "source": [
+ "len(tekst)"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 13,
+ "metadata": {},
+ "outputs": [
+ {
+ "data": {
+ "text/plain": [
+ "11"
+ ]
+ },
+ "execution_count": 13,
+ "metadata": {},
+ "output_type": "execute_result"
+ }
+ ],
+ "source": [
+ "len(encoded)"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "## Zadanie 1 ( 15 punktów)\n",
+ "\n",
+ "Weź teksty:\n",
+ "- z poprzednich zajęć (lub dowolny inny) w języku naturalnym i obetnij do długości 100_000 znaków\n",
+ "- wygenerowany losowo zgodnie z rozkładem jednostajnym dyskretnym z klasy [a-zA-Z0-9 ] o długości 100_000 znaków\n",
+ "- wygenerowany losowo zgodnie z rozkładem geometrycznym (wybierz p między 0.2 a 0.8) z klasy [a-zA-Z0-9 ] o długości 100_000 znaków\n",
+ "- wygenerowany losowo zgodnie z rozkładem jednostajnym dwupunktowym p=0.5 z klasy [01] o długości 100_000 znaków\n",
+ "- wygenerowany losowo zgodnie z rozkładem jednostajnym dwupunktowym p=0.9 z klasy [01] o długości 100_000 znaków\n",
+ "\n",
+ "Następnie dla każdego z tekstów trakując je po znakach:\n",
+ "- skompresuj plik za pomocą dowolnego progrmu (zip, tar lub inny)\n",
+ "- policz entropię\n",
+ "- wytrenuj kodek huffmana i zakoduj cały tekst\n",
+ "- zdekoduj pierwsze 3 znaki (jako zera i jedynki) wypisz je (z oddzieleniem na znaki)\n",
+ "- zakodowany tekst zapisz do pliku binarnego, zapisz również tablicę kodową\n",
+ "- porównaj wielkość pliku tekstowego, skompresowanego pliku tekstowego (zip, ...) oraz pliku skompresowanego hofmmanem (wraz z kodekiem)\n",
+ "\n",
+ "Uzupełnij poniższe tabelki oraz wnioski (conajmniej 5 zdań).\n",
+ "\n"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "### START ZADANIA"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "Entropia\n",
+ " \n",
+ "| | Entropia |\n",
+ "| ----------- | ----------- |\n",
+ "| tekst w jęz. naturalnym | |\n",
+ "| losowy tekst (jednostajny) | |\n",
+ "| losowy tekst (geometryczny)| |\n",
+ "| losowy tekst (dwupunktowy 0.5) | |\n",
+ "| losowy tekst (dwupunktowy 0.9) | |\n"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "Wielkości w bitach:\n",
+ " \n",
+ "| | Plik nieskompresowany | Plik skompresowany (zip, tar,.. ) | Plik skompresowany + tablica kodowa) |\n",
+ "| ----------- | ----------- |-----------|----------- |\n",
+ "| tekst w jęz. naturalnym | | | |\n",
+ "| losowy tekst (jednostajny) | | | |\n",
+ "| losowy tekst (geometryczny)| | | |\n",
+ "| losowy tekst (dwupunktowy 0.5)| | | |\n",
+ "| losowy tekst (dwupunktowy 0.9)| | | |"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "#### Wnioski:"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "### KONIEC ZADANIA"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "## Zadanie 2 (10 punktów)\n",
+ "\n",
+ "Powtórz kroki z zadania 1, tylko potraktuje wiadomości jako słowa (oddzielone spacją). Jeżeli występują więcej niż jedna spacja równocześnie- usuń je.\n",
+ " \n",
+ "Do wniosków dopisz koniecznie porównanie między kodowaniem hoffmana znaków i słów.\n",
+ "\n",
+ "\n",
+ "\n"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "### START ZADANIA"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "Entropia\n",
+ " \n",
+ "| | Entropia |\n",
+ "| ----------- | ----------- |\n",
+ "| tekst w jęz. naturalnym | |\n",
+ "| losowy tekst (dyskretny) | |\n",
+ "| losowy tekst (geometryczny)| |\n"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "Wielkości w bitach:\n",
+ " \n",
+ "| | Plik nieskompresowany | Plik skompresowany (zip, tar,.. ) | Plik skompresowany + tablica kodowa) |\n",
+ "| ----------- | ----------- |-----------|----------- |\n",
+ "| tekst w jęz. naturalnym | | | |\n",
+ "| losowy tekst (jednostajny) | | | |\n",
+ "| losowy tekst (geometryczny)| | | |\n",
+ "| losowy tekst (dwupunktowy 0.5)| | | |\n",
+ "| losowy tekst (dwupunktowy 0.9)| | | |"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "#### Wnioski:"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "### KONIEC ZADANIA"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "## Zadanie 3 (20 punktów)\n",
+ "\n",
+ "stwórz ręcznie drzewo Huffmana (zrób rysunki na kartce i załącz je jako obrazek) oraz zakoduj poniższy tekst "
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 14,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "random.seed(123)\n",
+ "\n",
+ "tekst = list('abcdefghijklmnoprst')\n",
+ "\n",
+ "random.shuffle(tekst)\n",
+ "\n",
+ "tekst = tekst[: 5 + random.randint(1,5)]\n",
+ "\n",
+ "tekst = [a*random.randint(1,4) for a in tekst]\n",
+ "\n",
+ "tekst = [item for sublist in tekst for item in sublist]\n",
+ "\n",
+ "''.join(tekst)\n",
+ "\n",
+ "random.shuffle(tekst)\n",
+ "\n",
+ "tekst = ''.join(tekst)"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 15,
+ "metadata": {},
+ "outputs": [
+ {
+ "data": {
+ "text/plain": [
+ "'ldddmpprphhopd'"
+ ]
+ },
+ "execution_count": 15,
+ "metadata": {},
+ "output_type": "execute_result"
+ }
+ ],
+ "source": [
+ "tekst"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "### Start zadania"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "### Koniec zadania"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "## WYKONANIE ZADAŃ\n",
+ "Zgodnie z instrukcją 01_Kodowanie_tekstu.ipynb"
+ ]
+ }
+ ],
+ "metadata": {
+ "author": "Jakub Pokrywka",
+ "email": "kubapok@wmi.amu.edu.pl",
+ "kernelspec": {
+ "display_name": "Python 3",
+ "language": "python",
+ "name": "python3"
+ },
+ "lang": "pl",
+ "language_info": {
+ "codemirror_mode": {
+ "name": "ipython",
+ "version": 3
+ },
+ "file_extension": ".py",
+ "mimetype": "text/x-python",
+ "name": "python",
+ "nbconvert_exporter": "python",
+ "pygments_lexer": "ipython3",
+ "version": "3.8.3"
+ },
+ "subtitle": "0.Informacje na temat przedmiotu[ćwiczenia]",
+ "title": "Ekstrakcja informacji",
+ "year": "2021"
+ },
+ "nbformat": 4,
+ "nbformat_minor": 4
+}
diff --git a/cw/04_statystyczny_model_językowy.ipynb b/cw/04_statystyczny_model_językowy.ipynb
new file mode 100644
index 0000000..ac776b8
--- /dev/null
+++ b/cw/04_statystyczny_model_językowy.ipynb
@@ -0,0 +1,270 @@
+{
+ "cells": [
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "![Logo 1](https://git.wmi.amu.edu.pl/AITech/Szablon/raw/branch/master/Logotyp_AITech1.jpg)\n",
+ "\n",
+ "
Ekstrakcja informacji
\n",
+ " 4. Statystyczny model językowy [ćwiczenia]
\n",
+ " Jakub Pokrywka (2022)
\n",
+ "\n",
+ "\n",
+ "![Logo 2](https://git.wmi.amu.edu.pl/AITech/Szablon/raw/branch/master/Logotyp_AITech2.jpg)"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 71,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "NR_INDEKSU = 375985"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "https://web.stanford.edu/~jurafsky/slp3/3.pdf"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 72,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "class Model():\n",
+ " \n",
+ " def __init__(self, vocab_size, UNK_token= ''):\n",
+ " pass\n",
+ " \n",
+ " def train(corpus:list) -> None:\n",
+ " pass\n",
+ " \n",
+ " def predict(text: list, probs: str) -> float:\n",
+ " pass"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 73,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "def get_ppl(text: list) -> float:\n",
+ " pass"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 74,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "text = 'Pani Ala ma kota oraz ładnego pieska i 3 chomiki'"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 75,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "text_splitted = text.split(' ')"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 76,
+ "metadata": {
+ "scrolled": true
+ },
+ "outputs": [
+ {
+ "data": {
+ "text/plain": [
+ "['Pani', 'Ala', 'ma', 'kota', 'oraz', 'ładnego', 'pieska', 'i', '3', 'chomiki']"
+ ]
+ },
+ "execution_count": 76,
+ "metadata": {},
+ "output_type": "execute_result"
+ }
+ ],
+ "source": [
+ "text_splitted"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 77,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "text_masked = text_splitted[:4] + [''] + text_splitted[5:]"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 78,
+ "metadata": {},
+ "outputs": [
+ {
+ "data": {
+ "text/plain": [
+ "['Pani',\n",
+ " 'Ala',\n",
+ " 'ma',\n",
+ " 'kota',\n",
+ " '',\n",
+ " 'ładnego',\n",
+ " 'pieska',\n",
+ " 'i',\n",
+ " '3',\n",
+ " 'chomiki']"
+ ]
+ },
+ "execution_count": 78,
+ "metadata": {},
+ "output_type": "execute_result"
+ }
+ ],
+ "source": [
+ "text_masked"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "trigram_model działa na ['ma', 'kota', <'MASK>']"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "trigram_model.predict(['ma', 'kota']) → 'i:0.55 oraz:0.25 czarnego:0.1 :0.1'"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "## ZADANIE:"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 79,
+ "metadata": {},
+ "outputs": [],
+ "source": [
+ "g1 = [470618, 415366, 434695, 470611, 470607]\n",
+ "g2 = [440054, 434742, 434760, 434784, 434788]\n",
+ "g3 = [434804, 430705, 470609, 470619, 434704]\n",
+ "g4 = [434708, 470629, 434732, 434749, 426206]\n",
+ "g5 = [434766, 470628, 437622, 434780, 470627, 440058]"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": 80,
+ "metadata": {},
+ "outputs": [
+ {
+ "name": "stdout",
+ "output_type": "stream",
+ "text": [
+ "proszę zgłosić się do prowadzącego\n"
+ ]
+ }
+ ],
+ "source": [
+ "if NR_INDEKSU in g1:\n",
+ " print('model bigramowy standardowy')\n",
+ "elif NR_INDEKSU in g2:\n",
+ " print('model bigramowy odwrotny')\n",
+ "elif NR_INDEKSU in g3:\n",
+ " print('model trigramowy')\n",
+ "elif NR_INDEKSU in g4:\n",
+ " print('model trigramowy odwrotny')\n",
+ "elif NR_INDEKSU in g5:\n",
+ " print('model trigramowy ze zgadywaniem środka')\n",
+ "else:\n",
+ " print('proszę zgłosić się do prowadzącego')"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "### gonito:\n",
+ "- zapisanie do achievmentu przez start working\n",
+ "- send to review"
+ ]
+ },
+ {
+ "cell_type": "markdown",
+ "metadata": {},
+ "source": [
+ "### ZADANIE\n",
+ "\n",
+ "Proszę stworzyć rozwiązanie modelu (komórka wyżej) dla https://gonito.net/challenge/challenging-america-word-gap-prediction i umieścić je na platformie gonito\n",
+ " \n",
+ "Warunki zaliczenia:\n",
+ "- wynik widoczny na platformie zarówno dla dev i dla test\n",
+ "- wynik dla dev i test lepszy (niższy) od 1024.00\n",
+ "- deadline do końca dnia 27.04\n",
+ "- commitując rozwiązanie proszę również umieścić rozwiązanie w pliku /run.py (czyli na szczycie katalogu). Można przekonwertować jupyter do pliku python przez File → Download as → Python. Rozwiązanie nie musi być w pythonie, może być w innym języku.\n",
+ "- zadania wykonujemy samodzielnie\n",
+ "- w nazwie commita podaj nr indeksu\n",
+ "- w tagach podaj \"n-grams\" (należy zatwierdzić przecinkiem po wybraniu tagu)!\n",
+ "\n",
+ "Uwagi:\n",
+ "\n",
+ "- nie trzeba korzystać z całego zbioru trenującego\n",
+ "- zadanie to 50 punktów, za najlepsze rozwiązanie w swojej grupie (g1,g2,g3,g4,g5), przyznaję dodatkowo 40 punktów\n",
+ "- punkty będą przyznane na gonito\n",
+ "- warto monitorować RAM, próbować z różnym vocab_size, można skorzystać z pythonowego Counter"
+ ]
+ },
+ {
+ "cell_type": "code",
+ "execution_count": null,
+ "metadata": {},
+ "outputs": [],
+ "source": []
+ }
+ ],
+ "metadata": {
+ "author": "Jakub Pokrywka",
+ "email": "kubapok@wmi.amu.edu.pl",
+ "kernelspec": {
+ "display_name": "Python 3",
+ "language": "python",
+ "name": "python3"
+ },
+ "lang": "pl",
+ "language_info": {
+ "codemirror_mode": {
+ "name": "ipython",
+ "version": 3
+ },
+ "file_extension": ".py",
+ "mimetype": "text/x-python",
+ "name": "python",
+ "nbconvert_exporter": "python",
+ "pygments_lexer": "ipython3",
+ "version": "3.8.3"
+ },
+ "subtitle": "0.Informacje na temat przedmiotu[ćwiczenia]",
+ "title": "Ekstrakcja informacji",
+ "year": "2021"
+ },
+ "nbformat": 4,
+ "nbformat_minor": 4
+}