From f88edaf1f412e5377fe8c700ed7f46cb6a9dd495 Mon Sep 17 00:00:00 2001 From: =?UTF-8?q?Pawe=C5=82=20Sk=C3=B3rzewski?= Date: Tue, 2 Apr 2024 14:44:37 +0200 Subject: [PATCH] Lab 5 --- ...tystyczny_model_językowy_część_2.ipynb | 266 ++++++++++++++++++ 1 file changed, 266 insertions(+) create mode 100644 lab/05_statystyczny_model_językowy_część_2.ipynb diff --git a/lab/05_statystyczny_model_językowy_część_2.ipynb b/lab/05_statystyczny_model_językowy_część_2.ipynb new file mode 100644 index 0000000..5a4a64e --- /dev/null +++ b/lab/05_statystyczny_model_językowy_część_2.ipynb @@ -0,0 +1,266 @@ +{ + "cells": [ + { + "cell_type": "markdown", + "metadata": {}, + "source": [ + "

Ekstrakcja informacji

\n", + "

5. Statystyczny model językowy część 2 [ćwiczenia]

" + ] + }, + { + "cell_type": "code", + "execution_count": 1, + "metadata": {}, + "outputs": [], + "source": [ + "NR_INDEKSU = 375985" + ] + }, + { + "cell_type": "markdown", + "metadata": {}, + "source": [ + "https://web.stanford.edu/~jurafsky/slp3/3.pdf" + ] + }, + { + "cell_type": "code", + "execution_count": 2, + "metadata": {}, + "outputs": [], + "source": [ + "class Model():\n", + " \n", + " def __init__(self, vocab_size, UNK_token= ''):\n", + " pass\n", + " \n", + " def train(corpus:list) -> None:\n", + " pass\n", + " \n", + " def predict(text: list, probs: str) -> float:\n", + " pass" + ] + }, + { + "cell_type": "code", + "execution_count": 3, + "metadata": {}, + "outputs": [], + "source": [ + "def get_ppl(text: list) -> float:\n", + " pass" + ] + }, + { + "cell_type": "code", + "execution_count": 4, + "metadata": {}, + "outputs": [], + "source": [ + "text = 'Pani Ala ma kota oraz ładnego pieska i 3 chomiki'" + ] + }, + { + "cell_type": "code", + "execution_count": 5, + "metadata": {}, + "outputs": [], + "source": [ + "text_splitted = text.split(' ')" + ] + }, + { + "cell_type": "code", + "execution_count": 6, + "metadata": { + "scrolled": true + }, + "outputs": [ + { + "data": { + "text/plain": [ + "['Pani', 'Ala', 'ma', 'kota', 'oraz', 'ładnego', 'pieska', 'i', '3', 'chomiki']" + ] + }, + "execution_count": 6, + "metadata": {}, + "output_type": "execute_result" + } + ], + "source": [ + "text_splitted" + ] + }, + { + "cell_type": "code", + "execution_count": 7, + "metadata": {}, + "outputs": [], + "source": [ + "text_masked = text_splitted[:4] + [''] + text_splitted[5:]" + ] + }, + { + "cell_type": "code", + "execution_count": 8, + "metadata": {}, + "outputs": [ + { + "data": { + "text/plain": [ + "['Pani',\n", + " 'Ala',\n", + " 'ma',\n", + " 'kota',\n", + " '',\n", + " 'ładnego',\n", + " 'pieska',\n", + " 'i',\n", + " '3',\n", + " 'chomiki']" + ] + }, + "execution_count": 8, + "metadata": {}, + "output_type": "execute_result" + } + ], + "source": [ + "text_masked" + ] + }, + { + "cell_type": "markdown", + "metadata": {}, + "source": [ + "trigram_model działa na ['ma', 'kota', <'MASK>']" + ] + }, + { + "cell_type": "markdown", + "metadata": {}, + "source": [ + "trigram_model.predict(['ma', 'kota']) → 'i:0.55 oraz:0.25 czarnego:0.1 :0.1'" + ] + }, + { + "cell_type": "markdown", + "metadata": {}, + "source": [ + "## ZADANIE:" + ] + }, + { + "cell_type": "code", + "execution_count": 9, + "metadata": {}, + "outputs": [], + "source": [ + "g1 = [470618, 415366, 434695, 470611, 470607]\n", + "g2 = [440054, 434742, 434760, 434784, 434788]\n", + "g3 = [434804, 430705, 470609, 470619, 434704]\n", + "g4 = [434708, 470629, 434732, 434749, 426206]\n", + "g5 = [434766, 470628, 437622, 434780, 470627, 440058]" + ] + }, + { + "cell_type": "code", + "execution_count": 10, + "metadata": {}, + "outputs": [ + { + "name": "stdout", + "output_type": "stream", + "text": [ + "model trigramowy odwrotny\n" + ] + } + ], + "source": [ + "if NR_INDEKSU in g1:\n", + " print('model bigramowy standardowy')\n", + "elif NR_INDEKSU in g2:\n", + " print('model bigramowy odwrotny')\n", + "elif NR_INDEKSU in g3:\n", + " print('model trigramowy')\n", + "elif NR_INDEKSU in g4:\n", + " print('model trigramowy odwrotny')\n", + "elif NR_INDEKSU in g5:\n", + " print('model trigramowy ze zgadywaniem środka')\n", + "else:\n", + " print('proszę zgłosić się do prowadzącego')" + ] + }, + { + "cell_type": "markdown", + "metadata": {}, + "source": [ + "### gonito:\n", + "- zapisanie do achievmentu przez start working\n", + "- send to review" + ] + }, + { + "cell_type": "markdown", + "metadata": {}, + "source": [ + "### ZADANIE\n", + "\n", + "Proszę stworzyć rozwiązanie modelu (komórka wyżej) dla https://gonito.csi.wmi.amu.edu.pl/challenge/challenging-america-word-gap-prediction i umieścić je na platformie gonito\n", + " \n", + "Warunki zaliczenia:\n", + "- wynik widoczny na platformie zarówno dla dev i dla test\n", + "- wynik dla dev i test lepszy (niższy) od 1024.00\n", + "- deadline do końca dnia 24.04.2024\n", + "- commitując rozwiązanie proszę również umieścić rozwiązanie w pliku /run.py (czyli na szczycie katalogu). Można przekonwertować jupyter do pliku python przez File → Download as → Python. Rozwiązanie nie musi być w pythonie, może być w innym języku.\n", + "- zadania wykonujemy samodzielnie\n", + "- w nazwie commita podaj nr indeksu\n", + "- w tagach podaj \"n-grams\" (należy zatwierdzić przecinkiem po wybraniu tagu)!\n", + "\n", + "Uwagi:\n", + "\n", + "- warto wymyślić jakąś metodę wygładazania, bez tego może być bardzo kiepski wynik\n", + "- nie trzeba korzystać z całego zbioru trenującego\n", + "- roziwązanie zadania to **70** punktów,\n", + "- **dodatkowo:** za najlepsze rozwiązanie w grupie przyznaję **40** punktów, za drugie miejsce: **20** punktów, a za trzecie miejsce: **10** punktów\n", + "- warto monitorować RAM, próbować z różnym vocab_size, można skorzystać z pythonowego Counter\n", + "- warto sobie zrobić dodatkowo model unigramowy w ramach ćwiczenia" + ] + }, + { + "cell_type": "code", + "execution_count": null, + "metadata": {}, + "outputs": [], + "source": [] + } + ], + "metadata": { + "author": "Jakub Pokrywka", + "email": "kubapok@wmi.amu.edu.pl", + "kernelspec": { + "display_name": "Python 3", + "language": "python", + "name": "python3" + }, + "lang": "pl", + "language_info": { + "codemirror_mode": { + "name": "ipython", + "version": 3 + }, + "file_extension": ".py", + "mimetype": "text/x-python", + "name": "python", + "nbconvert_exporter": "python", + "pygments_lexer": "ipython3", + "version": "3.8.3" + }, + "subtitle": "0.Informacje na temat przedmiotu[ćwiczenia]", + "title": "Ekstrakcja informacji", + "year": "2021" + }, + "nbformat": 4, + "nbformat_minor": 4 +}