From 3d705588b4a3d24147a4e8e7e5375715c051b654 Mon Sep 17 00:00:00 2001
From: Adrian Charkiewicz <s444354@labs.wmi.amu.edu.pl>
Date: Wed, 20 Apr 2022 12:06:22 +0200
Subject: [PATCH] lab7

---
 lab/07-parsing-semantyczny-gramatyki.ipynb    | 228 ++++++++++++++++++
 .../07-parsing-semantyczny-gramatyki.ipynb    | 228 ++++++++++++++++++
 2 files changed, 456 insertions(+)
 create mode 100644 lab/07-parsing-semantyczny-gramatyki.ipynb
 create mode 100644 tasks/zad7/07-parsing-semantyczny-gramatyki.ipynb

diff --git a/lab/07-parsing-semantyczny-gramatyki.ipynb b/lab/07-parsing-semantyczny-gramatyki.ipynb
new file mode 100644
index 0000000..4bd4686
--- /dev/null
+++ b/lab/07-parsing-semantyczny-gramatyki.ipynb
@@ -0,0 +1,228 @@
+{
+    "cells": [
+        {
+            "cell_type": "markdown",
+            "metadata": {
+                "collapsed": false
+            },
+            "source": [
+                "![Logo 1](https://git.wmi.amu.edu.pl/AITech/Szablon/raw/branch/master/Logotyp_AITech1.jpg)\n",
+                "<div class=\"alert alert-block alert-info\">\n",
+                "<h1> Systemy Dialogowe </h1>\n",
+                "<h2> 7. <i>Parsing semantyczny z wykorzystaniem gramatyk</i>  [laboratoria]</h2> \n",
+                "<h3> Marek Kubis (2021)</h3>\n",
+                "</div>\n",
+                "\n",
+                "![Logo 2](https://git.wmi.amu.edu.pl/AITech/Szablon/raw/branch/master/Logotyp_AITech2.jpg)"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Parsing semantyczny z wykorzystaniem gramatyk\n",
+                "=============================================\n",
+                "\n",
+                "Warto\u015bci slot\u00f3w mo\u017cemy wydobywa\u0107 z wypowiedzi u\u017cytkownika korzystaj\u0105c z takich technik, jak:\n",
+                "\n",
+                " - wyszukiwanie s\u0142\u00f3w kluczowych w tek\u015bcie,\n",
+                "\n",
+                " - dopasowywanie wzorc\u00f3w zbudowanych przy u\u017cyciu wyra\u017ce\u0144 regularnych,\n",
+                "\n",
+                " - parsery regu\u0142owe (temat dzisiejszych zaj\u0119\u0107),\n",
+                "\n",
+                " - uczenie maszynowe (temat kolejnych zaj\u0119\u0107)."
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Przyk\u0142ady parser\u00f3w regu\u0142owych\n",
+                "-----------------------------\n",
+                "\n",
+                " - [Phoenix](http://wiki.speech.cs.cmu.edu/olympus/index.php/Phoenix_Server) \u2014 parser gramatyk\n",
+                "     bezkontekstowych whodz\u0105cy w sk\u0142ad systemu dialogowego [Olympus](http://wiki.speech.cs.cmu.edu/olympus/index.php/Olympus)\n",
+                "\n",
+                " - Parsery [DCG](https://www.swi-prolog.org/pldoc/man?section=DCG) (Definite Clause Grammars) j\u0119zyka [Prolog](https://www.swi-prolog.org/)\n",
+                "\n",
+                " - [JSpeech Grammar Format](https://www.w3.org/TR/jsgf/) (JSGF)\n",
+                "\n",
+                "Przyk\u0142ad\n",
+                "--------\n",
+                "Zapiszmy w JSGF gramatyk\u0119 semantyczn\u0105 dla aktu dialogowego reprezentuj\u0105cego zamiar rezerwacji\n",
+                "stolika w restauracji."
+            ]
+        },
+        {
+            "cell_type": "code",
+            "execution_count": null,
+            "metadata": {},
+            "outputs": [],
+            "source": [
+                "%%writefile book.jsgf\n",
+                "#JSGF V1.0 UTF-8 pl;\n",
+                "\n",
+                "grammar book;\n",
+                "\n",
+                "public <rezerwuj> = chcia\u0142bym zarezerwowa\u0107 stolik <dzien_rezerwacji> <godzina_rezerwacji> <liczba_osob> ;\n",
+                "\n",
+                "<dzien_rezerwacji> = na <dzien> {day};\n",
+                "\n",
+                "<dzien> = dzisiaj | jutro | poniedzia\u0142ek | wtorek | \u015brod\u0119 | czwartek | pi\u0105tek | sobot\u0119 | niedziel\u0119;\n",
+                "\n",
+                "<godzina_rezerwacji> = na [godzin\u0119] <godzina_z_minutami> {hour};\n",
+                "\n",
+                "<godzina_z_minutami> = <godzina> [<minuty>];\n",
+                "\n",
+                "<godzina> = dziewi\u0105t\u0105 | dziesi\u0105t\u0105 | jedenast\u0105 | dwunast\u0105;\n",
+                "\n",
+                "<minuty> = pietna\u015bcie | trzydzie\u015bci;\n",
+                "\n",
+                "<liczba_osob> = (na | dla) <liczba> {size} os\u00f3b;\n",
+                "\n",
+                "<liczba> = dwie | dw\u00f3ch | trzy | trzech | cztery | czterech | pi\u0119\u0107 | pieciu;\n"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Parser akceptuj\u0105cy powy\u017csz\u0105 gramatyk\u0119 utworzymy korzystaj\u0105c z biblioteki [pyjsgf](https://github.com/Danesprite/pyjsgf)."
+            ]
+        },
+        {
+            "cell_type": "code",
+            "execution_count": null,
+            "metadata": {},
+            "outputs": [],
+            "source": [
+                "import jsgf\n",
+                "\n",
+                "book_grammar = jsgf.parse_grammar_file('book.jsgf')\n",
+                "book_grammar"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Wykorzystajmy gramatyk\u0119 `book.jsgf` do analizy nast\u0119puj\u0105cej wypowiedzi"
+            ]
+        },
+        {
+            "cell_type": "code",
+            "execution_count": null,
+            "metadata": {},
+            "outputs": [],
+            "source": [
+                "utterance = 'chcia\u0142bym zarezerwowa\u0107 stolik na jutro na godzin\u0119 dwunast\u0105 trzydzie\u015bci na pi\u0119\u0107 os\u00f3b'\n",
+                "matched = book_grammar.find_matching_rules(utterance)\n",
+                "matched"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Reprezentacj\u0119 znaczenia mo\u017cna wydoby\u0107 ze sparsowanej wypowiedzi na wiele sposob\u00f3w.  My do\n",
+                "wydobywania slot\u00f3w wykorzystamy mechanizm tag\u00f3w JSGF a za nazw\u0119 aktu dialogowego przyjmiemy nazw\u0119\n",
+                "gramatyki. Wzoruj\u0105c si\u0119 na [DSTC2](https://github.com/matthen/dstc) wynikow\u0105 ram\u0119 zapiszemy korzystaj\u0105c ze s\u0142ownika o polach `act` i `slots`."
+            ]
+        },
+        {
+            "cell_type": "code",
+            "execution_count": null,
+            "metadata": {},
+            "outputs": [],
+            "source": [
+                "def get_dialog_act(rule):\n",
+                "    slots = []\n",
+                "    get_slots(rule.expansion, slots)\n",
+                "    return {'act': rule.grammar.name, 'slots': slots}\n",
+                "\n",
+                "def get_slots(expansion, slots):\n",
+                "    if expansion.tag != '':\n",
+                "        slots.append((expansion.tag, expansion.current_match))\n",
+                "        return\n",
+                "\n",
+                "    for child in expansion.children:\n",
+                "        get_slots(child, slots)\n",
+                "\n",
+                "    if not expansion.children and isinstance(expansion, jsgf.NamedRuleRef):\n",
+                "        get_slots(expansion.referenced_rule.expansion, slots)\n",
+                "\n",
+                "get_dialog_act(matched[0])"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "\u0141\u0105cz\u0105c powy\u017csze funkcje mo\u017cemy zbudowa\u0107 prosty modu\u0142 NLU."
+            ]
+        },
+        {
+            "cell_type": "code",
+            "execution_count": null,
+            "metadata": {},
+            "outputs": [],
+            "source": [
+                "def nlu(utterance):\n",
+                "    matched = book_grammar.find_matching_rules(utterance)\n",
+                "\n",
+                "    if matched:\n",
+                "        return get_dialog_act(matched[0])\n",
+                "    else:\n",
+                "        return {'act': 'null', 'slots': []}\n",
+                "\n",
+                "nlu('chcia\u0142bym zarezerwowa\u0107 stolik na jutro na godzin\u0119 dziesi\u0105t\u0105 dla trzech os\u00f3b')"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Problemy\n",
+                "--------\n",
+                "\n",
+                " - Co z normalizacj\u0105 wyra\u017ce\u0144 liczbowych takich, jak godziny, daty czy numery telefon\u00f3w?\n",
+                "\n",
+                " - Co w przypadku gdy wi\u0119cej ni\u017c jedna regu\u0142a zostanie dopasowana?"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Zadanie\n",
+                "-------\n",
+                "Zaimplementowa\u0107 analizator j\u0119zyka naturalnego (NLU) na potrzeby realizowanego agenta dialogowego.\n",
+                "\n",
+                "Modu\u0142 powinien by\u0107 zbudowany z wykorzystaniem parsingu regu\u0142owego i/lub technik uczenia maszynowego.\n",
+                "\n",
+                "Przygotowa\u0107 skrypt `evaluate.py` wyznaczaj\u0105cy *dok\u0142adno\u015b\u0107* (ang. accuracy) analizatora wzgl\u0119dem zgromadzonego korpusu eksperymentalnego,\n",
+                "tj. stosunek liczby wypowiedzi u\u017cytkownika, w kt\u00f3rych akty dialogowe zosta\u0142y rozpoznane prawid\u0142owo do liczby wszystkich wypowiedzi u\u017cytkownika w korpusie.\n",
+                "\n",
+                "Analizator j\u0119zyka naturalnego umie\u015bci\u0107 w ga\u0142\u0119zi `master` repozytorium projektowego. Skrypt `evaluate.py` umie\u015bci\u0107 w katalogu g\u0142\u00f3wnym tej ga\u0142\u0119zi.\n",
+                "\n",
+                "Termin: 4.05.2022, godz. 23:59."
+            ]
+        }
+    ],
+    "metadata": {
+        "jupytext": {
+            "cell_metadata_filter": "-all",
+            "main_language": "python",
+            "notebook_metadata_filter": "-all"
+        },
+        "author": "Marek Kubis",
+        "email": "mkubis@amu.edu.pl",
+        "lang": "pl",
+        "subtitle": "7.Parsing semantyczny z wykorzystaniem gramatyk[laboratoria]",
+        "title": "Systemy Dialogowe",
+        "year": "2021"
+    },
+    "nbformat": 4,
+    "nbformat_minor": 4
+}
\ No newline at end of file
diff --git a/tasks/zad7/07-parsing-semantyczny-gramatyki.ipynb b/tasks/zad7/07-parsing-semantyczny-gramatyki.ipynb
new file mode 100644
index 0000000..4bd4686
--- /dev/null
+++ b/tasks/zad7/07-parsing-semantyczny-gramatyki.ipynb
@@ -0,0 +1,228 @@
+{
+    "cells": [
+        {
+            "cell_type": "markdown",
+            "metadata": {
+                "collapsed": false
+            },
+            "source": [
+                "![Logo 1](https://git.wmi.amu.edu.pl/AITech/Szablon/raw/branch/master/Logotyp_AITech1.jpg)\n",
+                "<div class=\"alert alert-block alert-info\">\n",
+                "<h1> Systemy Dialogowe </h1>\n",
+                "<h2> 7. <i>Parsing semantyczny z wykorzystaniem gramatyk</i>  [laboratoria]</h2> \n",
+                "<h3> Marek Kubis (2021)</h3>\n",
+                "</div>\n",
+                "\n",
+                "![Logo 2](https://git.wmi.amu.edu.pl/AITech/Szablon/raw/branch/master/Logotyp_AITech2.jpg)"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Parsing semantyczny z wykorzystaniem gramatyk\n",
+                "=============================================\n",
+                "\n",
+                "Warto\u015bci slot\u00f3w mo\u017cemy wydobywa\u0107 z wypowiedzi u\u017cytkownika korzystaj\u0105c z takich technik, jak:\n",
+                "\n",
+                " - wyszukiwanie s\u0142\u00f3w kluczowych w tek\u015bcie,\n",
+                "\n",
+                " - dopasowywanie wzorc\u00f3w zbudowanych przy u\u017cyciu wyra\u017ce\u0144 regularnych,\n",
+                "\n",
+                " - parsery regu\u0142owe (temat dzisiejszych zaj\u0119\u0107),\n",
+                "\n",
+                " - uczenie maszynowe (temat kolejnych zaj\u0119\u0107)."
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Przyk\u0142ady parser\u00f3w regu\u0142owych\n",
+                "-----------------------------\n",
+                "\n",
+                " - [Phoenix](http://wiki.speech.cs.cmu.edu/olympus/index.php/Phoenix_Server) \u2014 parser gramatyk\n",
+                "     bezkontekstowych whodz\u0105cy w sk\u0142ad systemu dialogowego [Olympus](http://wiki.speech.cs.cmu.edu/olympus/index.php/Olympus)\n",
+                "\n",
+                " - Parsery [DCG](https://www.swi-prolog.org/pldoc/man?section=DCG) (Definite Clause Grammars) j\u0119zyka [Prolog](https://www.swi-prolog.org/)\n",
+                "\n",
+                " - [JSpeech Grammar Format](https://www.w3.org/TR/jsgf/) (JSGF)\n",
+                "\n",
+                "Przyk\u0142ad\n",
+                "--------\n",
+                "Zapiszmy w JSGF gramatyk\u0119 semantyczn\u0105 dla aktu dialogowego reprezentuj\u0105cego zamiar rezerwacji\n",
+                "stolika w restauracji."
+            ]
+        },
+        {
+            "cell_type": "code",
+            "execution_count": null,
+            "metadata": {},
+            "outputs": [],
+            "source": [
+                "%%writefile book.jsgf\n",
+                "#JSGF V1.0 UTF-8 pl;\n",
+                "\n",
+                "grammar book;\n",
+                "\n",
+                "public <rezerwuj> = chcia\u0142bym zarezerwowa\u0107 stolik <dzien_rezerwacji> <godzina_rezerwacji> <liczba_osob> ;\n",
+                "\n",
+                "<dzien_rezerwacji> = na <dzien> {day};\n",
+                "\n",
+                "<dzien> = dzisiaj | jutro | poniedzia\u0142ek | wtorek | \u015brod\u0119 | czwartek | pi\u0105tek | sobot\u0119 | niedziel\u0119;\n",
+                "\n",
+                "<godzina_rezerwacji> = na [godzin\u0119] <godzina_z_minutami> {hour};\n",
+                "\n",
+                "<godzina_z_minutami> = <godzina> [<minuty>];\n",
+                "\n",
+                "<godzina> = dziewi\u0105t\u0105 | dziesi\u0105t\u0105 | jedenast\u0105 | dwunast\u0105;\n",
+                "\n",
+                "<minuty> = pietna\u015bcie | trzydzie\u015bci;\n",
+                "\n",
+                "<liczba_osob> = (na | dla) <liczba> {size} os\u00f3b;\n",
+                "\n",
+                "<liczba> = dwie | dw\u00f3ch | trzy | trzech | cztery | czterech | pi\u0119\u0107 | pieciu;\n"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Parser akceptuj\u0105cy powy\u017csz\u0105 gramatyk\u0119 utworzymy korzystaj\u0105c z biblioteki [pyjsgf](https://github.com/Danesprite/pyjsgf)."
+            ]
+        },
+        {
+            "cell_type": "code",
+            "execution_count": null,
+            "metadata": {},
+            "outputs": [],
+            "source": [
+                "import jsgf\n",
+                "\n",
+                "book_grammar = jsgf.parse_grammar_file('book.jsgf')\n",
+                "book_grammar"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Wykorzystajmy gramatyk\u0119 `book.jsgf` do analizy nast\u0119puj\u0105cej wypowiedzi"
+            ]
+        },
+        {
+            "cell_type": "code",
+            "execution_count": null,
+            "metadata": {},
+            "outputs": [],
+            "source": [
+                "utterance = 'chcia\u0142bym zarezerwowa\u0107 stolik na jutro na godzin\u0119 dwunast\u0105 trzydzie\u015bci na pi\u0119\u0107 os\u00f3b'\n",
+                "matched = book_grammar.find_matching_rules(utterance)\n",
+                "matched"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Reprezentacj\u0119 znaczenia mo\u017cna wydoby\u0107 ze sparsowanej wypowiedzi na wiele sposob\u00f3w.  My do\n",
+                "wydobywania slot\u00f3w wykorzystamy mechanizm tag\u00f3w JSGF a za nazw\u0119 aktu dialogowego przyjmiemy nazw\u0119\n",
+                "gramatyki. Wzoruj\u0105c si\u0119 na [DSTC2](https://github.com/matthen/dstc) wynikow\u0105 ram\u0119 zapiszemy korzystaj\u0105c ze s\u0142ownika o polach `act` i `slots`."
+            ]
+        },
+        {
+            "cell_type": "code",
+            "execution_count": null,
+            "metadata": {},
+            "outputs": [],
+            "source": [
+                "def get_dialog_act(rule):\n",
+                "    slots = []\n",
+                "    get_slots(rule.expansion, slots)\n",
+                "    return {'act': rule.grammar.name, 'slots': slots}\n",
+                "\n",
+                "def get_slots(expansion, slots):\n",
+                "    if expansion.tag != '':\n",
+                "        slots.append((expansion.tag, expansion.current_match))\n",
+                "        return\n",
+                "\n",
+                "    for child in expansion.children:\n",
+                "        get_slots(child, slots)\n",
+                "\n",
+                "    if not expansion.children and isinstance(expansion, jsgf.NamedRuleRef):\n",
+                "        get_slots(expansion.referenced_rule.expansion, slots)\n",
+                "\n",
+                "get_dialog_act(matched[0])"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "\u0141\u0105cz\u0105c powy\u017csze funkcje mo\u017cemy zbudowa\u0107 prosty modu\u0142 NLU."
+            ]
+        },
+        {
+            "cell_type": "code",
+            "execution_count": null,
+            "metadata": {},
+            "outputs": [],
+            "source": [
+                "def nlu(utterance):\n",
+                "    matched = book_grammar.find_matching_rules(utterance)\n",
+                "\n",
+                "    if matched:\n",
+                "        return get_dialog_act(matched[0])\n",
+                "    else:\n",
+                "        return {'act': 'null', 'slots': []}\n",
+                "\n",
+                "nlu('chcia\u0142bym zarezerwowa\u0107 stolik na jutro na godzin\u0119 dziesi\u0105t\u0105 dla trzech os\u00f3b')"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Problemy\n",
+                "--------\n",
+                "\n",
+                " - Co z normalizacj\u0105 wyra\u017ce\u0144 liczbowych takich, jak godziny, daty czy numery telefon\u00f3w?\n",
+                "\n",
+                " - Co w przypadku gdy wi\u0119cej ni\u017c jedna regu\u0142a zostanie dopasowana?"
+            ]
+        },
+        {
+            "cell_type": "markdown",
+            "metadata": {},
+            "source": [
+                "Zadanie\n",
+                "-------\n",
+                "Zaimplementowa\u0107 analizator j\u0119zyka naturalnego (NLU) na potrzeby realizowanego agenta dialogowego.\n",
+                "\n",
+                "Modu\u0142 powinien by\u0107 zbudowany z wykorzystaniem parsingu regu\u0142owego i/lub technik uczenia maszynowego.\n",
+                "\n",
+                "Przygotowa\u0107 skrypt `evaluate.py` wyznaczaj\u0105cy *dok\u0142adno\u015b\u0107* (ang. accuracy) analizatora wzgl\u0119dem zgromadzonego korpusu eksperymentalnego,\n",
+                "tj. stosunek liczby wypowiedzi u\u017cytkownika, w kt\u00f3rych akty dialogowe zosta\u0142y rozpoznane prawid\u0142owo do liczby wszystkich wypowiedzi u\u017cytkownika w korpusie.\n",
+                "\n",
+                "Analizator j\u0119zyka naturalnego umie\u015bci\u0107 w ga\u0142\u0119zi `master` repozytorium projektowego. Skrypt `evaluate.py` umie\u015bci\u0107 w katalogu g\u0142\u00f3wnym tej ga\u0142\u0119zi.\n",
+                "\n",
+                "Termin: 4.05.2022, godz. 23:59."
+            ]
+        }
+    ],
+    "metadata": {
+        "jupytext": {
+            "cell_metadata_filter": "-all",
+            "main_language": "python",
+            "notebook_metadata_filter": "-all"
+        },
+        "author": "Marek Kubis",
+        "email": "mkubis@amu.edu.pl",
+        "lang": "pl",
+        "subtitle": "7.Parsing semantyczny z wykorzystaniem gramatyk[laboratoria]",
+        "title": "Systemy Dialogowe",
+        "year": "2021"
+    },
+    "nbformat": 4,
+    "nbformat_minor": 4
+}
\ No newline at end of file