{ "cells": [ { "cell_type": "markdown", "metadata": { "slideshow": { "slide_type": "-" } }, "source": [ "![baner aitech](../grafiki/SE2/logo.jpg \"baner\") \n", "\n", "***\n", "\n", "# Sztuczna empatia 2\n", "## Empatia a prawdziwa Sztuczna Inteligencja\n", "### Joanna Siwek\n", "\n", "***\n", "\n", "### Spis treści\n", "1. [Wstęp](#introduction)\n", "2. [Empatia a doskonała SI. Test Turinga.](#paragraph1)\n", "4. [Zasady z Asimolar](#paragraph2)\n", "3. [Hierarchia emocji. Zachowania empatyczne.](#paragraph3)\n", "4. [Modele empatii](#paragraph4)\n", "5. [Nauka poprzez empatię. Odtwarzanie modelu rozwoju dziecka.](#paragraph5)\n", "7. [Podsumowanie - perspektywy na przyszłość](#paragraph6)\n", "\n", "***\n", "\n", "![baner ue](../grafiki/SE2/ae_ue.jpg \"baner\") " ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Wstęp \n", "
\n", "
Patrząc z punktu widzenia psychologii, osoba nie posiądająca poprawnie działającej empatii nazywana jest psychopatą.
\n", "
Psychopata jest bezduszny, ale czarujący. Będzie oszukiwać i manipulować innymi przy pomocy charyzmy i zastraszania, oraz może skutecznie naśladować uczucia, aby przedstawiać się społeczeństwu jako „normalny”. Psychopata jest zorganizowany w swoim przestępczym myśleniu i zachowaniu i potrafi utrzymać dobrą kontrolę emocjonalną i fizyczną, wykazując niewielkie lub żadne podniecenie emocjonalne, nawet w sytuacjach, które większość uznałaby za groźne lub przerażające. Psychopata doskonale zdaje sobie sprawę, że to co robi jest złe, ale go to nie obchodzi. - Kelly McAleer, [2]
\n", "
Jeżeli człowiek bez prawdziwej empatii jest psychopatą, to czym/kim jest szutczna inteligencja pozbawiona empatii? Psychopatyczna sztuczna inteligencja nie brzmi zbyt zachęcająco. A mimo to planujemy, aby uzbroić sztuczną inteligencję w dużą ilość informacji i możliwości.
\n", "
\n", "
Etyczna sztuczna inteligencja powinna być zaprojektowana w sposób zgodny z wartościami etycznymi społeczeństwa bądź grupy docelowej, w której owa SI ma mieć zastosowanie. Etyka powstaje na dobrze ugruntowanych standardach tego co jest dobre a co złe, określając co człowiek powinien robić, zwykle w odniesieniu do praw, obowiązków, przekonań, cech i zalet [1].
\n", "\n", "
Etyka to ogół norm moralnych uznawanych w pewnym czasie przez jakąś zbiorowość społeczną, jako punkt odniesienia dla oceny i regulacji postępowania, w celu integracji grupy wokół pewnych wartości. W sensie filozoficznym, etyka to nauka dotycząca moralności, rozpatrywana odrębnie w aspektach: normatywnym, jako nauka moralności, oraz opisowo-wyjaśniającym, jako nauka o moralności. - Encyklopedia PWN [10]
\n", " \n", "
Ogólnie rzecz biorąc, etyka w sztucznej inteligencji dzieli się na dwa główne działy: badanie moralnego zachowania maszyn oraz etyka tworzenia sztucznej inteligencji.
\n", "\n", "Etyka skupia się na kilku obszarach zainteresowań \n", "\n", " * odpowiedzialność (kto jest odpowiedzialny za czyn dokonany przez AI, jaka odpowiedzialność spoczywa na twórcach?)\n", " * wyjaśnialność (każda akcja SI powinna być poparta odtwarzalnym procesem decyzyjnym)\n", " * wyrównanie wartości (brak dyskryminacji)\n", " * sprawiedliwość\n", " * prawa użytkownika do swoich danych" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Zasady z Asilomar \n", "
\n", "
W celu uporządkowania zasad etycznych, zarówno tych, jakie powinna spełniać sztuczna inteligencja, jek i tych, które powinni wyznawać jej twórcy, w 2017 w Asilomar, w Kalifornii ponad 100 wiodących naukowców AI stworzło dokument, znany jako Zasady z Asilomar. Odpowiadają one na pytanie, jak stworzyć AI tak, by dotęp do niej był jak najszerszy i by nie spoczywała w rękach jednej korporacji. Obejmują one zasady prowadzenia badań oraz etykę i wartości [3]: \n", "
\n", "\n", "Badania\n", "\n", " * Celem badań nad sztuczną inteligencją jest to, by stworzyć SI pożyteczną dla człowieka.\n", " * Za inwestowaniem w SI powinno iść finansowanie badań nad tym, by SI była pożyteczna dla ludzkości. Takich badań, których elementem sa odważne pytania na temat informatyki, ekonomii, prawa, etyki i społeczeństwa.\n", " * Badacze SI i decydenci polityczni oraz twórcy prawa powinni się ze sobą komunikować. Wymiana wiedzy powinna być zdrowa i konstruktywna.\n", " * Badacze tematu SI i programiści powinni działać na zasadzie współpracy, zaufania i transparentności.\n", " * Należy unikać niezdrowego wyścigu - zespoły pracujące nas SI powinny aktywnie współpracować, by uniknąć sytuacji, w której jego ofiarą padną standardy bezpieczeństwa.\n", "\n", "Etyka i wartości\n", "\n", " * Systemy SI powinny być zabezpieczone przez cały okres działalności operacyjnej.\n", "\n", " * Jeżeli SI wyrządzi krzywdę, powinno być możliwe ustalenie jej przyczyn.\n", "\n", " * Jeśli autonomiczny system ma wpływ na decyzje dotyczące spraw sądowych, to taki przypadek powienien być wystarczająco dobrze wyjasniony - musi istniec możliwość weryfikacji tego przypadku przez kompetentnego człowieka.\n", "\n", " * Projektanci i twórcy zaawansowanych systemów sztucznej inteligencji ponoszą odpowiedzialność za to, w jaki sposób inni będą korzystać z efektów ich pracy i mają też wpływ na konsekwencje użytkowania AI.\n", "\n", " * Wysoce autonomiczne systemy SI powinny byc zaporojektowane w taki sposób, by ich cele i sposób dziąłania były zgodne z wartościami wyznawanymi przez ludzi.\n", "\n", " * Systemy SI powinny byc zaprojektowane i wykorzystywane w sposób zgodny z prawem, wolnością, godnością i kulturową róźnorodnością ludzi.\n", "\n", " * Ludzie powinni miec prawo dostępu do danych, które sami generują, mieć możliwość zarządzania nimi i kontrolowania ich - w sytuacji, gdy SI będzi zdolna do tego, by je analizowac i wykorzystywać.\n", "\n", " * W sytuacji, gdy SI będzie wykorzystywana do zarządzania danymi osobowymi, nie powinno to w żaden nieuzasadniony sposób umniejszać wolności ludzi, ani ich wyobrażenia o tej wolności.\n", "\n", " * Technologie oparte o AI powinny być pożyteczne i wzmacniać pozycje tak wielu ludzi, jak to możliwe.\n", "\n", " * Z ekonomicznych korzyści - dobrobytu stworzonego przez SI - powinna korzystać cała ludzkość.\n", "\n", " * Ludzie powinni wybrać, czy pozostawiać decyzje w rękach SI i w jakim stopniu oddać jej decyzyjność.\n", "\n", " * To, że wysoko zaawansowane systemy SI otrzymają pewną władzę nie powinno negatywnie, a pozytywnie wpływać na procesy społeczne i obywatelskie, od których zależy \"zdrowie\" społeczeństwa. \n", "\n", " * Powinno się unikać wyścigu zbrojeń, związanego z budową śmiercionośnej broni autonomicznej.\n", "\n", " * Powinniśmy unikać kategorycznych założeń na temat spektrum możliwości AI, która powstanie w przyszłości.\n", "\n", " * Powinniśmy być świadomi, że zaawansowana AI może oznaczać potężną zmianę w historii życia na ziemi.\n", "\n", " * Powinniśmy się odpowiednio zabezpieczyć przed ryzykiem, jakie stwarza AI.\n", "\n", " * Należy odpowiednio zabezpieczyć i kontrolować SI, które będą zdolne do samodzielnego polepszania się i kopiowania.\n", "\n", " * Superinteligencja powinna być rozwijana tak, by służyła powszechnie akceptowanym ideałom etycznym, z korzyścią dla całej ludzkości, a nie wyłącznie dla jednego państwa lub organizacji.\n", "
\n", "\n", "
Problem etytki w sztucznej inteligencji jest w tym momencie tematem bardzo chwytliwym. Powstają wciąż nowe prace, starające się zdefiniować cechy, jakie powinna posiadać sztuczna inteligencja. W 2020 roku powstała praca, grupująca wszystkie porządane własności SI. Są to:
\n", "\n", " * transparentność\n", " * sprawiedliwość\n", " * uczciwość\n", " * nie szkodzenie\n", " * odpowiedzialność\n", " * prywatność\n", " * dobroczynność\n", " * wolność i autonomia\n", " * zaufanie\n", " * zrównoważony rozwój\n", " * godność\n", " * solidarność\n", " * open source\n", " * solidność " ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Empatia a doskonała SI. Test Turinga. \n", "
\n", "
Poprzez silną sztuczną inteligencję [11] rozumiemy hipotetyczną zdolność podmiotu do zrozumienia bądź nauczenia się dowolnego zadania intelektualnego, rozwiązywalnego przez człowieka. Może też oznaczać program komputerowy, który może doświadczyć świadomości, samo-świadomości i samo-wiedzy.
\n", "\n", "Inteligencja powinna:\n", "\n", " * Umieć wnioskować, używać strategii, rozwiązywać łamigłówki, dokonywać oceny w wypadku niepewności\n", " * Reprezentować wiedzę, w tym zdroworozsądkową\n", " * Planować\n", " * Uczyć się\n", " * Komunikować w języku naturalnym\n", " * Wykorzystywać wszystkie te zdolności w osiąganiu wspólnych celów\n", "\n", "Kilka ważniejszych testów, które pozwalają sprawdzić, czy mamy do czynienia z prawdziwa sztuczną inteligencą:\n", "\n", " * Test Turinga\n", " * Test kawowy (Woźniak)\n", " * Test studenta (Goertzel)\n", " * Test zatrudnienia\n", "\n", "
Praktycznie, aby określić, czy system jest \"inteligenty\" wykonuje sie test Turinga [4]. Klasyczny test Turinga (1950 r.) polegał na tym, iż pewna osoba przeprowadzała wywiad z dwoma innymi podmiotami - człowiekiem i programem - nie wiedząc, który jest który. Człowiek i komputer zamknięci byli w dwóch osobnych pomieszczeniach, w trzecim znajdował się interogator. Osoba ta zadawała kolejno pytania, na które mieli odpowiedzieć człowiek i komputer. Pytania były rodzaju \"Czy X może mi powiedzieć, czy X gra w szachy?\". Celem \"sztucznej inteligencji\" było jak najlepiej udawać człowieka. Celem człowieka było udowadniać, iż rzeczywiście to on jest człowiekiem. Eksperyment uważano za zdany przez maszynę, jeżeli została ona pomylona z człowiekiem. Turing nazywał ów eksperyment \"grą w naśladowanie\". Jako zadowalający poziom SI określił nierozróżnialność człowieka od maszyny na poziomie 70%. Na ten moment, system który najlepiej zdał test Turinga to Cleverbot, z wynikiem 59.3%.
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "![Schemat testu turinga, Autor: Joanna Siwek, Źródło: Opracowanie własne.](../grafiki/SE2/se2_1.png \"test turinga\") \n", "
Schemat testu turinga. AI, osoba i przeprowadzający wywiad znajdują się w różnych pomieszczeniach. Przeprowadzający wywiad nie wie, z kim rozmawia. Źródło: Opracowanie własne.
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "
Z czasem jednak stwierdzono, iż test Turinga nie odzwierciedla już cech, których wymaga się od sztucznej inteligencji. Użytkownik na obecnym poziomie wymaga już bowiem takich zachowań jak empatia, interakcja, wyobraźnia czy umiejętności społeczne. Pierwszym, problematycznym pytaniem, które można bowiem skierować do potencjalnego SI, to pytanie o to, czy jest człowiekiem czy SI. Czy taka SI powinna skłamać? Jeżeli nie skłamie, nie zostanie zaliczona jako prawdziwa sztuczna inteligencja. Zatem do jakiego poziomu powinno się pozwolić maszynie kłamać? W odpowiedzi na ten problem powstał moralny test Turinga, mający na celu badać istnienie tych cech w sztucznej empatii, bardziej dokładnie oddając jej sposób naśladowania człowieka, już nie jako prosty system dialogowy. Ze zmodyfikowanym testem Turinga nadal wiążą się jednak pewne problemy. Przede wszystkim dlatego, że sama etyka jest dziwacznym połączeniem intuicji, doświadczenia, okoliczności, kultury oraz innych.
\n", "
\n", "\n", "Jako ciekawostka: Cleverbot na pytanie o to, czy kłamie, odpowiada, że tak. Na pytanie czy jest AI, odpowiada, że nie, że jest człowiekiem.\n", "\n", "
\n", "
Zgodnie z teorią neuronauki, aby określić, czy system jest empatyczny, należy zdefiniować cechy i zachowania, które świadczą o empatii. Sa to na przykład [9]:
\n", "\n", " * mimikra\n", " * zarażanie emocjonalne\n", " * troska o stan innej osoby\n", " * zachowania konsolidacyjne (altruizm, pomoc)\n", " * zrozumienie stanu i myśli innej osoby\n", " * wyobrażanie sobie myśli innych\n", " * projekcja siebie w sytuacji innej osoby.\n", "\n", "
\n", "
Poprzez moralny (czy też etyczny) test Turinga, zachowania AI mogą zostać zklasyfikowane do następujących kategorii [12]:
\n", " \n", " * Przetwarzanie kognitywne - Systemy algorytmiczne radzą sobie ze świadomymi, krytycznymi, logicznymi, uważnymi, uzasadnionymi modelami myślenia, jakie spotykamy w systemach eksperckich i programach NLP. \n", " * Przetwarzanie emocjonalne - Programy wnioskują i angażują się w sygnały emocjonalne, które ludzie wysyłają poprzez takie modalności, jak wyraz twarzy, wypowiadane słowa i gesty behawioralne. Zastosowania to: monitorowanie mediów społecznościowych, analityka emocji, empatia robotyczna. \n", " * Przetwarzanie sensoryczne - Wykorzystując sensoryczne i inne kontekstowe informacje środowiskowe, algorytmy sterują rozpoznawaniem twarzy, głosu i gestów, widzeniem komputerowym i teledetekcją. \n", " * Przetwarzanie wirtualne - Systemy sztucznej inteligencji przekładają poznanie, emocje i/lub wrażenia zmysłowe na pożądane, celowe, skuteczne działania, które tworzą scenariusze „następnego najlepszego działania” w inteligentnej robotyce, systemach rekomendacji, automatyzacji procesów robotycznych i pojazdach autonomicznych. \n", "\n", "
\n", "
Jest tylko jeden, bardzo duży problem. Jak zbadać moralność AI, kiedy nie istnieje tylko jedna, uniwersalna etyka? To co w jednej kulturze jest chwalone, w innej jest zakazane, co w jednej grupie społecznej jest normalne, w drugiej jest ekscentryczne.
\n", "
\n", "
Drugim ważnym zarzutem co do moralnego testu Turinga jest pytanie, czyją moralność on tak naprawdę bada. Czy na pewno jest to moralność AI? A może jednak moralność twórców, którzy tą AI stworzyli i zaimplementowali w niej swoje własne wartości?
\n", "
\n", "
Ostatnim przytaczanym zarzutem co do moralnego testu Turinga jest fakt, że nie mierzy on moralności sztucznej inteligencji, a jedynie jej zdolność do udawania moralności. Główny kontrargument przeciwko tej tezie brzmi: ale czy to ważne?
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Hierarchia emocji. Zachowania empatyczne. \n", "
\n", "
Przywołajmy jeszcze raz piramidę emocji, którą poznaliśmy już na wcześniejszych zajęciach. Piramida ta pokazuje, które emocje są najbardziej pierwotne, a które świadczą o największej samoświadomości i inteligencji emocjonalnej. Warto zwrócić uwagę na fakt, że piramida ta wskazuje też kolejność nabywania zdolności do odczuwania poszczególnych emocji w procesie rozwoju. Co więcej, bardzo ważnym jest spostrzeżenie, iż bez \"osiągnięcia\" danego piętra, nie można osiągnąć emocji znajdujących się wyżej w piramidzie. Fakt ten ma duży wpływ na próbę zaimplementowania emocji, empatii i samoświadomości w prawdziwej AI.
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "![Piramida inteligencji emocjonalnej, Autor: Joanna Siwek, Żródło: Opracowanie własne na podstawie [13]](../grafiki/SE2/se2_2.png \"inteligencja emocjonalna\") \n", "
Piramida inteligencji emocjonalnej. Na różnych poziomach znajdują sie różne rodzaje emocji, ustawione względem stopnia skomplikowania oraz kolejności ich nabywania. Żródło: Opracowanie własne na podstawie [13]
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "
Wyczerpujący model empatii, który mógłby być zastosowany do prawdziwej SI, wymagałby zaimplementowania 3 poziomów hierarchicznych zdolności empatycznych [8],[9]:
\n", "\n", " * Zdolności komunikacyjnych - rozpoznania, wyrażania i reprezentacji emocji - tj. mimikry i rezonowania emocjonalnego, na poziomie biologicznym i automatycznym\n", " * Regulacji emocji - systemów sterowania wrodzonymi mechanizmami takimi jak uwaga, ekscytacja i humor\n", " * Mechanizmów kognitywnych - mechanizmów ewaluacji i re-ewaluacji sytuacji, teorii umysłu i symulacji umysłowej." ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "![Hierarchia emocji z zaznaczeniem stopnia świadomości i podziału na emocje fizyczne i psychiczne, Autor: Joanna Siwek, Źródło: [7]](../grafiki/SE2/se2_3.png \"hierarchia emocji\") \n", "
Hierarchia emocji z zaznaczeniem stopnia świadomości i podziału na emocje fizyczne i psychiczne. Źródło: [7].
\n", "
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "
Zarówno rozwój jak i sama hierarchia emocji działa w kierunku od lewego dolnego rogu wykresu do gónego prawego rogu. Oznacza to, że najwcześniejsze i najprostsze są emocje mocno motoryczne, nie wymagające odróżniania siebie od innych, takie jak mimikra, naśladownictwo. Takie stadium rozwoju nazywa się \"ja ekologicznym\" (ecological self). Dopiero rozwój emocjonalny i większa umiejętność odróżnienia siebie od innych pozwala na powstanie \"wyższych\" emocji empatycznych. Możliwość identyfikacji siebie i innych obiektów/ludzi (np. w lustrze, na zdjęciu) oznacza powstanie \"interpersonalnego ja\". Na tym poziomie możliwa jest empatia emocjonalna - np. płacz, gdy komuś obok stała się krzywda. Kolejny poziom rozwoju to \"ja społeczne\" (social self). Jest to stan, kiedy jesteśmy w stanie bezpośrednio rozróżnić pomiędzy sobą a inną osobą (na tym poziomie powstaje zdolność do emocji empatycznych drugiego rzędu, takich jak współczucie i zazdrość).
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "![Hierarchia cech i emocji w rozwoju sztucznej empatii, Autor: Joanna Siwek, Źródło: Opracowanie własne na podstawie [7]](../grafiki/SE2/se2_4.png \"Hierarchia rozwoju emocji\")\n", "
Hierarchia cech i emocji w rozwoju sztucznej empatii. Źródło: Opracowanie własne na podstawie [7].
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "
Na różnym etapie umiejętności oddzielenia siebie od innych powstają różne emocje [7]:
\n", "\n", " * Emocje pierwotne\n", " * Rezonowanie motoryczne\n", " * Pierwsze, proste emocje społeczne\n", " * Przyjmowanie perspektywy\n", " * Metapoznanie\n", " * Regulowanie emocji\n", " * Emocje społeczne" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Modele empatii\n", "
\n", "
W tym momencie istnieje sporo różnych modeli empatii, jednakże wiele z nich opiera się na kilku podstawowych, które są następnie modyfikowane. Omówimy tu te najważniejsze, zebrane w [9].
\n", "\n", "#### Model empatii kognitywnej i emocjonalnej\n", " \n", " Pierwszym a zarazem najbardziej popularnym modelem jest model dzielący empatię na dwie sfery:\n", " \n", " * Emocjonalną - związaną ze sferą bilogiczną i automatyczną, obejmującą takie akcje jak mimikra oraz mechanizmy akcja-perceptron związane z neuronami lustrzanymi\n", " * Kognitywną - związaną ze zdolnością do zrozumienia stanu emocjonalnego innych, przyjmowaniem perspektywy i teorią umysłu.\n", " \n", " Model ten sugeruje, że jądrem empatii jest neuronowa aktywacja samodoświadczenia emocji podczas bycia wystawionym na czynniki emocjonalne doświadczane przez innych.\n", " \n", " \n", "#### Model Matrioszki \n", " \n", " Drugi z modeli to przytoczony już pośrednio model matrioszki (Russian doll model), który polega na określeniu pewnej piramidy zdolności empatycznych, od najbardziej podstawowych i mechanicznych do najbardziej skomplikowanych i społecznych, nabywanych w odpowiedniej kolejności podczas rozwoju człowieka. Ominięcie żadnej z warstw nie jest możliwe, a wszystkie razem są potrzebne do osiągnięcia pełnej empatii.\n", " \n", " \n", "#### Model wielowymiarowy\n", " \n", " Trzeci model to model wielowymiatowy. Wyróżnia on 4 wymiary: antecedens, procesy, rezultaty interpersonalne i rezultaty intrapersonalne. Wszystkie te wymiary składają się na sytuację empatyczną.\n", " \n", " * Antecedens obejmuje charakterystykę osoby (zdolności uwarunkowane biologicznie, historię nauki), a ponadto sytuację (siłę emocji, stopień podobieństwa do sytuacji wcześniej zaistniałej).\n", " * Procesy wytwarzają zachowanie empatyczne\n", " * nie-kognitywne (mimikra, reakcje odruchowe wrodzone)\n", " * proste mechanizmy kognitywne (odruchy nabyte, etykietowanie, asocjacja)\n", " * Wyższe mechanizmy kognitywne (asocjacja lingwistycznam przyjmowanie perspektywy)\n", " * Wyniki intrapersonalne obejmują reultaty równoległe (rezonowanie z celem) i reaktywne (różniące się od emocji celu)\n", " * Wyniki interpersonalne obejmują skótki sytuacji empatycznej dla związku pomiędzy obiektem empatyzującym i obiektem empatyzowanym." ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "![Przegląd teoretycznych modeli empatii i ich komponentów, Autor: Joanna Siwek, Źródło: Opracowanie własne na podstawie [9]](../grafiki/SE2/se2_5.png \"modele teoretyczne\") \n", "
Przegląd teoretycznych modeli empatii i ich komponentów. Źródło: Opracowanie własne na podstawie [9].
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Nauka poprzez empatię. Odtwarzanie modelu rozwoju dziecka\n", "
\n", "
Dzięki odkryciu neuronów lustrzanych, naukowcy zajmujący się sztuczną empatią mogli zacząc poszukiwać związków przyczynowo-skutkowych pomiędzy budową mózgu, rozwojem człowieka i powstawaniem empatii. Badania naukowe dowiodły, iż do 18 miesiąca życia człowieka, dziecko nie wykazuje cech wyższej empatii - nie potrafi wyobrazić sobie emocji czy też myśli innych. Co więcej, do tego wieku dziecko nie rozróżnia w ogóle siebie od innych, bajek/snu od jawy, istot żywych od przedmiotów. Ogólnie - dziecko nie posiada samoświadomości. Stan taki pojawia się dopiero po jakimś czasie, w wyniku interakcji z opiekunem. To spostrzeżenie zachęciło naukowców do tego, aby eksperymentować z próbą przeniesienia interakcji opiekuna z małym dzieckiem w sferę interakcji człowieka i maszyny. Celem tego jest próba wzbudzenia empatii (a potem samoświadomości) u AI, wystawiając je na te same bodźce, które kształtują małego człowieka [14].
\n", "
\n", "
Powstanie empatii u dziecka ma zatem bardzo duży związek z samoświadomością, a mianowicie ze zdolnością odróżnienia siebie od innych. Zgodnie z [7], możliwość kontrolowania emocji jest nabywana stopniowo podczas rozwoju procesu odróżnianiania siebie od innych. Na samym początku dziecko uczy się odróżniać siebie od reszty otoczenia, zarówno obiektów żywych jak i martwych. Dokonuje tego, poprzez próbę synchronizacji z otoczeniem, np. poprzez uderzanie. Następnym krokiem jest interakcja z opiekunem przy pomocy neuronów lustrzanych - dziecko próbuje zsynchronizować się z akcją opiekuna, np. reagując na grę w \"akuku\". Pomaga tu wyolbrzymianie emocji przez opiekuna - im bardziej wyolbrzymione, tym łatwiejsze do zrozumienia przez dziecko - zrozumienia w formie przypisania jako reakcja na daną czynność.
\n", "
\n", "
Kolejnym stadium rozwoju samoświadomości jest rozwój osobowości społecznej. Powstaje ona, kiedy dziecko jest w stanie zsynchronizować się z inną osobą bądź obiektem na płaszczyźnie nie rzeczywistej - na przykład bawiąc się w udawanie przyjęcia z herbatką. Jeszcze większy rozwój wyobraźni prowadzi nareszcie do powstania takich wyższych cech jak współczucie czy zazdrość, które są uważane za osiągnięcie meta-poznania.
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "![Schemat pokazujący, w jaki sposób uczy się dziecko do 18-tego miesiąca życia, Autor: Joanna Siwek, Źródło: Opracowanie własne na podstawie [14]](../grafiki/SE2/se2_6.png \"model dziecka\") \n", "
Schemat pokazujący, w jaki sposób uczy się dziecko do 18-tego miesiąca życia. Źródło: Opracowanie własne na podstawie [14].
\n", "
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "
Koncepcja architektury, pozwalającej na nauczenie SI empatii przy pomocy modelu rozwoju dziecka, obejmuje następujące elementy [7]:
\n", "\n", " * Głównym mechanizmem jest \"rozrywka\" - uczenie przez zabawę\n", " * Obiektem synchronizacji SI może być zarówno człowiek jak i obiekt\n", " * Celem jest osiągnięcie wyższego poziomu rozróżnienia siebie od innych/otoczenia oraz kontrola emocji\n", " * Wytworzenie \"wymyślonych\" akcji w kierunku obiektów jest realizowane poprzez przełączanie akcji z jednego celu na drugi (np. przeniesienie akcji \"uśmiechnij się do opiekuna robiącego \"akuku\"\" na \"uśmiechnij się do misia\")\n", " * Kolejne etapy rozwoju powinny następować dopiero po ukończeniu poprzedniego\n", "\n", "
Na ten moment istnieje kilka projektów, implementujących metody nauki empatii poprzez symulacje rozwoju dziecka. Najbardziej znanym z nich jest robot-dziecko Affetto. Jednym z problemów projektu jest fakt, iż opiekunowie nie wytwarzają więźi z Affetto tak, jak robi to rodzic z dzieckiem, co wpływa na autentyczność emocji i tym samym na skutki uczenia.
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Podsumowanie - perspektywy na przyszłość \n", "
\n", "
Trudnym zadaniem jest nie tylko uzbrojenie sztucznej inteligencji w empatię i moralność, ale już nawet sama weryfikacja tego, czy dana AI jest moralna i empatyczna. Na obecny moment istnieje bardzo szeroka i rozwijająca się dziedzina, której celem jest uwzględnienie emocjii w spektrum zdolności sztucznej inteligencji. Aby ominąć problem narzucania moralności i systemów wartości przez twórców AI, stosuje się m.in. takie zabiegi, jak próba nauczenia AI empatii na takiej samej zasadzie, jak uczy się dziecko. Ogólnie rzecz biorąc, na obecnym etapie rozwoju technologii wiele elementów sztucznej empatii i sztucznej moralności jest już implementowana w istniejących systemach, jednakże od stworzenia prawdziwej, moralnej super sztucznej inteligencji jesteśmy jeszcze daleko.
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Zadania\n", "
\n", "
Zad. 1 Ustal system wartości, jakiemu podlegał będzie Twoj empatyczny chatbot. Zastanów się, jakiej dziedziny będzie dotyczył. Jak wygląda etyka w tej sferze? Jakie cechy charakteru powinien wykazywać Twoj chatbot? Jakich nie powinien wykazywać? Określ granice, jakich nie powinien przekraczać (np. nigdy nie obrażać się na klienta). Określ zasady, których powinien się trzymać w kontaktach z użytkownikiem (np. klient ma zawsze rację). Swoje przemyślenia zbierz w tabeli.
\n", "\n", "
\n", " \n", " Nasz chatbot dotyczy wędkarstwa, które podlega pod sferę zainteresowań i hobby. Symulować będzie swobodną rozmowę dwóch osób. Z tego względu nasz chatbot będzie miał dosyć sporą swobodę w wyrażaniu siebie oraz w reagowaniu na osobę, która będzie z nim rozmawiać. Nasz bot będzie miał za zadanie najpierw delikatnie sprowadzać każdy temat rozmów do tematu wędkarstwa, a gdy to nie odniesie oczekiwanych rezultatów, to stanie się on bardziej natarczywy. Chat zawsze uważa, że to on ma rację i ciężko jest go przekonać do własnych racji. \n", "\n", "
\n", "
\n", "\n", "
Zad. 2 Przeanalizuj przytoczone modele empatii. Wybierz, który z nich zastosujesz do swojego Chatbota. W razie konieczności sięgnij głębiej do literatury. Swój wybór uzasadnij.
\n", "\n", "
\n", " \n", " W ramach naszego projektu wykorzystamy model empatii kognitywnej i emocjonalnej. Model ten najbardziej pasuje do założeń projektu ze względu na silne przywiązanie emocjonalne chatbota do wędkarstwa.\n", "\n", "
\n", "
\n", "\n", "
Zad. 3 Twój Chatbot będzie miał ograniczone możliwości wyrażania swoich uczuć. Jakie uczucia zaimplementujesz? Dlaczego te? Czy spełniają one wymogi, które stawia przez Chatbotem dziedzina, w której będzie zaimplementowany? Zaplanuj, w jaki sposób chatbot będzie wyrażał swoje emocje - słownie, emotikonami, graficznie (rysunki), mimika, wirtualne gesty? Spróbuj znaleźć narzędzia, które pomogą Ci w realizacji tego celu. Zapisz pomysły i znalezione źródła.
\n", "\n", "
\n", " \n", " Nasz bot będzie wyrażał radość, smutek, podirytowanie, obojętność, podekscytowanie oraz zainteresowanie. Głównie będa one wyrażane słownie, ale nie wykluczamy na tym etapie emotikon. W tym celu wykorzystamy materiały grupujące emotki względem danych emocji, np. https://www.frontiersin.org/articles/10.3389/fpsyg.2022.921388/full\n", "\n", "
\n", "
\n", "\n", "
Zad. 4 Jak wyglądały rozmowy z pierwszymi AI? Były...dziwne. Przeczytaj rozmowy pierwszych AI (materiał w języku angielskim):
\n", "
https://web.archive.org/web/20130120161839/http://www.stanford.edu/group/SHR/4-2/text/dialogues.html
\n", "
\n", "\n", "
Zad. 5 Teraz spróbuj porozmawiać cleverbotem: https://www.cleverbot.com/
\n", "
\n", "
Zad.6 Aby określić stopień zaawansowania AI, stosuje się test Turinga. Przeczytaj i wykonaj wizualny test Turing (materiały w języku angielskim):
\n", "https://www.newscientist.com/article/visual-turing-test/\n", "\n", "
\n", " \n", " Uzyskałem 75%\n", "\n", "
" ] }, { "cell_type": "markdown", "metadata": {}, "source": [ "### Źródła:\n", "\n", "[1] https://www.ibm.com/watson/assets/duo/pdf/everydayethics.pdf\n", "\n", "[2] https://towardsdatascience.com/empathy-in-artificial-intelligence-eb167f62af99\n", "\n", "[3] https://www.oecd.org/going-digital/ai-intelligent-machines-smart-policies/conference-agenda/ai-intelligent-machines-smart-policies-oheigeartaigh.pdf\n", "\n", "[4] https://plato.stanford.edu/entries/turing-test/\n", "\n", "[5] https://encyklopedia.pwn.pl/haslo/etyka;3898956.html\n", "\n", "[6] Jobin, Anna; Ienca, Marcello; Vayena, Effy (2 September 2020). \"The global landscape of AI ethics guidelines\". Nature. 1 (9): 389–399. arXiv:1906.11668. doi:10.1038/s42256-019-0088-2. S2CID 201827642.\n", "\n", "[7] Asada, M. Towards Artificial Empathy. Int J of Soc Robotics 7, 19–33 (2015). https://doi.org/10.1007/s12369-014-0253-z\n", "\n", "[8] Özge Nilay Yalçın, 2020, Empathy framework for embodied conversational agents, Cognitive Systems Research, Volume 59, pp. 123-132, ISSN 1389-0417, https://doi.org/10.1016/j.cogsys.2019.09.016.\n", "\n", "[9] Yalçın, Ö.N., DiPaola, S. Modeling empathy: building a link between affective and cognitive processes. Artif Intell Rev 53, 2983–3006 (2020). https://doi.org/10.1007\n", "\n", "[10] https://en.wikipedia.org/wiki/Ethics_of_artificial_intelligence\n", "\n", "[11] https://en.wikipedia.org/wiki/Artificial_general_intelligence\n", "\n", "[12] https://www.infoworld.com/article/3606472/developing-a-turing-test-for-ethical-ai.html\n", "\n", "[13] Drigas, A.S.; Papoutsi, C. A New Layered Model on Emotional Intelligence. Behav. Sci. 2018, 8, 45. https://doi.org/10.3390/bs8050045\n", "\n", "[14] Minoru Asada,2015, Development of artificial empathy,Neuroscience Research, Vol. 90, pp. 41-50, ISSN 0168-0102, https://doi.org/10.1016/j.neures.2014.12.002." ] } ], "metadata": { "author": "Joanna Siwek", "email": "jsiwek@amu.edu.pl", "kernelspec": { "display_name": "Python 3 (ipykernel)", "language": "python", "name": "python3" }, "lang": "pl", "language_info": { "codemirror_mode": { "name": "ipython", "version": 3 }, "file_extension": ".py", "mimetype": "text/x-python", "name": "python", "nbconvert_exporter": "python", "pygments_lexer": "ipython3", "version": "3.9.2" }, "subtitle": "2. Empatia a prawdziwa Sztuczna Inteligencja", "title": "Sztuczna empatia", "year": "2021" }, "nbformat": 4, "nbformat_minor": 4 }