{\Huge\bf Generowanie muzyki \\[4pt] przy pomocy głębokiego uczenia\\}
\vspace{0.8cm}
{\large\bf Music generation with deep learning\\}
\end{center}
\vspace{3cm}
\hspace{7.5cm}{Praca licencjacka}\\[-12pt]
\hspace{7.5cm}{napisana pod kierunkiem}\\[-12pt]
\hspace{7.5cm}{dr hab. Tomasza Góreckiego}
\vspace{2.2cm}
\begin{center}
\textsc{POZNAŃ 2020}
\end{center}
% Koniec strony tytułowej
\clearpage\thispagestyle{empty}\cleardoublepage
% Oświadczenie
\thispagestyle{empty}
\begin{flushright}
Poznań, dnia .....................
\end{flushright}
\vglue 2.4 cm
\begin{center}
\large\bf OŚWIADCZENIE
\end{center}
\vglue 1.2 cm
Ja, niżej podpisany Cezary Pukownik, student Wydziału Matematyki i Informatyki Uniwersytetu im. Adama Mickiewicza w Poznaniu oświadczam, że przedkładaną pracę dyplomową pt: "Generowanie muzyki przy pomocy głębokiego uczenia", napisałem samodzielnie. Oznacza to, że przy pisaniu pracy, poza niezbędnymi konsultacjami, nie korzystałem z pomocy innych osób, a w szczególności nie zlecałem opracowania rozprawy lub jej części innym osobom, ani nie odpisywałem tej rozprawy lub jej części od innych osób.
Oświadczam również, że egzemplarz pracy dyplomowej w wersji drukowanej jest całkowicie zgodny z egzemplarzem pracy dyplomowej w wersji elektronicznej.
Jednocześnie przyjmuję do wiadomości, że przypisanie sobie, w pracy dyplomowej, autorstwa istotnego fragmentu lub innych elementów cudzego utworu lub ustalenia naukowego stanowi podstawę stwierdzenia nieważności postępowania w sprawie nadania tytułu zawodowego.
\bigskip
\noindent$[TAK]^{\star}$ - wyrażam zgodę na udostępnianie mojej pracy w czytelni Archiwum UAM
\medskip
\noindent$[TAK]^{\star}$ - wyrażam zgodę na udostępnianie mojej pracy w zakresie koniecznym do ochrony mojego prawa do autorstwa lub praw osób trzecich
\vglue 1.2 cm
\noindent{\small$^{\star}$Należy wpisać TAK w przypadku wyrażenia zgody na udostępnianie pracy w czytelni Archiwum UAM, NIE w przypadku braku zgody. Niewypełnienie pola oznacza brak zgody na udostępnianie pracy.}
Uczenie maszynowe w ostatnich latach mocno zyskało na popularności. Zastosowania i możliwości różnych algorytmów Mashine Learning czasami przekraczają nasze wyobrażenie o tym co komputer może zrobić. Niektóre aplikacje potrafią wręcz zaskoczyć użytkowników tym co potrafią zrobić. Wśród takich aplikacji znajdują się takie, które potrafią przewidywać następne wartości akcji giełdowych, rozpoznawać na filmie obiekty w czasie rzeczywistym, czy nawet prowadzić samochód. Algorytmy wyuczone proponują nam spersonalizowane reklamy, czy produkty na podstawie naszych upodobań. Najczęstsze zastosowania dotyczą przetwarzania obrazów lub tekstu, natomiast zastosowania w przetwarzaniu muzyki są niszowe i rzadko spotykane.
W pierwszej częsci swojej pracy przedstawię podstawowe koncepcje związane z muzyką oraz sposobami jej reprezentacji. Następnie opiszę w jaki sposób działają sieci neuronowe, jak się uczą oraz podstawowe architektury sieci, które pomogą zrozumieć model który wykorzystałem.
Następnie przedstawię koncepcję działania modelu, jakie idee stały za wyborami które podjąłem w projektowaniu sieci. W szczegółowy sposób opiszę sposób ekstrakcji danych, tak aby mogły być one wykorzystane przez model. Opiszę architekturę którą wybrałem oraz przedstawię i opisze fragmenty kodu w języku python.
W kolejnym rozdziale skupimy się na rezultatach pracy, przedstawie zalety i wady modelu. Przeprowadze analizę jakie muzyczne koncepcje model się nauczył na podstawie danych oraz doprowadzę do ostatecznej konkluzji czy wygenerowana muzyka może być przyjemna dla odbiorcy.
Aby lepiej zrozumieć, w jaki sposób odpowiednio skonstruowane sieci neuronowe potrafią sprostać takiemu zadaniu jak generowanie muzyki, w tym rozdziale przedstawię od podstaw zasady działania sieci neuronowych. Opiszę w jaki sposób można od regresji liniowej przejść do prostych sieci oraz w jaki sposób uczy się sieci neuronowe. Ostatecznie przedstawię architektury które wykorzystałem w projekcie.
Podstawą wszystkich sieci neuronowych, jest regresja liniowa. W statystyce wykorzystywana aby wyjaśnić liniowe zalezności między zmiennymi. Wyróżnia się dwa rodzaje
Zadaniem jest znalezienie takiego parametru $a\in\mathbb{R}$ oraz wyrazu wolnego $b \in\mathbb{R}$, aby dla znanych wartości $x \in\mathbb{R}$ estymacja zmiennej objasnianej $\hat{y}\in\mathbb{R}$ najlepiej opisywała zmienną objasnaną $y \in\mathbb{R}$. Tak zdefiniowany model, opisuje zmienną $y$ z dokładnością do składnika losowego. W praktyce oznacza to że szacowane modele będą przybliżeniem opisywanych zależności.
Wartość zmiennej objaśnianej $y$ można również opisać za pomocą wielu zmiennych objaśniająych. Wtedy dla zmiennych objaśniającej $x_1, x_2, ... , x_n \in\mathbb{R}$ szukamy parametrów $\theta_1, \theta_2, ... ,\theta_n \in\mathbb{R}$. Otrzymany w ten sposób model nazywany jest również hipotezą i oznaczamy go $h(x)$.
Celem uczenia modelu jest znalezienie ogólnych parametrów, aby model dla wartości wejściowych $x$ zwracał wartości predykcji $\hat{y}$ najlepiej opisujące całe zjawisko według pewnego kryterium. Formalnie, aby suma wszystkich różnic między predykcją a rzeczywistością była najmniejsza.
\] , gdzie $m \in\mathbb{N}$ jest wielkością zbioru danych jakim dysponujemy. Minimalizując bład dla modelu jesteśmy wstanie znaleźć przybliżenie funkcji $h(x)$.
W tym celu używa się funkcji $J_\theta(h)$, która zwraca wartość błędu między wartościami $h(x)$ oraz $y$ dla wszystkich obserwacji. Taka funkcja nazywana jest funkcją kosztu (cost function).
Przy zdefiniowanej funkcji kosztu proces uczenia sprowadza się do znalezienia takich parametrów funkcji $h(x)$, aby funkcja kosztu była najmniejsza. Jest to problem optymalizacyjny sprowadzający się do znalezienia globalnego minimum funkcji.
Aby znaleźć minimum funkcji $f$ możemy skorzystać z analizy matematycznej. Wiemy, że jeśli funkcja $f$ jest różniczkowalna to funkcja może przyjmować minimum lokalne, gdy $f'(x_0)=0$ dla pewnego $x_0$ z dzieniny funkcji $f$. Dodatkowo jeśli istanieje otoczenie punktu $x_0$, że dla wszystkich punktów z tego otoczenia spełniona jest nierówność:
\[ f(x)>f(x_0)\]
to znaleziony punkt $x_0$ jest minimum lokalnym.
W teorii, należałoby zatem wybrać taką funkcję kosztu, aby była różniczkowalna. Obliczyć równanie $J_\theta'(h)=0$, następnie dla otrzymanych wyników sprawdzić powyższą nierówność oraz wybrać najmniejszy wynik ze wszystkich\footnote{źródlo: Analiza matematyczna, Krysicki Włodarski, s.187 }. W praktyce rozwiązanie takie równania ze względu na jego złożoność może się okazać niewykonalne. Aby rozwiązać ten problem powstały inne metody, które pozwalają szukać ekstremów funkcji, jednak nigdy nie będziemy mieli pewności że otrzymany wynik jest minimum globalnym funkcji kosztu.
\subsection{Metody gradientowe}
Metody gradientowe są to iteracyjne algorytmy służące do znajdowania minimum funkcji. Aby móc skorzystać z metod gradientowych analizowana funkcja musi być ciągła oraz różniczkowalna. Sposób działania ich można intuicyjnie opisać w nastepujących krokach.
Następnie policzyć wszystkie pochodne cześciowe $\frac{\partial J_\theta(h)}{\partial\theta_i}$. Otrzymamy w ten sposób gradient $\nabla J_\theta(h)$, gdzie
gdzie $\alpha\in\mathbb{R}$ jest współczynnikiem uczenia (learning rate). Proces ten należy powtarzać do pewnego momentu. Najczęśćiej z góry określoną liczbę razy lub do momentu, gdy uzysk funkcji kosztu spowodowany nastepną iteracją jest mniejszy niż ustalona wartość. Otrzymany w ten sposób wektor parametrów $\Theta_k$ jest wynikiem algorytmu.\footnote{Deep Learning techniques for music geneation - A survay s.44}
Wykorzystując metody gradientowe, otrzymujemy wyuczony model. Parametry $\theta_i$ modelu $h(x)$, zostały ustalone w taki sposób, aby błąd między predykcją, a rzeczywistością był najmniejszy.
\section{Regresja liniowa jako model sieci neuronowej}
\label{section:linreg}
Omawiany model regresji, możemy zapisać w sposób graficzny, tak jak przedstawiono na rysunku ~\ref{fig:neural_model_one}.
\caption{Regresja liniowa jako model sieci neuronowej}
\label{fig:neural_model_one}
\end{figure}
Każdy węzeł z lewej strony reprezentuje zmienną objaśniającą $x_i$. Połączenia nazywane są wagami i reprezentują one parametry $\theta_i$. Węzeł z prawej strony oznaczony jako $\hat{y}$, jest sumą iloczynów wag oraz wartości węzłów z prawej strony. Wtedy
W łatwy sposób możemy rozbudować ten model, do regresji liniowej wielu zmiennych. Predykcją modelu nie będzie jak do tej pory jedna wartość $\hat{y}$ tylko wektor wartości $\hat{y_1}, \hat{y_2}, \dots , \hat{y_m}$, który oznaczać bedziemy jako $\hat{Y}$. Model ten zostal przedstawiony na rysunku~\ref{fig:neural_model_multi}.
\caption{Regresja liniowa wielu zmiennych jako model sieci nauronowej}
\label{fig:neural_model_multi}
\end{figure}
Dla uogólnienia, pojedyncze wagi modelu zapisywać będę jako $w_{nm}$, natomiast macierz wag jako $W$. Algebricznie zapisalibyśmy ten model jako
\[
\begin{bmatrix}
1 & 1 &\dots& 1\\
x_{11}& x_{12}&\dots& x_{1m}\\
x_{21}& x_{22}&\dots& x_{2m}\\
\vdots&\vdots&\ddots&\vdots\\
x_{n1}& x_{12}&\dots& x_{nm}\\
\end{bmatrix}
\begin{bmatrix}
b_1 & w_{11}& w_{12}&\dots& w_{1n}\\
b_2 & w_{21}& w_{22}&\dots& w_{2n}\\
\vdots&\vdots&\vdots&\ddots&\vdots\\
b_m & w_{m1}& w_{m2}&\dots& w_{mn}\\
\end{bmatrix}
=
\begin{bmatrix}
h_1(x) \\ h_2(x) \\\vdots\\ h_m(x)
\end{bmatrix}
=
\begin{bmatrix}
\hat{y_1}\\\hat{y_2}\\\vdots\\\hat{y_m}
\end{bmatrix}
\]
\[
b+XW = \hat{Y}
\]
Gdzie, $n$ jest liczbą zmiennych niezależnych, $m$ jest liczbą zmiennych zaleznych, $X$ jest rozszerzonym do macierzy o rozmiarach $m$ x $n$ wektorem zmiennych objaśniających w taki sposób, że $x_{i1}= x_{i2}=\dots= x_{in}$ dla $i =1, 2, ..., m$, $W$ jest macierzą wag o rozmiarach $n$ x $m$ natomiast $b$ jest sumą wyrazów wolnych $b_1, ... ,b_m$ nazywaną biasem (bias). Możemy zauważyć, że model dla wielu zmiennych, jest wieloma modelami dla jednej zmiennej, gdzie każdy model operuje na tych samych danych wejściowych. Taki model może być uznany na sieć neuronową i nazywany jest perceptronem.
\section{Funkcje aktywacji}
Omawiany model służy rozwiązywaniu problemu regresji. Ponieważ wartości predykcji nie są uregulowane, moga przyjmować wartości z $\mathbb{R}$. Aby przekształcić ten model aby móc go wykorzystać do rozwiązania problemu klasifikacji, należy dodatkowo na otrzymanym wektorze $\hat{Y}$ wykonać pewną funkcję, która przekształci wynik. W tym celu uzywamy funkcji aktywacji (activation function). Istnieje wiele rodzaji funkcji aktywacji, każda posiada inny wpływ na model. Najpopularnijeszą grupą fukcji są funkcje sigmoidalne (sigmoid functions). Jedną z nich jest funkcja logistyczna (logistic curve) o wzrorze
\[
\sigma(x) = \frac{1}{1+e^{-x}}
\]
oraz wykresie przedstawionym na rysunku~\ref{fig:sigmoid}
Funkcja logistyczna, ma pewne użyteczne właściwości, które pozwolą kontrolować wartości węzłów, oraz zamienić wartości z całego $\mathbb{R}$ do wartości z przedziału $(0,1)$. Dzięki tej własciwości, funkcja logistyczna jest często uzywana aby otrzymać prawdopodobieństwo wystąpienia pewnego zdarzenia. Dodatkowo funkcja logistyczna szybko przyjmuje wartości skrajne, co oznacza że dla bardzo dużych wartości ujemnych i bardzo dużych wartości dodatnich, funkcja staje się mało wrażliwa na zmiany wartości, wraz ze zmianą wartości argumentu. \footnote{Deep Learning Book, s.66}
W ten sposób, możemy w łatwy sposób zmienić model regresji liniowej, na model regresji logistycznej.
\[
\sigma(b+XW) = \hat{Y}
\]
W dalszych cześciach pracy, kiedy bedę używał funcji aktywacji, nie wskazując na konkretną funckcję będe wykorzystywał oznaczenie $AF(x)$.
\section{Głębokie sieci neuronowe}
Model omawiany wcześniej może posłużyć jako podstawowy element do budowania bardziej skomplikowanych modeli. Aby to zrobić, należy potraktować otrzymany wektor $\hat{Y}$ jako wektor wejściowy do następngo podstawowego modelu. Składając ze sobą wiele modeli, mówimy o warstwach (layers) modelu sieci neuronowej.
Wyróżniamy trzy rodzaje warstw:
\begin{itemize}
\item warstwa wejściowa (input layer) jest pierwszą warstwą modelu,
\item warstwa wyjściowa (output layer) jest ostatnią wartstwą modelu
\item wartwa ukryta (hidden layer) jest warswą pomiędzy warstwą wejsciową oraz wyjściową.
\end{itemize}
Na rysunku~\ref{fig:neural_net_1} przedstawiono przykład posiadający warswę wejściową, dwie wartswy ukryte oraz wartswę wyjsciową.
Tego typu modele są głębokimi sieciami neuronowymi (deep neural networks). Istnieje wiele różnich architektur głębokich sieci neuronowych, które wykorzystują te podstawowe koncepcje i rozszerzają je o dodatkowe warstwy, połącznia, funkcje aktywacji czy specjalne komórki (węzły).
\subsection{Jednokierunkowe sieci neuronowe}
Jednokierunkowe sieci neuronowe (feedforward neural networks) są to najprostrze sieci neuronowe, które wprost czerpią z omówionych wcześniej podstawowych wartsw. Możemy się również spotkać z nazwą wielowarstwowy perceptron (multi layer perceptron - MLP) ze względu na fakt, że jest zbudowany z wielu perceptronów zaprezentoanych w części~\ref{section:linreg}. Działają one w taki sposób, że zasila się je danymi do warstwy wejściowej, następnie sukcesywnie wykonuje się obliczenia do momentu dotarcia do końca sieci.
Każdy krok z warstwy $k-1$ do warstwy $k$ obliczany jest zgodnie ze wzorem \footnote{Deep Learning techniques for music geneation - A survay s.63}
\[
X_k = AF(b_k + W_kX_{k-1})
\]
\subsection{Propagacja wsteczna błędu}
Kiedy uzywamy jednokierunkowych sieci neuronowych, zasilamy je danymi wejściowymi $x$ ostatecznie otrzymując predykcję $\hat(y)$. Taki sposób działania nazywa się propagcją wprzód (foreward propagation). Podczas uczenia sieci kontynuuje się ten proces obliczając koszt $J(h)$. Propagacja wsteczna (back-propagation), pozwala na przepływ informacji od funkcji kosztu wstecz sieci neuronowej aby ostatecznie obliczyć gradient. Zasada działania algorytmu propagacji wsteczniej błędu, polega na sukcesywnym aktualizowaniu wag i biasów, oraz przesyłaniu wstecz po warstwach sieci. Dzięki temu jesteśmy wstanie wyuczyć sieć oraz obliczyć optymalne wagi i biasy dla całej sieci.
\subsection{Autoencodery}
Autoencoder jest to rodzaj głębokiej sieci neuronowej, zbudowany z jednej warstwy ukrytej. Dodatkowo rozmiar wartwy wejściowej musi być równy rozmiarowi wartwy wyjściowej, tworząc w ten sposób symetryczną sieć, której kształt przypomina klepsydrę. Przykład autoencodera przedstawiono na rysunku ~\ref{fig:autoencoder}.
Podczas uczenia autoencodera, przedstawia się dane wejściowe jako cel. W ten sposób ta architektura stara się odtworzyć funckje identyczności. Zadanie nie jest trywialne jak mogło by się zdawać ponieważ zazwyczaj ukryta warstwa jest mniejszego rozmiaru niż dane wejściowe. Przez to autoencoder jest zmuszony do wydobycia istotnych cech danych wejściowych, skompresowania a następnie jak najwierniejszego ich odtworzenia. Część kompresująca dane nazywana jest encoderem, natomiast część dekompresująca decoderem.
Wektor cech, które zostały odkryte przez autoencoder nazywane są zmiennymi utajnionymi (latent variables). Zarówno encoder jak i dekoder można wyodrębnić z autoencodera i wykorzystywać go jako osobną sieć neuronową.
Ciekawą cechą decodera, jest jego generatywny charakter, ponieważ dostarczając zupełnie nowe informacje jako zmienne wejściowe, decoder odtworzy je na podobieństwo danych, na których został nauczony.
\subsection{Rekurencyjne sieci neuronowe}
Rekurencyjne sieci neuronowe (recurrent neural networks - RNN) w uproszczeniu, są to MLP posiadające pamięć. Neurony tego typu sieci, różnią się od zwykłych neuronów ponieważ posiadają one dwa parametry zmiast jednego, obecny stan oraz poprzednią predycję.
Drgania powietrza z otoczenia człowieka są przetwarzane w mózgu i rozumiane jako dźwięki. Takie drgania nazywamy falą dźwiękową. Dzwięk muzyczny jest to fala dźwiękowa, którą wytwarza intrument muzyczny. Dzwięk muzyczny charakteryzuje się trzema podstawowymi parametrami:
\begin{itemize}
\item wysokość (ang. pitch) - jest to częstotliwość drgań wyrażona w hercach. Im większa częstotliwość tym dzźięk jest rozumiany jako wyższy,
Zakres słyszalny dla człowieka wynosi od 20Hz do 20kHz.
\item głośność (ang. velocity) - jest to amplituda drgań fali dźwiękowej. Im większa aplituda, tym dźwięk jest odczuwany jako głosniejszy,
\item długość (ang. duration) - jest to czas z jakim dźwięk wybrzmiewa, np. 2 sekundy.
\end{itemize}
% Przykład dźwięku myczynego przedstawiono na Rusynku~\ref{fig:sine}
W rzeczywistości, utwór muzyczny jest zazwyczaj kombinacją wielu fal dźwiękowych, o różnych charaketystykach i nazwywany jest sygnałem dźwiękowym. Wizualizację sygnalu dźwiękowego przedstawiono na Rysunku~\ref{fig:waveform}
Reprezentacja muzyki jako sygnału dźwiękowego przechowuje informacje o dokładnym brzmieniu danego utworu tzn. jakie drgania należy wytworzyć, aby móc odtwozyć dźwięki. Taki zapis nie informuje nas bezpośrednio jakie instrumenty zostały użyte, jakie wysokości i długości dźwięków zostały wykorzystane. Dlatego ludzkość na przestrzeni wieków opracowała abstrakcyjne objekty, które reprezentują utwór w czytelny dla człowieka sposób.
\subsubsection{Tempo}
W muzyce symbolicznej tempo informuje nas o prędkości utworu. W muzyce klasycznej stosowało się opisowy sposób dostosowywania tempa np. Allegro - Szybko lub Adagio - wolno. Jak można szybko stwierdzić są to zwroty subiektywne i nie wyznaczają tempa jednoznacznie. Obecnie wyraża się tempo w liczbie uderzeń na minutę (BPM ang. beats per minute). I tak Allegro jest to od 120 do 168 BPM a Adagio od 66 do 76 BPM. \footnote{źródlo: http://www.classicalmusiccity.com/search/article.php?vars=446/
Basic-Tempo-Markings.html 5 kwietnia 19:37
}
\subsubsection{Nuta}
Nuta jest to graficzna reprezentacja dźwięku muzycznego. Informuje nas ona o dwóch parametrach dźwięku, wysokości oraz długości dźwięku. Długość dźwięku nazywa się jej wartością. Podstawową wartością nuty jest ćwierćnuta, odpowiada ona jednemu uderzeniu. Dla przykładu w tempie 60 BPM w ciągu minuty zagramy dokładnie 60 ćwierć nut. Kolejne wartości tworzone poprzez sumowanie lub podział długości ćwierćnuty. Półnuta trwa tyle co dwie ćwierćnuty, cała nuta tyle co dwie półnuty, ósemka trwa połowę czasu ćwiercnuty, a szesnastka połowę ósemki itd.
\caption{źródlo: https://www.infomusic.pl/poradnik/46934,poradnik-teoria-muzyki-rytm 5 kwietnia 2020 12:46}
\label{fig:waveform}
\end{figure}
Tak jak pisałem wcześniej, wysokość dźwięku jest to częstotliwość drgań fali dźwiękowej wyrażona w hercach. W muzyce symbolicznej dla uproszczenia wybrane częstotliwości zostały nazwane literami alfabetu C, D, E, F, G, A, H.
Każdej literze przypisana jest częstotliwość zgodnie z Tabelą~\ref{table:dzwieki}
\begin{table}[!htb]
\centering
\begin{tabular}{||c | c||}
\hline
Dzwięk & Ćzęstotliwość \\ [0.5ex]
\hline\hline
$C_4$& 261,6\\
\hline
$D_4$& 293,7\\
\hline
$E_4$& 329,6\\
\hline
$F_4$& 349,2\\
\hline
$G_4$& 391,9\\
\hline
$A_4$& 440,0\\
\hline
$H_4$& 493,9\\
\hline
\end{tabular}
\caption{Dźwięki symboliczne oraz ich częstosliwości}
\label{table:dzwieki}
\end{table}
W zapisie nutowym aby nucie nadać wysokość, umieszcza się ją w odpowiednim miejscu na pięciolonii. Przedstawione powyżej dźwięki zapisalibyśmy w taki sposób jak przedstawiono na Rysunku~\ref{fig:pieciolinia}
\caption{źródlo: https://amplitudaschool.weebly.com/lekcja-11.html 5 kwietnia 2020 13:24}
\label{fig:pieciolinia}
\end{figure}
\subsubsection{Oktawy}
Oktawą nazywamy zestaw ośmiu nut od C do H. Podane w Tabeli~\ref{table:dzwieki} częstotliwości nut odpowiadają dźwiękom w oktawie czwartej. Dlatego w indeksie dolnym nuty widnieje liczba 4. Aby utworzyć dźwięk, np. $A_5$ należy pomnożyć częstotliwość dźwięku $A_4$ razy dwa, natomiast aby utworzyć dźwięk $A_3$, należy tę częstotliwość podzielić przez dwa.
\[ A_5=440Hz *2=880Hz \]
\[ A_3=440Hz /2=220Hz \]
W ten sposób możemy utworzyć nieskończenie wiele oktaw, jednak w rzeczywistości używa się nut od C0 do C8.
\subsubsection{Akord}
Gdy w jednym momencie zabrzmią dwie lub więcej różnych nut, wtedy mówimy o akordzie. Akord potrafi dodać emocje do brzmienia całego utworu.
\section{Cyfrowa reprezentacja muzyki symbolicznej}
\subsection{Standard MIDI}
Standrd MIDI (ang. Musical Instrument Digital Interface) został stworzony w 1983 aby umożliwić synchronizację i wymianę informacji między elektronicznymi urządzeniami muzycznymi takimi jak syntezatory, keyboardy czy sekwencery.
W późniejszych latach został on zaadaptowany do środowiska komputerowego jako cyfrowa reprezentacja muzyki symbolicznej.
\begin{figure}[!htb]
\centering
\begin{lstlisting}
note_on channel=0 note=48 velocity=100 time=0
note_on channel=0 note=53 velocity=100 time=0
note_on channel=0 note=60 velocity=100 time=0
note_on channel=0 note=48 velocity=0 time=220
note_on channel=0 note=48 velocity=100 time=0
note_on channel=0 note=53 velocity=0 time=0
note_on channel=0 note=55 velocity=100 time=0
note_on channel=0 note=60 velocity=0 time=0
\end{lstlisting}
\caption{Fragment protokołu MIDI}
\end{figure}
\subsubsection{Wiadomości}
Plik MIDI zawiera zestaw wiadomości przesyłanych w czasie rzeczywistym o każdej nucie w utworze. Dwie wiadomości, które są dla nas szczególnie istotne to:
\begin{itemize}
\item note\textunderscore on, który sygnalizuje aby rozpocząć grać nutę,
\item note\textunderscore off, który sygnalizuje aby zakończyć grać nutę.
\end{itemize}
\medskip
Dla przykładu wiadomość:
\begin{center}
note\textunderscore on, channel 0, note 48, velocity 100, time 0. \\
\end{center}
oznacza aby na kanele 0 zagrać dźwięk nr 48 z głośnością 100 w momencie 0 utworu. Nie informuje nas on jednak o długości trwania dźwęku. Aby zakończyć dźwęk, należy wysłac wiadomość:
Zwróćmy uwagę że aby ustalić wartość nuty, potrzebujemy odebrać dwie wiadomości. Różnica między parametrami time, informuje nas o długości nuty. W tym przypadku jest to 24.
Co oznacza ćwierćnutę.
\subsubsection{Rozdzielczość}
Czas w MIDI jest reprezentowany jako liczba naturalna i jest on zależny od ustalonego tempa utworu. Standardowa rozdzielczość pliku MIDI to 24. Oznacza to, że jedna jednostka czasu odpowiada jednej dwudziestejczwartej jednego udeżenia.
\subsubsection{Kanały}
Plik MIDI posiada 16 kanałów numerowanych od 0 do 15. Każdy kanał odpowiada intrumentowi lub ścieżce. Kanał 9 jest kanałem zarezerwowanym na intrumenty perkusyjne.
\subsubsection{Nuty}
Nuty w formacie MIDI opisane są kolejnymi cyframi naturalnymi w przedziale od 0 do 127. Odpowiada to dźwękom od $C_0$ do $C_8$. Dla przykładu nuta 69 odpowiada $A_4$, a nuta 47 odpowiada $B_2$.
Wyjątkiem są nuty z kanału dziewiątego, gdzie istnieją tylko nuty z zakresu od 35 do 81 i każda nuta odpowiada innemu elementowi perkusyjnemu np. 35 to stopa, a 37 to werbel.
\subsubsection{Głośność}
Za głośność dźwęku odpowiada parametr velocity, który jest liczbą z przedziału od 0 do 127. Im większa jest wartość tym głośniej wybrzmi dźwęk.
\subsubsection{Program}
Program w kontekscie standardu MIDI oznacza intrument który ma zagrać nuty. W standardzie GM (ang. General MIDI), jest 16 grup intrumenów a w każdej z nich znajduje się po 8 intrumentów. Są to piania, chromatyczne perkusje, organy, gitary, basy, intrumenty smyczkowe, zestawy intrumentów, intrumenty dmuchane blaszane, intrumenty dmuchane drewniane, flety, syntezatory prowadzące, syntezatory uzupełniające, efekty syntetyczne, instrumenty etniczne, perkusjonalia i efekty dzwiekowe.
\subsubsection{Ścieżka}
Ścieżka (ang. Track) grupuje nuty aby podzielić utwór muzyczny na różne intrumenty. Protokół MIDI pozwala aby grać wiele ścieżek dzwiękowych jednocześnie, wtedy mówimy o muzyce polifonicznej lub multiintrumentalnej.
W tym rozdzialę opiszę w jaki sposób zbudowałem swój własny geneator muzyki, jak przechodził procesz uczenia, jakie próbki udało mi się wygenrować. Opis kodu który napisałem.
Ostateczne wnioski, czy muzyka generowana komputerowa da się lubić? Czy to pozytywnie wpłynie na przemysł muzyczny? Tak i nie. Może złużyć jako inspiracja dla muzyków, proces wspierający. Z drugiej strony może obnizy koszty produkowania muzyki pop, która i tak jest już bardzo powtarzalna. Czy sieci neuronowe nauczą się produkować Hity?
\begin{thebibliography}{99}
\bibitem{} Briot, J.P., Hadjeres, G., Pachet, F.D. (2019): {\em Deep Learning Techniques for Music Generation - A Survey. arXiv:1709.01620v3}
\bibitem{} Goodfellow, I., Bengio, Y., Courville, A. (2016): {\em Deep Learning. MIT Press.}
\bibitem{} Zocca, V., Spacagna, G., Slater, D., Roelants, P. (2018): {\em Deep Learning. Uczenie głębokie z językiem Python. Helion.}
