marcinsz/Sztuczna_inteligencja_i_jej_zastosowania
1
0
Fork 0
Code Issues Pull Requests Projects Releases Wiki Activity
6ea51c4a36
Sztuczna_inteligencja_i_jej.../regresja liniowa/regresja_liniowa_NMI.ipynb

848 lines
1.4 MiB
Plaintext
Raw Normal View History

regresja liniowa
2023-10-18 11:29:12 +02:00
{
"cells": [
{
"cell_type": "markdown",
"id": "4814259a-4af7-4839-a1dd-7f0e02837c3f",
"metadata": {},
"source": [
"# Regresja liniowa"
]
},
{
"cell_type": "markdown",
"id": "62ab7b17-f761-4723-8992-9620630fdaa6",
"metadata": {},
"source": [
"Na dzisiejszych zajęciach omówimy problem predykcji informacji i jego rozwiązanie poprzez wykorzystanie regresji liniowej."
]
},
{
"cell_type": "markdown",
"id": "b01eb137-5b7d-4f09-abac-0410366df4a9",
"metadata": {},
"source": [
"Zadaniem regresji liniowej jest po prostu dopasowanie prostej linii do danych. Warto podkreślić, że regresja liniowa przyjmuje założenie, że związek między cechami a zmienną objaśnianą jest mniej więcej liniowy. Regresja liniowa nie jest jedynym rodzajem regresji aczkolwiek jest to najprostsza wersja."
]
},
{
"cell_type": "markdown",
"id": "5dd39b3d-1a4b-44e5-9300-5ad796f7bb4c",
"metadata": {},
"source": [
"Regresja może nam pomóc w predykcji (przewidzeniu) wartości jakiejś zmiennej objaśnianej (zależnej) na podstawie jakiś cech (zmiennych niezależnych)."
]
},
{
"cell_type": "markdown",
"id": "3e618a4a-4088-4c3c-8f98-64c8a3ae0b57",
"metadata": {},
"source": [
"## Rozgrzewka"
]
},
{
"cell_type": "markdown",
"id": "c4a323d0-e71f-48a9-bda0-17ca379b71da",
"metadata": {},
"source": [
"Przeanalizuj poniższy wykres:"
]
},
regresja liniowa
2023-10-18 12:01:42 +02:00
{
regresja liniowa
2023-10-18 17:10:31 +02:00
"cell_type": "code",
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 1,
regresja liniowa
2023-10-18 17:10:31 +02:00
"id": "9c340610-1c35-4e9e-b122-40c403a47958",
regresja liniowa
2023-10-18 12:01:42 +02:00
"metadata": {},
regresja liniowa
2023-10-18 17:10:31 +02:00
"outputs": [
{
"data": {
"image/png": "iVBORw0KGgoAAAANSUhEUgAAAY8AAAEsCAYAAAA7Ej+nAABk8UlEQVR42uydCXhU1fn/v++5dyY7ySQsmpBkBBSV1qUuFIUO7mgrtlXp30gYUfnRDa2IttLqOHVrXVChahUVwxIVXCoo4lIhbohLRSUKChoIQVmSISSZJDP3nvf/3Js7MUASkgghy/k8zyQzd+76zr3ne96zvK8OhULRKoFAQIz56zXHEbTLGXw6gQaA4SbCd5LxjibweMmXm94bN2xYRFlL0VsgZQKFomUWFhe7cwcP/D8IcTUzD2JmsfdTJLYSy7lUY9w6PCNjl7KaQomHQtHbhWNI9tUMugngxGaFI/YgEUVANJuqItOHZ2RUAWBlQUVPRigTKBTN60H24IGnS9C1zDK5NeGwYGY3mCch2TU5EAioSplCeR4KRW9kyZYtif36pixiKc9r1wNF4lMyIz8fnphRprwPhfI8FIpeRv+05GMA/LT9W/KRUnOfpIRDocRDoeiN6HwYmJPbLR3MbgEeorx6hRIPhaIXIiES7X6MDsDM/ZTnoVDioVD0ygdDhu0RVB2AiLYrCyqUeCgUvdLz4HUgqu6AcEQkaL2yoEKJh0LRC9mxI7wWwHsd8DvWCjPygbKgoqfTKZ16gUBA/OmQ+3I0XTsEgkJ9rij/MtYmXDoDCelJqUeZQnMbkr9InxyqVD+Lois8GyvrKs8BiSfAckBbvQ5ivnZ4fOoDqs9DoTyP/UAwGJRx8fqPBdEiAZ4feig1N/a8eVIzfs2a/goJCrpFJF79JIouApdu2PyGAN9DJKrbIhwgmr2touZxJRwKJR77kfJQ+esMfpOZTnDp+qTlPujls9OzAP4TQHGawEPJk2q2qp9E0VUYN2xYZOP60vuZ8CchxHoiks0Lhyhl8B1UFZl+fmZmWFlOocRjP5I9FbVEfAcRvgbh/068NO1UN+FygI4F8VOrnih/Uf0ciq4oIMtuu3sOGBcQ8BcSYrklJHYwRCGWE3AXmTxu2e0z/q6CIip6E506kSkQCIip2bN+rxHNYMY6AtIY2MmEi/pcUb5O/RyKLv6s8Kry8j4PXnfd6OwjBh92/qTfzlFBEBXK8+gEgsGgNE2ex8ByAMNAyBDE9zkd6ApFV8YWCMu7YMPYXvb5up1LZ86sVsKhUOLRSaRPDlVqAv8iQh0BH8qayGL1ACq6E1LKEkn0tlUZUtZQKPHoRMyoabcNS6B2p1FdrX4GRXdi8ODBW0tKSjaq+FUKJR6d7f+TqFemV3RTqKSk5Aiv13u68pgVSjw6++ljGQcmQ5lf0Q1hZvYI5kOVKRS9Gf1gHDRCYoML/HcBuWn9C4iqn0HRrVwPom0mK6dDoVAoFAqFol2owIgKRTvx+/2DJ0yYMEJZQqHEQ6FQtBlm7q8BRyhLKHoznd7nUT47faD1P2NSxWZlfkV3hIhCEvhWWUKhPI9OYrkPehzod9bLeq/Mr+iOFBR4vywpKXlDWUKhxKOTOGFCxmAI/MZ62e8Vim7I+PEbBni93iHKEgolHp3kdQiJCcwYZL1I4rfK+1B0y4dGCK9gHq4soVDi0QmcNMFzpO11OBDhInuZQtHNMAyjVup6SFlCocSjE7wOSHGJ5XHEljGQxVJcobwPRXfD5XKthWm+qiyhUOLRyV6H8j4U3ZloNJogpeyvLNH1cSqn+zuAJalKb+eIBxFoODNqCShrXAiUMbDTZBodCATUfBNFt0HX9SOJaISKqts8DPRl4ALndRYDmQfrPEYX4e4ocGpHfyvr3J3r6Ntk2Ymji/Bg02VKPA4Q9QY/Q1x3JhHfTATDeoHwF2uZafK8YDCoAgUpumk5qWiKVRE0gCMBPAzgWgD3AyiIFbRWjd0Rlz6xAp2B+Ngy52V9jnfW7WP9j723XrHKZtN9xTwMZx1rWTyACICtOlBvHaaVY8fvue/v67gY5lzLYU2LNADfWPvfY/u+TTwSanJd8U2O1aeprZp6MNb7tlakY9vGjt/kePb7PfZNsXNoRuRzW/LYmuzv4BOek/HL6scyItYrPCfjfPWoKbojfr8/Pi8vz6Ms0TxRYCQD3zFwEgPjmry3Cqv7GHiTgf8461k1+0eszwy85vy3vJX5DNzmLDuGgauc7azPlzmF9X1Nlp3leAivOcus73Kb7K+Ps7/Y+uOcwvE+52Ut+8Ba3tRLcfZpn3+TZWc5+810zit2/tb2k6yC17m2/zQ5l77OuvNjAhLbvok4Wt8fESu8nX2Mc14XNPXgrPUYuMF53efYJPb+LOd4NzjXfUzsvJr5ncY3Iyp9nHO5zdlH/EHzPBQKRe9BBxKct1cDmATgMzQ0Wf8KwFgAjwOo1oFpaCiUzwRwG4AaANssb8FZdrLltTi1/j8BeAbA+wCuN4BjnH39D8C/AHwJ4GIAWdb+jYZ1Laz1BgAYA+ASAI84+7gZDQW15Vmc7ezDOsdJDMTt4xITnf26AHsQkHWuhQA+BnDN6CIM0oHbrWt0jmftP89oONdljkcE5/tB1vqji9AfwI8AfLdnw43z2hOrQB9uHde51kubvL/Y2fe3AC4DcDmAVacVwWgiDuN04CIAP3OEp2nTomWrJAD3Anjg5kAgosRDodgfbVXMx+u6frayRPMYQK1Tu04G8GMAC1b4bFGwvI9DnMJsaKxBAkAdgF86Bf+aJrsqIGA+gBRnu3ynIK7RgV0AFjsC8kcAqQAWOQJ0vQ6Mwu4icKxznGUG8DKAdEdULL5c4cNLVgGLfQsHmllnsyMK7zqFunUuAwH8BMD/OesMcAFvW9dDDedhuTe7nG18AEYC+MBZFhNhq0DPBXC08z95j+MWE7BRbxDcb5wmuq+d79wAngNwvrX85kCgqV0jzvrWutsNYL0jNk1t9TkBO6zzaSndshIPhaIDaF2lLbjrQc6f7xxv4ilLLJya9TfO8lsA/N75/kunwO/n9I88sUchZ7HVKVQfAHCFAVwDoATAgwAmO6JjCdJqpwb+tiU0BtB0RNxXVsFuAEfqwFGOaO1s4gHsi6FO809uC99HHE8kRrlzHn80GgTkAaep6aQ9mo/edryfUwAUxRauGB2QjphZovSs8/+7pjZugabnYHkmxZZw3RwMZjf5gepuDgQ+ArASwCeOqO1qsp3l+fV3jtPisZR4KBTtrVkbxlqDebmyRPOOmdNBbRWelU7Th/X5IqcQ/NTyDAD81WnuSXWaSI53aukPGg1eSymAkNOBvMoRoT8A+LvT3OIFcKezzBKf5c72DzjNXG87NXLLK6gC8KJVy9cbzsdab3astg5gh3Pu1n4q9riesLNsOoDHnG3rnf1Gne1j21Q6y8sA3OVc09+d5rm+APzWdY8uspu9bG4OBL5zjmst2xRbbtX2La+CgC+bvGIFPDteVHWTpq3tzvuo894DYLRjf8uruqCpEDjexGcAmovR9oIlaAzcysCVXaLTXHWYK3oCPp9P9/v9yvNoST0aOqIzm4wC6uuMtoqNhjrCecU6vec7HeqTGPjaqeFnNhmZFBtJlOtsF9tX7HNmk5FUsX3HRmtlxkZROfs4wtkudm6ZsZFgsRFTe3SYx46b2eR/fJNj9tnj2jKbdIBnxryVJueXu2dt3umUvqADNrbtE9s3dh+BFt9kKDHteV1t2H/MlpktjQCjzhYPKbHQdnkELkycWL5EPWqK7kZeXt5xrvj4nILHH1+srPHDmrgY+AuAc53ae5LTzHLTHs0oe5ZX3NWa6TpyTk6B/ivHi7qXvveAugUqNIhC0d6HRtcThGGoobr7xUlpaFYxgD5OJ/iXsQ7lFtbvitfQUSJOP83z3U04lHgoFB1ASllCmhZyap1qouAPq7bXOf0gvfHaLbH8oLtGKlDioVC0k9LS0u1Op6QSji6Mz+fTs7KyUgoLC3d28d+qW95HarSVQtFOvF7vkIEDB45Usa26LuPHjz/U6/VO13X90fz8/GxlESUevYCAQGBZOnyB1r3CwJx4e732FGBT5vexX/vxXJOmLx7gnEevgZk9bk3LVZ5HFy7YhPgZgD8QUS0zR5VF9j+q2aoTSQ68cqQU4kIAW8Jy85MITqyzRCBZZPklqK+
"text/plain": [
"<IPython.core.display.Image object>"
]
},
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 1,
regresja liniowa
2023-10-18 17:10:31 +02:00
"metadata": {},
"output_type": "execute_result"
}
],
regresja liniowa
2023-10-18 12:01:42 +02:00
"source": [
regresja liniowa
2023-10-18 17:10:31 +02:00
"from IPython.display import Image\n",
"Image(filename='reglin.png')"
regresja liniowa
2023-10-18 12:01:42 +02:00
]
},
{
"cell_type": "markdown",
"id": "f38c977c-490c-49d8-8853-8c24c8d7cc43",
"metadata": {},
"source": [
"1. Dlaczego możemy zastosować regresję liniową do przewidywania informacji o danych?\n",
"\n",
"2. Co musimy znaleźć, aby móc dokonywać predykcji informacji? Co musimy mieć na uwadze, aby to znaleźć?"
]
},
{
"cell_type": "markdown",
"id": "8f70342d-6503-4810-ba02-e0f4a6208bfc",
"metadata": {},
"source": [
"## Przykład"
]
},
{
"cell_type": "markdown",
"id": "ebe61c55-c441-433d-8ba9-ec657ff5cc51",
"metadata": {},
"source": [
"Załóżmy, że mamy uczniów, którzy pracują w kursie e-learningowym i ciekawi nas, czy zakończą pracę w tym kursie z sukcesem, tzn. zdobędą jak najlepszy wynik w końcowym teście zaliczeniowym. Aktualne informacje, które posiadamy, to czas spędzony w tym kursie, liczba rozwiązanych ćwiczeń, liczba elementów, których uczeń jeszcze nie odwiedził. Wiemy też, kiedy uczeń zaczął się uczyć i ile razy wchodził do kursu. Każdy uczeń ma też świadomość, że mają określony termin, do kiedy muszą podejść do końcowego testu zaliczeniowego."
]
},
{
"cell_type": "markdown",
"id": "e29d4510-b276-4697-bc68-2b9f497bbc9e",
"metadata": {},
"source": [
"Powiedzmy, że na początek przyjrzymy się jednej z informacji - liczbie rozwiązanych ćwiczeń. Załóżmy, że w kursie jest 20 ćwiczeń do rozwiązania a wynik w końcowym teście zaliczeniowym badamy w procentach. Rok temu mieliśmy innych uczniów, którzy też pracowali z tym kursem e-learningowym i mamy informację o ich wynikach:"
]
},
regresja liniowa
2023-10-18 12:39:32 +02:00
{
regresja liniowa
2023-10-18 17:10:31 +02:00
"cell_type": "code",
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 2,
regresja liniowa
2023-10-18 17:10:31 +02:00
"id": "496c75a4-e2fe-48b5-aa52-6fd0786f624a",
regresja liniowa
2023-10-18 12:39:32 +02:00
"metadata": {},
regresja liniowa
2023-10-18 17:10:31 +02:00
"outputs": [
{
"data": {
"image/png": "iVBORw0KGgoAAAANSUhEUgAAC7gAAAaZCAYAAADcMkIqAAAAAXNSR0IArs4c6QAAAAlwSFlzAAAlrgAAJa4BWvRlbQAAIABJREFUeF7svVvMreV13f9uCGc2BHMKtQ0mCIOFAzI1yLSk6kXUSiFRuIjiXrQicg6OkKpUkdocLLdWiRMVV07lqE2aOlJUR4orR1ZvGqlKL4JUC4pdHyg2xAbHYIxNwYZA3TRNav6aS/+XTpN322vMb3/Zv11+r5SL4PmsvZ4x5jO/Z4451lpHXnzxxReX4/D8+Z//+fI//+f/XL7jO75jOfvss4/DKx7fl/j617++/J//8392763eo8+3RuBP//RPl/q/008/fTnzzDNRcFXK/o//8T927+ncc89djhw5csLfX+VW5dgpp5yye0+0p85mndGzzjprOe2001Bv77nnnls+85nPLOecc85yww03oN5bvRli7aj8/8Y3vrHLtco50vO///f/Xv7X//pf+NpR+UbArvLrgQce2J3LN7/5zSQqd+/lT/7kT5Y/+7M/2/0dqL8HpMe6m7Ox1o7K/1NPPTV/gUNc8ZWvfGV55JFHlksvvXS5+uqrD/Ffmr00re7W34CqH6S7UEe2/g7U3wNrx3759tWvfnV5+OGHl/PPP3954xvfuN+iv8Qo4l1o3X79jaq/VdQelFZ3iX1UT+U/+qM/Wr70pS8tV1xxxfLa1772LzHLv/0/Ray7qwZTf9PrbzvtIdcOun71qU99avd3/rrrrtv9bTjRT68dlD6qY6J+lWUIvY966KGHlq997WvLNddcs1x00UXZ5g452rqbA0zro/oOyPpVndP/+l//6077e9Ob3rScccYZOfjHeQW9dqhfzQknzg0q/+vv+/XXX4+btay1o7TcmrXQHlrdJfZRJ4t+RZwb0Psocg+qfpVVy6q1n/jEJ3aLbrzxRtxce9W+645GuKd1dIl11z4qy/8e7dwgw079KsOrRxPnBi+88MLy3/7bf9vNGetvAe0h9lErRtbdPFtofVTfQc3ManZ22WWXLVdddVW+uUNcQay76ldzwunYHTleBvcSEavhqOe8885DmI5X2upQPf/887v/txoNmmF7nl6Ht7IKeCVvDctphu0SAurCUE99YIFg2C7BtRraeo4ePYowzvbs+OM//uPd/1sGVZrw+oUvfGF57LHHdu/vr/21v4bgc6t2ULCrc7l+wKO4pJmOS0SsS3OZx+sskJ56X6shlFI7nnzyyeVzn/vcDqa/+lf/Kq7e1t/O+htadZb24TXrbna6StgsMaCeugfRhNdPf/rTyzPPPLMzqf71v/7Xs80dcjSx7va7UBnNaB/erFyrnKv3RTNdVr9SfUs9dcclfNijPtxRAkU93/u934u6R9L7qN6DEkygvRwR6y6xj+qYffSjH931eaUnlJmL9BDrbvWfdR+qh6zBUPqonk9k/ar+Tt177727t1sf9njd6153wo8CsY/qoKhfZSlC76Puueee3Ya+67u+a2dyJz3W3YwNYh/Vd0DWr+rLQOrDTvW84Q1vWC655JIM/EOIJvZRfZvqV3PSaXODuqfdf//9uw1993d/N+6Dr9WvVG9QX7pUd3DSQ6y7xD6qc0bWr4hzA3IfpX41r0ZE/apMvQ8++OBuU/VlIBdeeOF8g4ewcq0ddA8FZW5gHzVPQucGGXbqVxlePZo4N/jiF7+4fP7zn9+9zZtvvhnncaL1UZ1P6252Foh9VN9BfVnms88+u/N2vOUtb8k2d8jRxLqrfjUnnT43eEUY3HtzpsF9v2ReB4REkyrxgkU/6OQLVn3a7PHHH98l5i233IIybHdRjGLMoF+wyAPCfsGifDigDI0lUNRTnz6mfSjAAeF+fzO3omh1lyhUd9xWg3uJwrfeeusc+ENYSay7vTmjCNUd+rV2aHDfLyHrg041uKyn8p9gul/fOb2PWs0F9X41uH/7fCP2Uf1drwb3ug/RvpWFWHe7UE37kDWxj+q5RjZmlLZw33337d7u5Zdfvlx55ZXf/nAfcgSxj+pbVr/KEoCuX60G9/plp2uvvTbb3CFHW3czgIl9VN8BWb+qwWUNMOupc1Dn4UQ/DgjnDNDrLk2/qh6v+oJ66h5U9yHSo8E9Y4PYR50s+hVxbkDuo9SvsrPZo4lzg/oinJoX1FO/bEb7ZSeywZ1Yd+2j5ufTuUGGnfpVhlePJs4Nyj9UPqJ6brrpJtwX8dH6qM6ndTc7C3T9qr4Aob4Iofxq5acjPcS6q341zxC6fqXBfc7tgVZ+8IMf3H1r73d+53fuvhn3p37qpw70esd7sQPCDFH6QSdfsDS4Z7lGv2CRB4TECxZRqN4S+f0G9+ycVjSt7hKF6o6qBvcsx4hC9ckyICQ2tgrVWf73aA3uGXZEobrvQIN7xqdCdYZXjyYbMzS457yqX2WY0fUrDe4Zn2s08YNF6lczLmuVBvccO7+gIcdsXUHTrzS4z7kk1l31qzmfxLkBuY/S4D7PNeLcQIP7nE9i3VW/mvPp3CDDjugD6DtQv8r41OCe4dWjrbsZdsQ+qu9Ag3vGJ9EHsOWh0H+V8VrRGtxzzA68oszt//gf/+Nvep2f+ZmfQZncvWBlNNMHhDShuqOrwT3LNfoFS4N7xidRqPaClXF4rGha3SUK1R07De5Z3hGF6q3a4Te478erQvV+OG1FaXDPsNPgnuHVo4l1V6F6zifZmKHBPedV/SrDjK5faXDP+FyjNbjnuJH1Kw3uOZ8a3HPM1hU0/UqD+5xL4tyA2EedLPoVcW5A7qM0uM9rB3FuoMF9ziex7qpfzfl0bpBhp8E9w6tHE+cGGtznfFp3M+yIfVTfgQb3jE8N7hlePZo+N9DgPud2tHLL3L6+EMnk7oAwo5d+0GlCdUdXg3uWa/QLFnlASGxsiUL1lsjvJwizc1rRtLpLFKo7qhrcsxwjCtUny4CQ2NgqVGf536M1uGfYEYXqvgO/wT3jU6E6w6tHk40ZGtxzXtWvMszo+pUG94zPNVqDe44bWb/S4J7zqcE9x2xdQdOvNLjPuSTODdSv5nwS5wbkPkqD+zzXiHMDDe5zPol1V/1qzqdzgww7og+g70D9KuNTg3uGV4+27mbYEfuovgMN7hmfRB/AlodC/1XGa0VrcM8xG694ubn9tttuW84+++zlQx/60EuvSTG5e8HKaKYPCGlCdUdXg3uWa/QLFnlASGxsiUK1F6zsTB4rmlZ3iUJ1x06De5Z3RKF6q3b4De778apQvR9OW1Ea3DPsNLhnePVoYt1VqJ7zSTZmaHDPeVW/yjCj61ca3DM+12gN7jluZP1Kg3vOpwb3HLN1BU2/0uA+55I4NyD2USeLfkWcG5D7KA3u89pBnBtocJ/zSay76ldzPp0bZNgRfQB9B+pXGZ8a3DO8erR1N8OO2Ef1HWhwz/jU4J7h1aPpcwMN7nNuo5UvN7f/6I/+6PJbv/Vbu9f4e3/v7y0f+MAHXno9gsndC1ZE70I/6DShuqOrwT3LNfoFizwgJDa2RKF6S+T3E4TZOa1oWt0lCtUdVQ3uWY4RheqTZUBIbGwVqrP879Ea3DPsNLhnePVoYt1VqJ7zSTZmaHDPeVW/yjCj61ca3DM+12gN7jluZP1Kg3vOpwb3HLN1BU2/0uA+55I4NyD2USeLfkWcG5D7KA3u89pBnBtocJ/zSay76ldzPp0bZNgRfQB9B+pXGZ8a3DO8erR1N8OO2Ef1HWhwz/gk+gC2elD9VxmvFa3BPccsXvFyc/s//af/dLniiiuWO+64Y/dad99993LWWWctf//v//2XXvtEm9y9YGU00weENKG6o6vBPcs1+gWLPCAkNrZEodoLVnYmjxVNq7tEobpjp8E9yzuiUH2yDAiJja1CdZb/PVqDe4adBvcMrx5NrLsK1XM+ycYMDe45r+pXGWZ0/UqDe8bnGq3BPceNrF9pcM/51OCeY7auoOlXGtznXBLnBsQ+6mTRr4hzA3IfpcF9XjuIcwMN7nM+iXVX/WrOp3ODDDuiD6DvQP0q41ODe4ZXj7buZtgR+6i+Aw3uGZ9EH8BWD6rBPeO1ojW455hFK7b
"text/plain": [
"<IPython.core.display.Image object>"
]
},
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 2,
regresja liniowa
2023-10-18 17:10:31 +02:00
"metadata": {},
"output_type": "execute_result"
}
],
regresja liniowa
2023-10-18 12:39:32 +02:00
"source": [
regresja liniowa
2023-10-18 17:10:31 +02:00
"from IPython.display import Image\n",
"Image(filename='wyniki.png')"
regresja liniowa
2023-10-18 12:39:32 +02:00
]
},
{
"cell_type": "markdown",
"id": "be26d14d-2356-4e45-b0d0-b1bb6ece9526",
"metadata": {},
"source": [
"Zauważmy, że mamy tutaj pewien trend. W przybliżeniu możemy stwierdzić, że im większa liczba rozwiązanych ćwiczeń w kursie tym większy wynik w końcowym teście zaliczeniowym. Zatem moglibyśmy spróbować wyznaczyć funkcję, która pokazywałaby ten trend. Najprościej będzie wyznaczyć zależność liniową, czyli pewną funkcję liniową, która nam przybliży trend. Musimy znaleźć taką funkcję, dla której będziemy mieć sytuację, że dla jak największej liczby argumentów będziemy mieć jak najmniejszą różnicę pomiędzy wartością, którą zwróci funkcja a wartością rzeczywistą, którą mamy na powyższym wykresie."
]
},
{
"cell_type": "markdown",
"id": "020d9194-8fb5-450d-b642-71701c853c21",
"metadata": {},
"source": [
"Zatem naszym zadaniem jest wyznaczenie pewnej funkcji liniowej postaci:\n",
"$f(x)=ax+b$, gdzie:\n",
"\n",
"$x$ - liczba rozwiązanych ćwiczeń w kursie\n",
"\n",
"$f(x)$ - przybliżony wynik osiągnięty w końcowym teście zaliczeniowym\n",
"\n",
"$a$ - współczynnik kierunkowy naszej funkcji **regresji liniowej**\n",
"\n",
"$b$ - wyraz wolny"
]
},
{
"cell_type": "markdown",
"id": "05f37fe3-da73-46f3-b4b3-3cba82dbf546",
"metadata": {},
"source": [
"Powstaje pytanie jak wyznaczyć wartości $a$ i $b$. Istnieją algorytmy numeryczne, które pozwalają znaleźć przybliżone wartości. Jednym z nich jest tzw. algorytm gradientu prostego. Natomiast nie będziemy go w tym momencie omawiać.\n",
"\n",
"Na zajęciach ze statystyki będziecie Państwo (jeśli jeszcze nie mieliście statystyki) uczyć się jak wyznaczać te szukane wartości wg pewnych wzorów i teraz z nich skorzystamy:\n",
"\n",
"$a=\\frac{\\sum_{i=1}^{n}\\left ( x_{i}-\\overline{x} \\right )\\left ( y_{i}-\\overline{y} \\right )}{\\sum_{i=1}^{n}\\left ( x_{i}-\\overline{x} \\right )^{2}}$\n",
"\n",
"$b=\\overline{y}-a\\overline{x}$\n",
"\n",
"gdzie:\n",
"\n",
regresja liniowa
2023-10-18 12:53:38 +02:00
"$n$ - liczba punktów na naszym wykresie\n",
"\n",
regresja liniowa
2023-10-18 12:39:32 +02:00
"$(x_{i}, y_{i})$ to i-ty punkt na naszym wykresie\n",
"\n",
"$\\overline{x}$ to średnia arytmetyczna wszystkich argumentów z naszego wykresu (liczby rozwiązanych ćwiczeń)\n",
"\n",
"$\\overline{y}$ to średnia arytmetyczna wszystkich wartości z naszego wykresu (wyników w teście)"
]
},
{
"cell_type": "markdown",
"id": "efdfa37b-292f-45c1-b18a-605b426b495a",
"metadata": {},
"source": [
"Co do zasady te wzory będą (lub były) wyjaśniane na zajęciach ze statystyki, natomiast na ten moment powinna wystarczyć nam informacja, że wynikają one z faktu, że szukamy takiej funkcji, dla której różnice między obliczoną a rzeczywistą wartością są jak najmniejsze. Różnice te mogą być ujemne, dlatego bada się kwadraty różnic, żeby nie było sytuacji, że różnice pewnych wartości się wyzerują i przez to znajdziemy błędną funkcję regresji. Taką metodę nazywa się **metodą najmniejszych kwadratów** a same różnice nazywa się **resztami** lub **residuami**."
]
},
{
"cell_type": "markdown",
"id": "9c2ebd9c-3b53-470a-8f62-1099c128cf15",
"metadata": {},
"source": [
regresja liniowa
2023-10-18 17:10:31 +02:00
"Gdybyśmy dla naszych danych wyznaczyli zgodnie z powyższymi wzorami wartość funkcji regresji liniowej otrzymalibyśmy prostą jak na poniższym wykresie:"
]
},
{
"cell_type": "code",
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 3,
regresja liniowa
2023-10-18 17:10:31 +02:00
"id": "166110aa-99fe-44df-bdda-64556934cb8b",
"metadata": {},
"outputs": [
{
"data": {
"image/png": "iVBORw0KGgoAAAANSUhEUgAAC7gAAAaNCAYAAABEdQKnAAAAAXNSR0IArs4c6QAAAAlwSFlzAAAlhgAAJYYB7FZMnAAAIABJREFUeF7snQvUXlV95nfuISQEQgJU5VIEIYEQwkVuIVSKs7pm2uWqY+lcdLStQ22dzqrtjFUB71JtkYoitgwqVutURaUq43jrSCMmXAKEcBe5CILhlqKoVIHM+p+PTXdeTzjn2e/38j15+Z21WC7hf853zvPs/3nPefbv3e+0LVu2bEmTsP3sZz9Ljz76aJo9e3aaO3fuJBxx8g7x2GOPpZ/85CdpxowZaccdd5y8A4/pkfBSM/anP/1p+vnPf5522GGHNGvWLG3nEVc7e/nP//zP6frrr08LFy5MBx988IiV0A7/xBNPpB//+MfNTvPnz0/Tpk3TDjCC6n/5l39J8Y/zPXbmzJlp3rx5I7j6+kM6ennXXXelO++8M+25555p7733rr+4EeyZPy9dvXzkkUfS9OnTm7502+LcYrzFucU5TvUWn0vx+eToZZzXNddc03xmHnHEEVMt1S/8fbzsb0mMefqyv173339/uuWWW9LixYvTAQcc0H/HZ6Dy8ccfb559HO+x8boa4yz+1+UeW1oS75nx+RnPQHHPnerN2cs4t/Xr1zeflytXrkxz5syZarm2+vvRA3GOeNltS+5Lp/el8qzdvCzP7bbbbkv33HNP2nfffdNznvOcbrFHXIGX9QJHBhqZS2Sg8Z4+1Zu7l/H8H5+Zkf/stNNOUy3XVn8/53ouXpYn55jr5felyNgja3fanL2Me398BsS9Pz4DHLbtwUvydm2kOM6D3XzzzSneheMdeMmSJdoFjbiavF0TOL/7OvZl9jLeMd3eMx988MF00003pV122SUtW7ZME31E1XhZJ6xN3r5+fUqnnprSV75SdyHlXnGsww4b/jgtR4g5sJgLizmwmAtz2my8bBHFMW/P776O99jsZcw1xeeT0xbZ1IYNG5rM4LAR9Vnt9Trm7c5eOuftZRYU7+gO89ObNm1K3/nOd9Luu++e9t9//9phOpL9thcvXfik0gS3vD176ciAxnv5VVdd1cyDHX744XYMIV72v7245+3ZS8eM9tZbb00/+MEP0n777Zf22GOP/qI/TeW0yQLcQ7ho1PjQXLBgwaSc3GQdJMKNePiOLSZRHGDVybq2URzH2cvwMfx08vKHP/xhA9zEy5Mb3OvsZUzqRLgR26pVq6wmxeIlKkK+2OLDwAFWcvbSsS/zvdHRy5jYf/jhh5ux5Qb3xmRwTKDHFl8+cdrivOL8YosXO6eJ9HiJionh2CJEcwBcnL2Mh9mY4IwtXuycvrCAl1rX05eaXjHuY/zH+9Lxxx+v7Tzi6tLLeJdzCELzJZd9Gc/abl8ojc/02GKSx+GL3uW7r5uXoVU8B8W2dOnStNtuu414ZPc/fLzPxXsdXvbTLLKf/IVgt7509LJU9fLLL2+eaQNwOeSQQ/oJPsIqvKwX90c/+lEzURF5gcNiGqWXLjlGVjeeM9auXdv833322cfui97ZS3K97n6IMR96xRbPPW4QoXNGu3HjxvTQQw81uh111FHdYo+4Ai/rBSaj1bT71re+1XyJNACXAw88UNt5xNV4qQmc330j93SECONZKPJip5wxFI6J/e9///uN2CeccIIm+oiqnb2MjD3uGY5eWuTtH/zgBNz+ZBZVPURe+tKUPvvZ6t377BgLHISfwWXEIgdOm4WX2xDEMW/fHvoy2B+3L1LHF1wD8o3tyCOPtGJIHPP24DJiTt/RS+e83THXu/HGG9N9993X5GXHHXec0+2/4cwyN+g2d+LoZTbPMW939jKyn8iAYouFPnbddVebPnD30o3ndc7bSy8dM9qYC4jn2lj076CDDpqUHph0wN3xoaOEL10+qGKwhVb5fyfFzUk6CMGeJqTz5Imzl9/97nfT3Xff3YgdD7cOEHl23hGKdvYSwF27Z1x99dUNQBUwUIQaThvBXp0bQNGabvfee2+zinVsEW47BY94qXnpGLjnK3D0MlbsitUr4h1g9erVmtgjri7DILcvEZUBgsuXiNqCPZdJfudgL37BKVYuii3gloBcXDb3YM8lx8h+EbjXj9zLLrusmUjZeeed04oVK+oPNEl74mW9kG6Ae5ljuH3xJD6b1q1b14gdKzgG5O605VzP5csKpTY5C3LJ24Gi60futddemzZv3tx8KeDoo4+uP9Ak7YmX9UKS0WrarVmzpvlCWHy5Nb7k6rThpeZGhqIdvxCW4UvHBdgCbgzIMbZY7MBhQQEAd23s5+opnTuJxcICbP/4x+tOvtzr059O6bd+a/jjdBwhA+6RM8YiN07blHrZIYRj3p7ffR2/eJKh6JDVbdGu+HJTfMkptljszOGL8W25nkve7uylc97umOvdcMMNzS84xT0jFrl02vCyzg3mTjTdSsA9fsHJ6ZfMHL105Hmz4855e5nruSzAVnZKBtwXLVqUli9frjXRNqoB3CdFRu0gsXrjn/zJn6RXv/rV6Utf+lI677zzrFaiJdjT/ARw1/TK1QDumm70paZX20OHyyp2AO51XjoGe/lKHEFa55AWwF3rAWcv6UvNSwB3TS/nwD2fWxkGAbh3+wvg3q1RWUHgrunV1peOwR6Ae39fHQP38uwB3Pt7CeDeX6vBSgB3TTvnjBbAfXy8JKPVvARw1/TK1Y4LygC413kJ4K7ptj2sFB1X9IyCtJ/5zATc/uRK0JqiRfWhh6Z09dXVu6s7Aririk3UO+btAO51XgK4a7oBuGt6tc2duCx2AOA+Pl465+3OcycA7loPALhreuVqAPc63Zq93AL38lKcGiLg9lNOOSUF3JW3+Na+E+ROSKs1gvPkibOXAO7aOHP20jFwz+o6rsYP4K6N/VztGOzlcwNw1zwFcNf0AnDX9HLuSwD3Oi9ZwV3TzTnYA3AfHy8dVwdyDtxL5wHc+/cBgHt/raLSeUUZAHfNy7LaLW9n1e96LwHcNe3I2zW9crVjRgvgPj5eArjXeQngrukG4F7o9eijKZ12Wkrvfa8mYlv1u9+d0p/92fDHEY4A4C6IVZQ6zoMBuNd5CeCu6QbgrumVqx0zWgD38fHSOW93ngcDcNd6wInnHTxz57wdwF0bZ1tVuwXu5cm5NMQg3L548eL0wAMPNKfqBLkD0mqNQOCu6ZWrAdw13ehLTa9cDeCu6QZIq+mVqwHcNd0A3DW96EtNL+e+BHCv8xLAXdPNOdgDcB8fLx0nT5wD99J5APf+fQDg3l+rqHQO3AHcNS/Lare8HcC93ksAd0078nZNr1wN4K7pRt6u6QXgrumVqwHcNd0A3J/U65JLJlZtv/RSTcDB6gULUtq4MaW99x7uOBV7A7hXiMYK7rJozlA0gLtmp7OXznm7Y0YL4K6N/Vzt6KVz3u7clwDuWg+48LxtZ+2ctwO4a+Nsq2q3wL08OYeGGITbV65cmVatWpUuvvjidNtttzWn6wK5E+xpjUDgrumVqwHcNd3oS02vXA3grukGSKvplasB3DXdANw1vehLTS/nvgRwr/MSwF3TzTnYA3AfHy8J3DUvy2oA9/7aAbj31yoqnQN3AHfNy7LaLW8HcK/3EsBd0468XdMrVwO4a7qRt2t6AbhreuVqAHdNNwD3lNJ73jMBtz/+uCbeYPV//a8pnXfecMcYYm8A9zrxWMFd080ZigZwHx8vnfN2x4wWwF0b+7na0ct8bo4ZrXNfArhrPeDA827rjJ3zdgB3bZxtVe0WuJcnN9UNMQi3n3zyyelrX/ta2rx5c/qVX/mVFIHtVVdd1ZyyA+ROsKc1AoG7pleuBnDXdKMvNb1yNYC7phsgraZXrgZw13QDcNf0oi81vZz7EsC9zksAd00352APwH18vCRw17wsqwHc+2vnOHlSnn3+mfaZM2emHXfcsf+FjajSOXAHcK833S1vB3Cv9xLAXdOOvF3TK1cDuGu6kbdregG4a3rlagB3TbdnNeB+440TYPvnP6+J1lb9jW+kdOKJwx9niCMAuNeJB+Cu6QbgrumVqx3zdmcvnfN2x4wWwH34vpw
"text/plain": [
"<IPython.core.display.Image object>"
]
},
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 3,
regresja liniowa
2023-10-18 17:10:31 +02:00
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"from IPython.display import Image\n",
"Image(filename='wyniki_reglin.png')"
regresja liniowa
2023-10-18 12:39:32 +02:00
]
},
{
"cell_type": "markdown",
"id": "b8f03bcd-8ace-4d2e-8942-678e92dda4e4",
"metadata": {},
"source": [
"Można to interpretować następująco:\n",
"\n",
regresja liniowa
2023-10-18 12:56:34 +02:00
"- ponieważ wyraz wolny $b$ w przybliżeniu wynosi 11,94 to można powiedzieć, że jeśli uczeń nie rozwiąże ćwiczeń, to jego wynik na teście końcowym wyniesie właśnie ok. 12%;\n",
regresja liniowa
2023-10-18 12:39:32 +02:00
"- ponieważ współczynnik kierunkowy $a$ jest dodatni to oznacza, że wraz ze wzrostem liczby rozwiązanych ćwiczeń będzie rósł wynik na teście końcowym;\n",
regresja liniowa
2023-10-18 12:56:34 +02:00
"- ponieważ współczynnik kierunkowy $a$ wynosi ok. 4,89, oznacza to, że wraz z każdym kolejnym rozwiązanym ćwiczeniem wynik w teście końcowym wzrasta o ok. 4,89%.\n",
regresja liniowa
2023-10-18 12:39:32 +02:00
"\n",
"To, czy powyższe wnioski są w naszym problemie sensowne to inna sprawa. Regresja liniowa ma swoje plusy i minusy:\n",
"\n",
"### Zalety:\n",
"- Prostota – dzięki swojej prostocie wykorzystywana jest w wielu dziedzinach: od matematyki, poprzez ekonomię, aż po geodezję,\n",
"- interpretowalność – dzięki prostym wzorom bardzo łatwo wyjaśnić biznesowi lub innym osobom, jak dana cecha wpływa na wynik modelu,\n",
"- szybkość – nawet przy dużej liczbie danych dla prostych algorytmów wyniki dostajemy prawie od razu.\n",
"\n",
"### Wady:\n",
"- Prostota (wcześniej zaleta ;P) – świat nie składa się z prostych liniowych zależności. Gdyby tak było, to pewnie nie byłoby takiego rozwoju uczenia maszynowego.\n",
"\n"
]
},
regresja liniowa
2023-10-18 12:53:38 +02:00
{
regresja liniowa
2023-10-18 17:10:31 +02:00
"cell_type": "code",
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 4,
regresja liniowa
2023-10-18 17:10:31 +02:00
"id": "f82c547e-38ac-4150-9571-36c695d8d344",
regresja liniowa
2023-10-18 12:53:38 +02:00
"metadata": {},
regresja liniowa
2023-10-18 17:10:31 +02:00
"outputs": [
{
"data": {
"image/png": "iVBORw0KGgoAAAANSUhEUgAAAm0AAAGNCAYAAABDp0ahAAAAAXNSR0IArs4c6QAAAARnQU1BAACxjwv8YQUAAAAJcEhZcwAADsIAAA7CARUoSoAAAP+lSURBVHhe7N0FvFzF9QfwgWDBCRKc4O7u7u4Up7hLW6T9l9KW4g6luGuCu7s7QYIGCy4JFgKR/c/3vHfDZnkveYGEJDA/Psu+7N69d+7M3Dm/+Z0zZ0arZaSCgoKCgoKCgoKRGqM3vxcUFBQUFBQUFIzEKKStoKCgoKCgoGAUQCFtBQUFBQUFBQWjAAppKygoKCgoKCgYBVBIW0FBQUFBQUHBKICyerRglMfbb7+dXn/99TTBBBOk2WefI00yycTN3xQUFBQUFPx2UEhbwSgLXffVV19Nl1xySbrpppvSVFNNlfbaa6+01lprpdFGG635qIKCgoKCgt8Ginu0YISjb9++6aOPPkovv/xy+uyzz5o/HTJefPHFdPLJJ6ezzjorPf/88+mee+5J9913X+rZs2fzESMfzJAGlHlSQUFBQcHPQLvDMpr/LigYIfj444/T9Tdcny666KL01ltvpWmnnTZ16NCh+dufol///umJJ59Mp//3v6lz587piy++iM/7588nn3zytNBCC6UppphiuKltAwYMSN999128jzHGGM2ftg2vvPJKuuyyy9L7H3yYpph8ijTuuOM2fzMoevX6Mj300EPpmWeeSaOPPnqaeOKJ472gYFigb98f0pdffhX9rFYbkMYee+zmbwoKCkZmFNJWMMLxXo8emXx1CTfnK91eyQRlkrTAAgukscYaq/mIH8ElSlU76cQTg/wgT1NOOWWacMIJ0/fff59J2xRpwQUXSDPOOONQkZyvv/46vfvuu6lPnz5p/PHHHyzh6927dyh6999//8Drt5W8PfzQw+k/R/wnfZBJ23zzzpummWbq5m9+xIcffpiuuebqdP7556e77rorrtFphk6tEllK5ccffxJxfdTKZ595Nr304kv5ft7LhPbz9M0330TdtGvXrsU6bcS3336bvvrqq/idczPoxd08aqN37kP6t/7x4IMPpnvvvTe/7ksPPPBAevbZZ1P3PFnSr8cac8zo/wUFBSMnCmkrGOEw2+/atWt64YWuqWevnpksfB1EaIYZZkhjZiNSj7ffeSede+656bzzzgtlbemll44YtskmmyyM0oQTThCfzTLLLEFS2oIvv/wy3XLLLenKK69Mn332eZp77rkGqzwgNGeeeWb673//G4ZumWWWabOhQzivu+66IHlLLbVUmnnmmZq/acKHH36ULr744nTaaaemJ554MpO7D9Lnn3+eCd58afY5Zm8+6kdQ+8T1XX3NNUHy3MN111wX93PvffekRx99NF+za3rttdfSJ598HORr/PEnGIS8IXQI2vvvvx/l85tHHnkkPfX00+mNTATVj+OHRGZbwg8//BDEz++GpVKIvFNc+2QygnBTW7nFEc7qmv369Ys+Mqyv3RK0g2v169c/X7tfLkPfePXr13dgWRyjTyqPY/Ujda5tvN58883Uvftb6d333svffZ3ygWnsXO9D6sfO/+mnn+Z+8kX+TUrjjDNO8zdNUB5teuGFF6ZLLr4kXXTxRen22+/I/euJTNieSQ8//HC644470nOZvKk/C3ommWSSIU5EtIFJznf5VanOrfUPx/Xq1St+45ke2n5UYcCApmtqY+dqLKPPv83P5Ff6RH5uhFv07NkrJj71beG3w6NfqGvt+tVXX2q+VidJyqCs+gEoy8+tk4LfF8pChIIRjh493g8SdvLJJ4XxNdAtuuii6Z///FdaaaUVBw5mBlzxa//+97/DpbrYYoulgw46KAjaBRdcmM9xbppnnnnSP/7xj7Tiiiu2Wf2iOvz1r39N3bp1S2ussWY64YTj09RT/1QBq6CMhxxySJQFQUSyKHtDggGaC/jggw9O8803f/rXv/6ZllxyyeZvmxS2yy+/IhPCM8KIVxhvvPHSMUcfk/bYc4/mT34E0njuuedFWZC3ccdtHwsy1BmDxYBA+/bjpokmmjBNP/30afvtd0ibbrppNs7jB2lg0L3c/3uZMCBBDKPYO6SBirnccsulXXbZJS244IJxvrbgu+/6pPvvvy9IH+V05plnbnObDA6GLCTlpZdeSs8991x644030if539/nMrdv3z5cyV6TTjppuMunmWaaeFEqEQaE/OcQ0HogKd9+2zvqioH2jvh+/fU38W7i8f33P+Rr1DIxaBfXnWiiidOss84aZdG+t956ayZOj0dfrogE1jX66KNFm6vr9dZbL+oekWoJFDSqb+crOuf+80Fabvnl0xZbbDHIZAAZPPmUU9Kll1wSxEnZp5tuuigLAq8/v/TSi0F6hRV49rbddtu4diMBrOBZVP9PPvlkej9PLNzTkksskeaaa66fECH3Jd7UZGWRRRZJ66yzTrTN0EK9vvLKq02Tu1xWYRSeP9eGd/KEzgSla9fnY0W5Y/xGO1f9QR/QJzp27JimzM/JLDPPkp/1puelNfTp831+zr6NvuU1OJhk3XTTzTH5WW31VdP6663f/M2P0HdNUj/44P081o2dCXJTmSaffLLcRyaK/jl6JupjtHHSWfD7QiFtBSMcFiFccMEF6fjjjx9kIcIOO+wQpGz22ZsUprvvvjsTnX+FSwcx+b//+784hsFEorhXkTXHMA5tmUUznkcffXSQRoZyjz32zOf9WxCV1kD5+vvf/57OOeecTPLWCNVNeYYE5TzrrLPTsccek9Zcc80oPyIDlICrrroqHX744VEm6t3UU08TKsj77/dIq626ajoo3yMDXj+YI3r7739AuvLKK6KetttuuzTHnHOk0UcbPYwDQvD555+lTz75ND399NMRU7fwwoukvffeOwzFzTffFHFzDLDygfPMNNNMQSQYQuVBpLfaeut04F/+kuaYY444bnAwrDDoR2ey2atXz7TjjjumDTfccIhGry2gDN6f+wCls2s2jvoM41wP5dWGjHWTQZw8/o08dew4ZSatm2XiPG8mkUNnGBHj2267LX34wYdBiL/Mr6+/bnIlI7qIuRdCh1D3798v+qHr6l8Ihr7CPf7oo48MJNXKp27Um9/pY7D44ounjTbaKG2++eahPNfDNe+88650Rib5d9x+e3xGod5ll13TDn/cIXVqPp4b30TH8wPLLrts2mSTTSL2Eyn75ptvU/fub+bn6sFwx+tvvttzzz3TxhtvHESiHj169Eg33nhTuv3224IwI30dJpss3P1bbbllnmitNEg7Iz1nnXVmOuKII3L/XT797W9/TfPPP3/zt0MGRYoLF+lDhl577fVc5q9jYuU5QhQrImTiob8qU0tonyc1E2fyPOmkHYJEr7POumnnnXeOf7cEbfHQQw/nNr8195f5og831kc9PF9HHXVUuv76G9Juu++W/v2vfw/Sx97KZNLE7b48Ufzoow/zJ6NlQj5hKJtSFZlM6LtjjzVO7i/jphlnmnGg52BYTHgKfgNA2goKRiQysagdc8wxtWy4atnA1cYdd9zamGOOUcvGrXbsscfWvviiZ61Hj/drO+20Uy0bg1qeidYyOanl2XT8Pg/WtUyeTD5q2RjVsiGpZcJRe+6552rXXntdLZOSWt++fePYemSSUjvhhBNqk002WS1PtGubbrpp7fHHH2/+tnVkIlNbb731opz77bdfLRvP5m8GjzwLrx188CFxvT//+S/5vr5o/qZWu/fee2uZcMY9ZNJU69KlS+3hhx+p/fGPf6xlQ5/LN1ptpZVXrl13/fW1b3v3bv5Vrdbjvfdq2ajH7zbYYINaNl7N3/yITHJq7777bu3888+vLbzwwrVsFGoLLrhALRvXqG+/dS8LLrhgbffdd69deumltUzwao899ljt4osvjnqZdNJJa+3zMfvsu28tG53aLbfcUvvwo49qAwYMaL7KoHjrrbdq2ejXMimI8meCW8vEtPnbX4ZMjmq333FHLRuzWjZkUX79YrbZZs/3sFBt7rnnjjrs1KlTbYopOtYyWYpjqtdMM81cu/XWW3Of6Bf9RP0MCfqP/pTJ7k/
"text/plain": [
"<IPython.core.display.Image object>"
]
},
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 4,
regresja liniowa
2023-10-18 17:10:31 +02:00
"metadata": {},
"output_type": "execute_result"
}
],
regresja liniowa
2023-10-18 12:53:38 +02:00
"source": [
regresja liniowa
2023-10-18 17:10:31 +02:00
"from IPython.display import Image\n",
"Image(filename='mem.png')"
regresja liniowa
2023-10-18 12:53:38 +02:00
]
},
{
"cell_type": "markdown",
"id": "56ca2bb6-eff7-4fe3-9d09-9e5955acc18e",
"metadata": {},
"source": [
regresja liniowa
2023-10-18 17:10:31 +02:00
"Źródło memu: https://xkcd.com/\n",
"\n",
regresja liniowa
2023-10-18 12:53:38 +02:00
"Oczywiście mamy więcej informacji niż liczba rozwiązanych ćwiczeń, więc można by było spróbować wyznaczyć funkcję wielu zmiennych, w której każdy ze składników byłby jakąś funkcją liniową. To już spróbujemy zrobić korzystając z możliwości języka Python i dostępnych dla niego bibliotek."
]
},
regresja liniowa
2023-10-18 12:56:34 +02:00
{
"cell_type": "markdown",
"id": "3b482f8e-e70e-4a61-a2a5-37d42cf9656b",
"metadata": {},
"source": [
"## Przykład kodu na regresję liniową"
]
},
regresja liniowa
2023-10-18 14:37:13 +02:00
{
"cell_type": "markdown",
"id": "1c1dd0af-74e4-4f7a-93bf-64a9d2be14c3",
"metadata": {},
"source": [
"Zaczynamy od importu pewnych bibliotek, które ułatwiają pracę z danymi i uruchamianie algorytmów uczenia maszynowego:"
]
},
{
"cell_type": "code",
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 5,
regresja liniowa
2023-10-18 14:37:13 +02:00
"id": "74d886ec-b819-48fa-aac2-e69c6160287b",
"metadata": {},
"outputs": [],
"source": [
"import pandas as pd\n",
"import numpy as np\n",
" \n",
"from sklearn.linear_model import LinearRegression\n",
"from sklearn.metrics import mean_squared_error"
]
},
{
"cell_type": "markdown",
"id": "d9e1ee83-3b9d-439f-9aee-5ac095ded83a",
"metadata": {},
"source": [
"Wczytajmy dane i podejrzyjmy nasz zbiór danych:"
]
},
{
"cell_type": "code",
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 6,
regresja liniowa
2023-10-18 14:37:13 +02:00
"id": "f1111528-20ce-4ed5-9c5a-511f2c1041d2",
"metadata": {},
"outputs": [
{
"data": {
"text/html": [
"<div>\n",
"<style scoped>\n",
" .dataframe tbody tr th:only-of-type {\n",
" vertical-align: middle;\n",
" }\n",
"\n",
" .dataframe tbody tr th {\n",
" vertical-align: top;\n",
" }\n",
"\n",
" .dataframe thead th {\n",
" text-align: right;\n",
" }\n",
"</style>\n",
"<table border=\"1\" class=\"dataframe\">\n",
" <thead>\n",
" <tr style=\"text-align: right;\">\n",
" <th></th>\n",
" <th>cwiczenia</th>\n",
" <th>czas_min</th>\n",
" <th>wejscia</th>\n",
" <th>nieodwiedzone</th>\n",
" <th>czas_do_testu_godziny</th>\n",
" <th>test</th>\n",
" </tr>\n",
" </thead>\n",
" <tbody>\n",
" <tr>\n",
" <th>0</th>\n",
" <td>4</td>\n",
" <td>12</td>\n",
" <td>1</td>\n",
" <td>1</td>\n",
" <td>20</td>\n",
" <td>20.00</td>\n",
" </tr>\n",
" <tr>\n",
" <th>1</th>\n",
" <td>8</td>\n",
" <td>25</td>\n",
" <td>3</td>\n",
" <td>3</td>\n",
" <td>36</td>\n",
" <td>60.00</td>\n",
" </tr>\n",
" <tr>\n",
" <th>2</th>\n",
" <td>14</td>\n",
" <td>48</td>\n",
" <td>3</td>\n",
" <td>1</td>\n",
" <td>33</td>\n",
" <td>92.86</td>\n",
" </tr>\n",
" <tr>\n",
" <th>3</th>\n",
" <td>11</td>\n",
" <td>37</td>\n",
" <td>5</td>\n",
" <td>0</td>\n",
" <td>42</td>\n",
" <td>65.34</td>\n",
" </tr>\n",
" <tr>\n",
" <th>4</th>\n",
" <td>5</td>\n",
" <td>29</td>\n",
" <td>2</td>\n",
" <td>0</td>\n",
" <td>22</td>\n",
" <td>42.35</td>\n",
" </tr>\n",
" <tr>\n",
" <th>5</th>\n",
" <td>2</td>\n",
" <td>5</td>\n",
" <td>1</td>\n",
" <td>4</td>\n",
" <td>5</td>\n",
" <td>13.14</td>\n",
" </tr>\n",
" <tr>\n",
" <th>6</th>\n",
" <td>16</td>\n",
" <td>36</td>\n",
" <td>7</td>\n",
" <td>1</td>\n",
" <td>47</td>\n",
" <td>85.13</td>\n",
" </tr>\n",
" <tr>\n",
" <th>7</th>\n",
" <td>18</td>\n",
" <td>55</td>\n",
" <td>5</td>\n",
" <td>0</td>\n",
" <td>39</td>\n",
" <td>98.33</td>\n",
" </tr>\n",
" <tr>\n",
" <th>8</th>\n",
" <td>20</td>\n",
" <td>48</td>\n",
" <td>4</td>\n",
" <td>0</td>\n",
" <td>45</td>\n",
" <td>100.00</td>\n",
" </tr>\n",
" <tr>\n",
" <th>9</th>\n",
" <td>10</td>\n",
" <td>42</td>\n",
" <td>7</td>\n",
" <td>1</td>\n",
" <td>37</td>\n",
" <td>70.00</td>\n",
" </tr>\n",
" </tbody>\n",
"</table>\n",
"</div>"
],
"text/plain": [
" cwiczenia czas_min wejscia nieodwiedzone czas_do_testu_godziny test\n",
"0 4 12 1 1 20 20.00\n",
"1 8 25 3 3 36 60.00\n",
"2 14 48 3 1 33 92.86\n",
"3 11 37 5 0 42 65.34\n",
"4 5 29 2 0 22 42.35\n",
"5 2 5 1 4 5 13.14\n",
"6 16 36 7 1 47 85.13\n",
"7 18 55 5 0 39 98.33\n",
"8 20 48 4 0 45 100.00\n",
"9 10 42 7 1 37 70.00"
]
},
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 6,
regresja liniowa
2023-10-18 14:37:13 +02:00
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"data = pd.read_csv('data.csv', sep=';')\n",
"data"
]
},
{
"cell_type": "markdown",
"id": "2158a205-2c9e-41b9-9fe0-d56dd7b97213",
"metadata": {},
"source": [
"Teraz obliczamy podstawowy model regresji liniowej i wyliczamy błąd (czyli jak bardzo obliczone wartości funkcji regresji różnią się od tych rzeczywistych) - weźmy miarę RMSE (omówimy ją na późniejszych zajęciach - na razie zapamiętajmy: im niższy błąd tym lepiej):"
]
},
{
"cell_type": "code",
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 7,
regresja liniowa
2023-10-18 14:37:13 +02:00
"id": "f7eade7c-def7-4944-8eea-7cba985e5bf5",
"metadata": {},
"outputs": [
{
"name": "stdout",
"output_type": "stream",
"text": [
"Współczynnik a: 4.8869552414605435\n",
"Wyraz wolny: 11.935883392226131\n",
"Błąd: Root Mean Squared Error (RMSE): 8.27\n"
]
}
],
"source": [
"model = LinearRegression()\n",
" \n",
"X = data[['cwiczenia']]\n",
"y = data['test']\n",
" \n",
"model.fit(X,y, sample_weight=None)\n",
"y_pred = model.predict(X)\n",
" \n",
"print('Współczynnik a: ', model.coef_[0])\n",
"print('Wyraz wolny: ', model.intercept_)\n",
"print('Błąd: Root Mean Squared Error (RMSE): %.2f'% np.sqrt(mean_squared_error(y, y_pred)))\n"
]
},
{
"cell_type": "markdown",
"id": "04bf6923-da81-40ca-96bd-33f1ad973ddc",
"metadata": {},
"source": [
"A co by było jakbyśmy wzięli dodatkowo pod uwagę czas spędzony w kursie:"
]
},
{
"cell_type": "code",
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 8,
regresja liniowa
2023-10-18 14:37:13 +02:00
"id": "2b232e81-9d0e-4817-ac0a-5f7b1d293666",
"metadata": {},
"outputs": [
{
"name": "stdout",
"output_type": "stream",
"text": [
"Współczynnik przy argumencie \"cwiczenia\": 2.793448759670846\n",
"Współczynnik przy argumencie \"czas_min\": 0.9017691542564438\n",
"Wyraz wolny: 4.156132897112705\n",
"Błąd: Root Mean Squared Error (RMSE): 5.19\n"
]
}
],
"source": [
"X = data[['cwiczenia', 'czas_min']]\n",
"y = data['test']\n",
" \n",
"model.fit(X,y, sample_weight=None)\n",
"y_pred = model.predict(X)\n",
" \n",
"print('Współczynnik przy argumencie \"cwiczenia\": ', model.coef_[0])\n",
"print('Współczynnik przy argumencie \"czas_min\": ', model.coef_[1])\n",
"print('Wyraz wolny: ', model.intercept_)\n",
"print('Błąd: Root Mean Squared Error (RMSE): %.2f'% np.sqrt(mean_squared_error(y, y_pred)))\n"
]
},
{
"cell_type": "markdown",
"id": "e49fa078-6216-4d83-bbbd-db0b58aa7c8e",
"metadata": {},
"source": [
"Mamy lepszy wynik - błąd jest niższy :)"
]
},
{
"cell_type": "markdown",
"id": "d501bcc0-d3bf-4552-bf2b-c78753b4d5d6",
"metadata": {},
"source": [
"A jak wyglądają nasze wyznaczone wartości funkcji regresji?"
]
},
{
"cell_type": "code",
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 9,
regresja liniowa
2023-10-18 14:37:13 +02:00
"id": "e539d645-86c6-42c0-9059-7a3c310cc2a3",
"metadata": {},
"outputs": [
{
"data": {
regresja liniowa
2023-10-18 14:40:08 +02:00
"text/html": [
"<div>\n",
"<style scoped>\n",
" .dataframe tbody tr th:only-of-type {\n",
" vertical-align: middle;\n",
" }\n",
"\n",
" .dataframe tbody tr th {\n",
" vertical-align: top;\n",
" }\n",
"\n",
" .dataframe thead th {\n",
" text-align: right;\n",
" }\n",
"</style>\n",
"<table border=\"1\" class=\"dataframe\">\n",
" <thead>\n",
" <tr style=\"text-align: right;\">\n",
" <th></th>\n",
" <th>cwiczenia</th>\n",
" <th>czas_min</th>\n",
" <th>wejscia</th>\n",
" <th>nieodwiedzone</th>\n",
" <th>czas_do_testu_godziny</th>\n",
" <th>test</th>\n",
" <th>y_pred</th>\n",
" </tr>\n",
" </thead>\n",
" <tbody>\n",
" <tr>\n",
" <th>0</th>\n",
" <td>4</td>\n",
" <td>12</td>\n",
" <td>1</td>\n",
" <td>1</td>\n",
" <td>20</td>\n",
" <td>20.00</td>\n",
" <td>26.151158</td>\n",
" </tr>\n",
" <tr>\n",
" <th>1</th>\n",
" <td>8</td>\n",
" <td>25</td>\n",
" <td>3</td>\n",
" <td>3</td>\n",
" <td>36</td>\n",
" <td>60.00</td>\n",
" <td>49.047952</td>\n",
" </tr>\n",
" <tr>\n",
" <th>2</th>\n",
" <td>14</td>\n",
" <td>48</td>\n",
" <td>3</td>\n",
" <td>1</td>\n",
" <td>33</td>\n",
" <td>92.86</td>\n",
" <td>86.549335</td>\n",
" </tr>\n",
" <tr>\n",
" <th>3</th>\n",
" <td>11</td>\n",
" <td>37</td>\n",
" <td>5</td>\n",
" <td>0</td>\n",
" <td>42</td>\n",
" <td>65.34</td>\n",
" <td>68.249528</td>\n",
" </tr>\n",
" <tr>\n",
" <th>4</th>\n",
" <td>5</td>\n",
" <td>29</td>\n",
" <td>2</td>\n",
" <td>0</td>\n",
" <td>22</td>\n",
" <td>42.35</td>\n",
" <td>44.274682</td>\n",
" </tr>\n",
" <tr>\n",
" <th>5</th>\n",
" <td>2</td>\n",
" <td>5</td>\n",
" <td>1</td>\n",
" <td>4</td>\n",
" <td>5</td>\n",
" <td>13.14</td>\n",
" <td>14.251876</td>\n",
" </tr>\n",
" <tr>\n",
" <th>6</th>\n",
" <td>16</td>\n",
" <td>36</td>\n",
" <td>7</td>\n",
" <td>1</td>\n",
" <td>47</td>\n",
" <td>85.13</td>\n",
" <td>81.315003</td>\n",
" </tr>\n",
" <tr>\n",
" <th>7</th>\n",
" <td>18</td>\n",
" <td>55</td>\n",
" <td>5</td>\n",
" <td>0</td>\n",
" <td>39</td>\n",
" <td>98.33</td>\n",
" <td>104.035514</td>\n",
" </tr>\n",
" <tr>\n",
" <th>8</th>\n",
" <td>20</td>\n",
" <td>48</td>\n",
" <td>4</td>\n",
" <td>0</td>\n",
" <td>45</td>\n",
" <td>100.00</td>\n",
" <td>103.310027</td>\n",
" </tr>\n",
" <tr>\n",
" <th>9</th>\n",
" <td>10</td>\n",
" <td>42</td>\n",
" <td>7</td>\n",
" <td>1</td>\n",
" <td>37</td>\n",
" <td>70.00</td>\n",
" <td>69.964925</td>\n",
" </tr>\n",
" </tbody>\n",
"</table>\n",
"</div>"
],
regresja liniowa
2023-10-18 14:37:13 +02:00
"text/plain": [
regresja liniowa
2023-10-18 14:40:08 +02:00
" cwiczenia czas_min wejscia nieodwiedzone czas_do_testu_godziny test \\\n",
"0 4 12 1 1 20 20.00 \n",
"1 8 25 3 3 36 60.00 \n",
"2 14 48 3 1 33 92.86 \n",
"3 11 37 5 0 42 65.34 \n",
"4 5 29 2 0 22 42.35 \n",
"5 2 5 1 4 5 13.14 \n",
"6 16 36 7 1 47 85.13 \n",
"7 18 55 5 0 39 98.33 \n",
"8 20 48 4 0 45 100.00 \n",
"9 10 42 7 1 37 70.00 \n",
"\n",
" y_pred \n",
"0 26.151158 \n",
"1 49.047952 \n",
"2 86.549335 \n",
"3 68.249528 \n",
"4 44.274682 \n",
"5 14.251876 \n",
"6 81.315003 \n",
"7 104.035514 \n",
"8 103.310027 \n",
"9 69.964925 "
regresja liniowa
2023-10-18 14:37:13 +02:00
]
},
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 9,
regresja liniowa
2023-10-18 14:37:13 +02:00
"metadata": {},
"output_type": "execute_result"
}
],
"source": [
"data_with_y_pred = data.copy()\n",
"data_with_y_pred['y_pred'] = y_pred\n",
regresja liniowa
2023-10-18 14:40:08 +02:00
"data_with_y_pred"
regresja liniowa
2023-10-18 14:37:13 +02:00
]
},
regresja liniowa
2023-10-18 17:10:31 +02:00
{
"cell_type": "markdown",
"id": "5379e671-b564-49ff-8523-d7db5a6aaf54",
"metadata": {},
"source": [
"## Źródła\n",
"\n",
"- https://miroslawmamczur.pl/jak-dziala-regresja-liniowa-i-czy-warto-ja-stosowac/"
]
},
regresja liniowa
2023-10-18 14:37:13 +02:00
{
"cell_type": "markdown",
"id": "7ea9c2cb-b654-4190-9e4f-972e4d3bf92f",
"metadata": {},
"source": [
"## Zadanie 1.\n",
"\n",
"Dla całego zbioru danych oblicz sumę kwadratów róźnic pomiędzy kolumnami **test** i **y_pred**. Wynik zaokrąglij do dwóch miejsc po przecinku (pamiętaj, że od 5 zaokrąglamy w górę). Podpowiedź:"
]
},
{
"cell_type": "markdown",
"id": "90d8f306-e823-4552-8f41-6aac1ee37611",
"metadata": {},
"source": [
"- `data_with_y_pred['nazwa_kolumny'].size` - liczba elementów (wierszy) w danej kolumnie\n",
"\n",
"- `data_with_y_pred['nazwa_kolumny'][0]` - pierwszy (indeksujemy od zera) element (wiersz) kolumny"
]
},
{
"cell_type": "markdown",
"id": "8d9c213b-5758-409b-a73d-1012a3709032",
"metadata": {},
"source": [
regresja liniowa
2023-10-18 17:10:31 +02:00
"Konkretne zadanie: napisz funkcję o nazwie `fun1()`, która zwróci oczekiwany wynik. Kod tej funkcji wklej na Moodle'u w aktywności o nazwie **Regresja liniowa - zadanie 1**. Na Moodle'u poza powyższym zbiorem danych kod będzie sprawdzony na innym zbiorze danych, więc nie można napisać prostej funkcji, która zwróci wartość obliczoną np. na kartce - niestety trzeba napisać funkcję obliczającą poszukiwaną wartość ;)\n",
"\n",
"Dla powyższej sytuacji, gdzie mamy regresję liniową dwóch zmiennych wynik powinien wynosić **269.08**.\n",
"\n",
"Jeżeli Twój kod nie działa a nie masz pomysłu, jak go naprawić, wrzuć na Moodle'u to, co masz - zostanie to ocenione ręcznie :)"
]
},
{
"cell_type": "markdown",
"id": "d674b8bd-338d-4a65-9e1a-3d2fcfa5f3c3",
"metadata": {},
"source": [
"Tutaj możesz napisać swój kod i go testować:"
regresja liniowa
2023-10-18 14:37:13 +02:00
]
},
regresja liniowa
2023-10-18 11:29:12 +02:00
{
"cell_type": "code",
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 10,
regresja liniowa
2023-10-18 17:10:31 +02:00
"id": "7accff27-2c3a-4374-af85-dfdcaa66e689",
regresja liniowa
2023-10-18 11:29:12 +02:00
"metadata": {},
"outputs": [],
regresja liniowa
2023-10-18 17:10:31 +02:00
"source": [
"### poniżej wpisz swój kod i naciśnij Shift+Enter\n",
"\n"
]
},
{
"cell_type": "markdown",
"id": "0c2fc571-36a7-4c51-acc6-71312786a1e0",
"metadata": {},
"source": [
"## Zadanie 2."
]
},
{
"cell_type": "markdown",
"id": "68a0cd34-0b41-43d0-bf30-eb19ba7d724f",
"metadata": {},
"source": [
regresja liniowa
2023-10-18 17:51:54 +02:00
"Wejdź na Moodle'a do aktywności **Regresja liniowa - zadanie 2** i odpowiedz na zadane tam pytania dotyczące kodu i problemu przedstawionego na dzisiejszych zajęciach. Poniżej możesz pisać kod, jeśli zajdzie taka potrzeba i go testować. Możesz też edytować kod, który jest wyżej w materiałach i go testować :)"
regresja liniowa
2023-10-18 17:10:31 +02:00
]
},
{
"cell_type": "code",
regresja liniowa
2023-10-18 18:00:54 +02:00
"execution_count": 11,
regresja liniowa
2023-10-18 17:10:31 +02:00
"id": "d9ea6706-3194-42ae-bd96-484fbad544c4",
"metadata": {},
"outputs": [],
"source": [
"### poniżej wpisz swój kod i naciśnij Shift+Enter\n",
"\n"
]
regresja liniowa
2023-10-18 11:29:12 +02:00
}
],
"metadata": {
"kernelspec": {
"display_name": "Python 3 (ipykernel)",
"language": "python",
"name": "python3"
},
"language_info": {
"codemirror_mode": {
"name": "ipython",
"version": 3
},
"file_extension": ".py",
"mimetype": "text/x-python",
"name": "python",
"nbconvert_exporter": "python",
"pygments_lexer": "ipython3",
"version": "3.9.2"
}
},
"nbformat": 4,
"nbformat_minor": 5
}
Reference in New Issue Copy Permalink