ZUT - Polska Rama Kwalifikacji / Rok 2019/2020 / Wydział Informatyki / Informatyka (S2) / Systemy komputerowe zorientowane na człowieka / Sylabus przedmiotu

Wydział Informatyki - Informatyka (S2)
specjalność: Systemy komputerowe zorientowane na człowieka

Sylabus przedmiotu Uczenie maszynowe 1:

Informacje podstawowe

Kierunek studiów	Informatyka
Forma studiów	studia stacjonarne	Poziom	drugiego stopnia
Tytuł zawodowy absolwenta	magister inżynier
Obszary studiów	charakterystyki PRK, kompetencje inżynierskie PRK
Profil	ogólnoakademicki
Moduł	—
Przedmiot	Uczenie maszynowe 1
Specjalność	Inteligencja obliczeniowa
Jednostka prowadząca	Katedra Metod Sztucznej Inteligencji i Matematyki Stosowanej
Nauczyciel odpowiedzialny	Marcin Korzeń <Marcin.Korzen@zut.edu.pl>
Inni nauczyciele	Jacek Klimaszewski <Jacek.Klimaszewski@zut.edu.pl>, Przemysław Klęsk <pklesk@wi.zut.edu.pl>, Marcin Pietrzykowski <Marcin.Pietrzykowski@zut.edu.pl>
ECTS (planowane)	4,0	ECTS (formy)	4,0
Forma zaliczenia	zaliczenie	Język	polski
Blok obieralny	—	Grupa obieralna	—

Formy dydaktyczne

Forma dydaktyczna	KOD	Semestr	Godziny	ECTS	Waga	Zaliczenie
laboratoria	L	2	30	2,0	0,50	zaliczenie
wykłady	W	2	30	2,0	0,50	zaliczenie

Wymagania wstępne

KOD	Wymaganie wstępne
W-1	Podstawowe wiadomości z rachunku prawdopodobieństwa i statystyki
W-2	Podstawowe wiadomości z algebry liniowej

Cele przedmiotu

KOD	Cel modułu/przedmiotu
C-1	Zapoznanie z podstawowymi algorytmami uczenia maszynowego
C-2	Nabycie umiejętności rozpoznawania róznych zadań ucznia maszynowego w sytuacjach praktycznych oraz wyboru odpowiednich technik i algorytmów do ich rozwiązywania
C-3	Nabycie umiejętności implementacji wybranych metod ucznia maszynowego.
C-4	Przygotowanie do prowadzenia badań naukowych w dyscyplinie Informatyka

Treści programowe z podziałem na formy zajęć

KOD	Treść programowa	Godziny
laboratoria
T-L-1	Wprowadzenie do środowiska python/sklearn.	2
T-L-2	Testowanie klasyfikatorów w pakiecie sklearn: miary jakości klasyfikacji, ROC i AUC, klasyfikacja wieloklasowa.	4
T-L-3	Drzewa decyzyjne: algorym uczenia, przycinanie, testowanie.	4
T-L-4	Metoda SVM wariant liniowy implementacja, Wariant nieliniwy badanie wpływu wyboru jądra na działanie algorytmu SVM ze zbiorami nieseparowalnymi liniowo,	6
T-L-5	Regresja liniowa i logistyczna, regularyzacja modeli (ridge, lasso, elastic-net, fussed-lasso) algorytmy uczenia, wybrane zastosowania.	6
T-L-6	Metody selekcji zmiennych: selekcja zmiennych oparta na entropii oraz informacji wzajemnej, selekcja zmiennych oparta na modelach regularyzowanych.	4
T-L-7	Wielowarstwowa sieć neuronowa oraz algorytm wstecznej propagacji błędów, wybrane zastosowania.	4
		30
wykłady
T-W-1	Powtórzenie z rachunku prawdopodobieństwa: prawdopodobieństwo warunkowe, prawdopodobieństwo całkowite, reguła Bayesa, wielowymiarowe zmienne losowe, korelacje.	2
T-W-2	Paradygmaty uczenia maszynowego, pojęcia podstawowe, dwa podstawowe zadania uczenia nadzorowanego (klasyfikacja i regresja), testowanie maszyn uczących się (miary jakości w modeli klasyfikacyjnych i regresyjnych, ROC i AUC, bootstrap, kroswalidacja).	3
T-W-3	Elementy teorii informacji, entropia, informacja wzajemna i ich własności	2
T-W-4	Drzewa klasyfikacyjne, algorytm uczenia, miary zanieczyszczenia, strategie przycinania (głębokość, rzadkie węzły, kary za liść), przeglądanie poddrzew wyczerpujące i zachłanne, algorytm przycinania z automatycznym wyborem kary za liść.	4
T-W-5	Klasyfikatory funkcyjne: klasyfikatory liniowe (metoda LDA, regresja logistyczna, liniowy SVM), pojęcie marginesu separacji, regularyzacja modeli (ridge, lasso, elastic-net, fussed-lasso), wybrane algorymy uczenia.	4
T-W-6	Klasyfikatory funkcyjne nieliniowe, metoda QDA, jądra i przekształcenia jądrowe, nieliniowy SVM.	4
T-W-7	Sieci neuronowe (MLP), algorytm wstecznej propagacji, uczenie ekstremalne, algorytm SGD (gradient stochastyczn).	4
T-W-8	Metody regresyjne, rzadka regresja, odporna regresja, regracja nieliniowa, algorytm MARS	4
T-W-9	Klasyfikacja wielo-klasowa i wielo-etykietowa, regresja wielowartościowa	3
		30

Obciążenie pracą studenta - formy aktywności

KOD	Forma aktywności	Godziny
laboratoria
A-L-1	Uczestnictwo w zajęciach	30
A-L-2	przygotowanie do zajęć	10
A-L-3	praca nad zadaniami programistycznymi oraz sprawozdaniami	8
A-L-4	Konsultacje	2
		50
wykłady
A-W-1	Uczestnictwo w wykładach	30
A-W-2	Konsultacje	2
A-W-3	Przygotowanie do zaliczenia	18
		50

Metody nauczania / narzędzia dydaktyczne

KOD	Metoda nauczania / narzędzie dydaktyczne
M-1	Wykład prezentacja w postaci slajdów, wybrane treść pokazywne na tablicy
M-2	Laboratoria praca przy komputerach w środowisku programu Python (ewntulanie do wyboru Matlab lub R), samodzielna impelementacja wybranych algorytmów oraz wykorzystywnie dostępnych bibliotek w zależności od zadania.

Sposoby oceny

KOD	Sposób oceny
S-1	Ocena formująca: Laboratorium ocena sprawozdań
S-2	Ocena formująca: Laboratorium: ocena zadań programistycznych
S-3	Ocena formująca: Laboratorium: ocena pracy na zajęciach
S-4	Ocena podsumowująca: Zaliczenie ustne lub pisemne.
S-5	Ocena podsumowująca: Laboratorium zagregowana ocena łączna z poczególnych ocen cząstkowych

Zamierzone efekty uczenia się - wiedza

Zamierzone efekty uczenia się	Odniesienie do efektów kształcenia dla kierunku studiów	Odniesienie do efektów zdefiniowanych dla obszaru kształcenia	Odniesienie do efektów uczenia się prowadzących do uzyskania tytułu zawodowego inżyniera	Cel przedmiotu	Treści programowe	Metody nauczania	Sposób oceny
I_2A_D01.02_W01 Studenta zna podstawowe zadania, algorytmy i techniki uczenia maszynowego.	I_2A_W01, I_2A_W04, I_2A_W02	—	—	C-1	—	M-2, M-1	S-2, S-4

Zamierzone efekty uczenia się - umiejętności

Zamierzone efekty uczenia się	Odniesienie do efektów kształcenia dla kierunku studiów	Odniesienie do efektów zdefiniowanych dla obszaru kształcenia	Odniesienie do efektów uczenia się prowadzących do uzyskania tytułu zawodowego inżyniera	Cel przedmiotu	Treści programowe	Metody nauczania	Sposób oceny
I_2A_D01.02_U01 Student umie rozwiązywać podstawowe zadania uczenia maszynowego oraz umie posuługiwać sie wybranymi bibliotekami uczenia maszynowego.	I_2A_U04, I_2A_U09, I_2A_U06, I_2A_U07	—	—	C-2, C-4, C-3	T-L-2, T-L-5, T-L-7, T-L-6, T-L-4, T-L-1, T-L-3	M-2	S-2, S-3, S-5, S-1

Kryterium oceny - wiedza

Efekt uczenia się	Ocena	Kryterium oceny
I_2A_D01.02_W01 Studenta zna podstawowe zadania, algorytmy i techniki uczenia maszynowego.	2,0
	3,0	Student opanował podstawowe zadania i techniki uczenia maszynowego w stopniu dostatecznym.
	3,5
	4,0	Student opanował materiał przedmiotu w stopniu dobrym, rozróżnia główne zdania uczenia maszynowego, zna dobrze możliwości dostęnych bibliotek w tym zakesie, zna gółwne algorytmy.
	4,5
	5,0	Student opanował materiał przedmiotu w stopniu bardzo dobrym, rozróżnia główne zdania uczenia maszynowego, zna bardzo dobrze możliwości dostęnych bibliotek w tym zakesie, zna gółwne algorytmy i jest biegły w szczególach impelementacyjnych.

Kryterium oceny - umiejętności

Efekt uczenia się	Ocena	Kryterium oceny
I_2A_D01.02_U01 Student umie rozwiązywać podstawowe zadania uczenia maszynowego oraz umie posuługiwać sie wybranymi bibliotekami uczenia maszynowego.	2,0
	3,0	Student umie rozwiązywać najprostsze zadania uczenia maszynowego, posługując się dostępnymi narzedziami.
	3,5	Student umie rozwiązywać zadania uczenia maszynowego, posługując się dostępnymi narzedziami.
	4,0	Student umie rozwiązywać zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie implementować wybrane algorytmy.
	4,5	Student umie rozwiązywać zaawansowane zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie implementować wybrane algorytmy uczenia maszynowego.
	5,0	Student umie rozwiązywać zaawansowane zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie biegle implementować wybrane algorytmy uczenia maszynowego.

Literatura podstawowa

K. P. Murphy, Machine Learning A Probabilistic Perspective, MIT Press, 2012
J. Ćwik, J. Koronacki, Statystyczne systemy uczące się, WNT, Warszawa, 2005
M. Krzyśko, W. Wołyński, T. Górecki, M. Skorzybut, Systemy uczące się, WNT, Warszawa, 2008
David MacKay, Information Theory, Inference, and Learning Algorithms, Cambridge University Press, 2003

Treści programowe - laboratoria

KOD	Treść programowa	Godziny
T-L-1	Wprowadzenie do środowiska python/sklearn.	2
T-L-2	Testowanie klasyfikatorów w pakiecie sklearn: miary jakości klasyfikacji, ROC i AUC, klasyfikacja wieloklasowa.	4
T-L-3	Drzewa decyzyjne: algorym uczenia, przycinanie, testowanie.	4
T-L-4	Metoda SVM wariant liniowy implementacja, Wariant nieliniwy badanie wpływu wyboru jądra na działanie algorytmu SVM ze zbiorami nieseparowalnymi liniowo,	6
T-L-5	Regresja liniowa i logistyczna, regularyzacja modeli (ridge, lasso, elastic-net, fussed-lasso) algorytmy uczenia, wybrane zastosowania.	6
T-L-6	Metody selekcji zmiennych: selekcja zmiennych oparta na entropii oraz informacji wzajemnej, selekcja zmiennych oparta na modelach regularyzowanych.	4
T-L-7	Wielowarstwowa sieć neuronowa oraz algorytm wstecznej propagacji błędów, wybrane zastosowania.	4
		30

Treści programowe - wykłady

KOD	Treść programowa	Godziny
T-W-1	Powtórzenie z rachunku prawdopodobieństwa: prawdopodobieństwo warunkowe, prawdopodobieństwo całkowite, reguła Bayesa, wielowymiarowe zmienne losowe, korelacje.	2
T-W-2	Paradygmaty uczenia maszynowego, pojęcia podstawowe, dwa podstawowe zadania uczenia nadzorowanego (klasyfikacja i regresja), testowanie maszyn uczących się (miary jakości w modeli klasyfikacyjnych i regresyjnych, ROC i AUC, bootstrap, kroswalidacja).	3
T-W-3	Elementy teorii informacji, entropia, informacja wzajemna i ich własności	2
T-W-4	Drzewa klasyfikacyjne, algorytm uczenia, miary zanieczyszczenia, strategie przycinania (głębokość, rzadkie węzły, kary za liść), przeglądanie poddrzew wyczerpujące i zachłanne, algorytm przycinania z automatycznym wyborem kary za liść.	4
T-W-5	Klasyfikatory funkcyjne: klasyfikatory liniowe (metoda LDA, regresja logistyczna, liniowy SVM), pojęcie marginesu separacji, regularyzacja modeli (ridge, lasso, elastic-net, fussed-lasso), wybrane algorymy uczenia.	4
T-W-6	Klasyfikatory funkcyjne nieliniowe, metoda QDA, jądra i przekształcenia jądrowe, nieliniowy SVM.	4
T-W-7	Sieci neuronowe (MLP), algorytm wstecznej propagacji, uczenie ekstremalne, algorytm SGD (gradient stochastyczn).	4
T-W-8	Metody regresyjne, rzadka regresja, odporna regresja, regracja nieliniowa, algorytm MARS	4
T-W-9	Klasyfikacja wielo-klasowa i wielo-etykietowa, regresja wielowartościowa	3
		30

Formy aktywności - laboratoria

KOD	Forma aktywności	Godziny
A-L-1	Uczestnictwo w zajęciach	30
A-L-2	przygotowanie do zajęć	10
A-L-3	praca nad zadaniami programistycznymi oraz sprawozdaniami	8
A-L-4	Konsultacje	2
		50

(*) 1 punkt ECTS, odpowiada około 30 godzinom aktywności studenta

Formy aktywności - wykłady

KOD	Forma aktywności	Godziny
A-W-1	Uczestnictwo w wykładach	30
A-W-2	Konsultacje	2
A-W-3	Przygotowanie do zaliczenia	18
		50

(*) 1 punkt ECTS, odpowiada około 30 godzinom aktywności studenta

Pole	KOD	Znaczenie kodu
Zamierzone efekty uczenia się	I_2A_D01.02_W01	Studenta zna podstawowe zadania, algorytmy i techniki uczenia maszynowego.
Odniesienie do efektów kształcenia dla kierunku studiów	I_2A_W01	Ma poszerzoną i pogłębioną wiedzę w zakresie matematyki stosowanej i inżynierii obliczeniowej
	I_2A_W04	Ma rozszerzoną wiedzę o problemach, zadaniach i algorytmach analizy, przetwarzania oraz eksploracji danych
	I_2A_W02	Ma wiedzę z zakresu zaawansowanych technik programowania systemów informatycznych w wybranym obszarze zastosowań
Cel przedmiotu	C-1	Zapoznanie z podstawowymi algorytmami uczenia maszynowego
Metody nauczania	M-2	Laboratoria praca przy komputerach w środowisku programu Python (ewntulanie do wyboru Matlab lub R), samodzielna impelementacja wybranych algorytmów oraz wykorzystywnie dostępnych bibliotek w zależności od zadania.
Metody nauczania	M-1	Wykład prezentacja w postaci slajdów, wybrane treść pokazywne na tablicy
Sposób oceny	S-2	Ocena formująca: Laboratorium: ocena zadań programistycznych
Sposób oceny	S-4	Ocena podsumowująca: Zaliczenie ustne lub pisemne.
Kryteria oceny	Ocena	Kryterium oceny
	2,0
	3,0	Student opanował podstawowe zadania i techniki uczenia maszynowego w stopniu dostatecznym.
	3,5
	4,0	Student opanował materiał przedmiotu w stopniu dobrym, rozróżnia główne zdania uczenia maszynowego, zna dobrze możliwości dostęnych bibliotek w tym zakesie, zna gółwne algorytmy.
	4,5
	5,0	Student opanował materiał przedmiotu w stopniu bardzo dobrym, rozróżnia główne zdania uczenia maszynowego, zna bardzo dobrze możliwości dostęnych bibliotek w tym zakesie, zna gółwne algorytmy i jest biegły w szczególach impelementacyjnych.

Pole	KOD	Znaczenie kodu
Zamierzone efekty uczenia się	I_2A_D01.02_U01	Student umie rozwiązywać podstawowe zadania uczenia maszynowego oraz umie posuługiwać sie wybranymi bibliotekami uczenia maszynowego.
Odniesienie do efektów kształcenia dla kierunku studiów	I_2A_U04	Potrafi wykorzystywać poznane metody, techniki i modele do rozwiązywania złożonych problemów
	I_2A_U09	Ma umiejętność stosowania zaawansowanych technik programowania i metodyki projektowania systemów informatycznych w wybranym obszarze zastosowań
	I_2A_U06	Potrafi stosować metody analityczne i eksperymentalne do rozwiązywania złożonych problemów w tym obliczeniowych
	I_2A_U07	Potrafi ocenić istniejące rozwiązania techniczne w wybranym obszarze zastosowań oraz zaproponować ich modyfikacje
Cel przedmiotu	C-2	Nabycie umiejętności rozpoznawania róznych zadań ucznia maszynowego w sytuacjach praktycznych oraz wyboru odpowiednich technik i algorytmów do ich rozwiązywania
	C-4	Przygotowanie do prowadzenia badań naukowych w dyscyplinie Informatyka
	C-3	Nabycie umiejętności implementacji wybranych metod ucznia maszynowego.
Treści programowe	T-L-2	Testowanie klasyfikatorów w pakiecie sklearn: miary jakości klasyfikacji, ROC i AUC, klasyfikacja wieloklasowa.
	T-L-5	Regresja liniowa i logistyczna, regularyzacja modeli (ridge, lasso, elastic-net, fussed-lasso) algorytmy uczenia, wybrane zastosowania.
	T-L-7	Wielowarstwowa sieć neuronowa oraz algorytm wstecznej propagacji błędów, wybrane zastosowania.
	T-L-6	Metody selekcji zmiennych: selekcja zmiennych oparta na entropii oraz informacji wzajemnej, selekcja zmiennych oparta na modelach regularyzowanych.
	T-L-4	Metoda SVM wariant liniowy implementacja, Wariant nieliniwy badanie wpływu wyboru jądra na działanie algorytmu SVM ze zbiorami nieseparowalnymi liniowo,
	T-L-1	Wprowadzenie do środowiska python/sklearn.
	T-L-3	Drzewa decyzyjne: algorym uczenia, przycinanie, testowanie.
Metody nauczania	M-2	Laboratoria praca przy komputerach w środowisku programu Python (ewntulanie do wyboru Matlab lub R), samodzielna impelementacja wybranych algorytmów oraz wykorzystywnie dostępnych bibliotek w zależności od zadania.
Sposób oceny	S-2	Ocena formująca: Laboratorium: ocena zadań programistycznych
	S-3	Ocena formująca: Laboratorium: ocena pracy na zajęciach
	S-5	Ocena podsumowująca: Laboratorium zagregowana ocena łączna z poczególnych ocen cząstkowych
	S-1	Ocena formująca: Laboratorium ocena sprawozdań
Kryteria oceny	Ocena	Kryterium oceny
	2,0
	3,0	Student umie rozwiązywać najprostsze zadania uczenia maszynowego, posługując się dostępnymi narzedziami.
	3,5	Student umie rozwiązywać zadania uczenia maszynowego, posługując się dostępnymi narzedziami.
	4,0	Student umie rozwiązywać zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie implementować wybrane algorytmy.
	4,5	Student umie rozwiązywać zaawansowane zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie implementować wybrane algorytmy uczenia maszynowego.
	5,0	Student umie rozwiązywać zaawansowane zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie biegle implementować wybrane algorytmy uczenia maszynowego.