Zachodniopomorski Uniwersytet Technologiczny w Szczecinie

Wydział Informatyki - Informatyka (N2)

Sylabus przedmiotu Uczenie maszynowe 1:

Informacje podstawowe

Kierunek studiów Informatyka
Forma studiów studia niestacjonarne Poziom drugiego stopnia
Tytuł zawodowy absolwenta magister inżynier
Obszary studiów charakterystyki PRK, kompetencje inżynierskie PRK
Profil ogólnoakademicki
Moduł
Przedmiot Uczenie maszynowe 1
Specjalność Inteligencja obliczeniowa
Jednostka prowadząca Katedra Metod Sztucznej Inteligencji i Matematyki Stosowanej
Nauczyciel odpowiedzialny Marcin Korzeń <Marcin.Korzen@zut.edu.pl>
Inni nauczyciele Jacek Klimaszewski <Jacek.Klimaszewski@zut.edu.pl>, Przemysław Klęsk <pklesk@wi.zut.edu.pl>, Marcin Pietrzykowski <Marcin.Pietrzykowski@zut.edu.pl>
ECTS (planowane) 4,0 ECTS (formy) 4,0
Forma zaliczenia zaliczenie Język polski
Blok obieralny Grupa obieralna

Formy dydaktyczne

Forma dydaktycznaKODSemestrGodzinyECTSWagaZaliczenie
laboratoriaL2 20 2,00,50zaliczenie
wykładyW2 20 2,00,50zaliczenie

Wymagania wstępne

KODWymaganie wstępne
W-1Podstawowe wiadomości z rachunku prawdopodobieństwa i statystyki
W-2Podstawowe wiadomości z algebry liniowej

Cele przedmiotu

KODCel modułu/przedmiotu
C-1Zapoznanie z podstawowymi algorytmami uczenia maszynowego
C-2Nabycie umiejętności rozpoznawania róznych zadań ucznia maszynowego w sytuacjach praktycznych oraz wyboru odpowiednich technik i algorytmów do ich rozwiązywania
C-3Nabycie umiejętności implementacji wybranych metod ucznia maszynowego.
C-4Przygotowanie do prowadzenia badań naukowych w dyscyplinie Informatyka

Treści programowe z podziałem na formy zajęć

KODTreść programowaGodziny
laboratoria
T-L-1Wprowadzenie do środowiska python/sklearn.2
T-L-2Testowanie klasyfikatorów w pakiecie sklearn: miary jakości klasyfikacji, ROC i AUC, klasyfikacja wieloklasowa.2
T-L-3Drzewa decyzyjne: algorym uczenia, przycinanie, testowanie.2
T-L-4Metoda SVM wariant liniowy implementacja, Wariant nieliniwy badanie wpływu wyboru jądra na działanie algorytmu SVM ze zbiorami nieseparowalnymi liniowo,2
T-L-5Regresja liniowa i logistyczna, regularyzacja modeli (ridge, lasso, elastic-net, fussed-lasso) algorytmy uczenia, wybrane zastosowania.4
T-L-6Metody selekcji zmiennych: selekcja zmiennych oparta na entropii oraz informacji wzajemnej, selekcja zmiennych oparta na modelach regularyzowanych.4
T-L-7Wielowarstwowa sieć neuronowa oraz algorytm wstecznej propagacji błędów, wybrane zastosowania.4
20
wykłady
T-W-1Powtórzenie z rachunku prawdopodobieństwa: prawdopodobieństwo warunkowe, prawdopodobieństwo całkowite, reguła Bayesa, wielowymiarowe zmienne losowe, korelacje.2
T-W-2Paradygmaty uczenia maszynowego, pojęcia podstawowe, dwa podstawowe zadania uczenia nadzorowanego (klasyfikacja i regresja), testowanie maszyn uczących się (miary jakości w modeli klasyfikacyjnych i regresyjnych, ROC i AUC, bootstrap, kroswalidacja).2
T-W-3Elementy teorii informacji, entropia, informacja wzajemna i ich własności2
T-W-4Drzewa klasyfikacyjne, algorytm uczenia, miary zanieczyszczenia, strategie przycinania (głębokość, rzadkie węzły, kary za liść), przeglądanie poddrzew wyczerpujące i zachłanne, algorytm przycinania z automatycznym wyborem kary za liść.2
T-W-5Klasyfikatory funkcyjne: klasyfikatory liniowe (metoda LDA, regresja logistyczna, liniowy SVM), pojęcie marginesu separacji, regularyzacja modeli (ridge, lasso, elastic-net, fussed-lasso), wybrane algorymy uczenia.3
T-W-6Klasyfikatory funkcyjne nieliniowe, metoda QDA, jądra i przekształcenia jądrowe, nieliniowy SVM.3
T-W-7Sieci neuronowe (MLP), algorytm wstecznej propagacji, uczenie ekstremalne, algorytm SGD (gradient stochastyczn).2
T-W-8Metody regresyjne, rzadka regresja, odporna regresja, regracja nieliniowa, algorytm MARS2
T-W-9Klasyfikacja wielo-klasowa i wielo-etykietowa, regresja wielowartościowa2
20

Obciążenie pracą studenta - formy aktywności

KODForma aktywnościGodziny
laboratoria
A-L-1Uczestnictwo w zajęciach20
A-L-2Przygotowanie do zajęć12
A-L-3Praca nad zadaniami programistycznymi oraz sprawozdaniami18
50
wykłady
A-W-1Uczestnictwo w wykładach20
A-W-2Praca własna studenta18
A-W-3Przygotowanie do zaliczenia.10
A-W-4Konsultacje2
50

Metody nauczania / narzędzia dydaktyczne

KODMetoda nauczania / narzędzie dydaktyczne
M-1Wykład prezentacja w postaci slajdów, wybrane treść pokazywne na tablicy
M-2Laboratoria praca przy komputerach w środowisku programu Python (ewntulanie do wyboru Matlab lub R), samodzielna impelementacja wybranych algorytmów oraz wykorzystywnie dostępnych bibliotek w zależności od zadania.

Sposoby oceny

KODSposób oceny
S-1Ocena formująca: Laboratorium ocena sprawozdań
S-2Ocena formująca: Laboratorium: ocena zadań programistycznych
S-3Ocena formująca: Laboratorium: ocena pracy na zajęciach
S-4Ocena podsumowująca: Zaliczenie ustne lub pisemne.
S-5Ocena podsumowująca: Laboratorium zagregowana ocena łączna z poczególnych ocen cząstkowych

Zamierzone efekty uczenia się - wiedza

Zamierzone efekty uczenia sięOdniesienie do efektów kształcenia dla kierunku studiówOdniesienie do efektów zdefiniowanych dla obszaru kształceniaOdniesienie do efektów uczenia się prowadzących do uzyskania tytułu zawodowego inżynieraCel przedmiotuTreści programoweMetody nauczaniaSposób oceny
I_2A_D01.02_W01
Studenta zna podstawowe zadania, algorytmy i techniki uczenia maszynowego.
I_2A_W01, I_2A_W02, I_2A_W04C-1M-2, M-1S-2, S-4

Zamierzone efekty uczenia się - umiejętności

Zamierzone efekty uczenia sięOdniesienie do efektów kształcenia dla kierunku studiówOdniesienie do efektów zdefiniowanych dla obszaru kształceniaOdniesienie do efektów uczenia się prowadzących do uzyskania tytułu zawodowego inżynieraCel przedmiotuTreści programoweMetody nauczaniaSposób oceny
I_2A_D01.02_U01
Student umie rozwiązywać podstawowe zadania uczenia maszynowego oraz umie posuługiwać sie wybranymi bibliotekami uczenia maszynowego.
I_2A_U04, I_2A_U06, I_2A_U07, I_2A_U09C-4, C-2, C-3T-L-1, T-L-7, T-L-2, T-L-3, T-L-4, T-L-6, T-L-5M-2S-2, S-5, S-3, S-1

Kryterium oceny - wiedza

Efekt uczenia sięOcenaKryterium oceny
I_2A_D01.02_W01
Studenta zna podstawowe zadania, algorytmy i techniki uczenia maszynowego.
2,0
3,0Student opanował podstawowe zadania i techniki uczenia maszynowego w stopniu dostatecznym.
3,5
4,0Student opanował materiał przedmiotu w stopniu dobrym, rozróżnia główne zdania uczenia maszynowego, zna dobrze możliwości dostęnych bibliotek w tym zakesie, zna gółwne algorytmy.
4,5
5,0Student opanował materiał przedmiotu w stopniu bardzo dobrym, rozróżnia główne zdania uczenia maszynowego, zna bardzo dobrze możliwości dostęnych bibliotek w tym zakesie, zna gółwne algorytmy i jest biegły w szczególach impelementacyjnych.

Kryterium oceny - umiejętności

Efekt uczenia sięOcenaKryterium oceny
I_2A_D01.02_U01
Student umie rozwiązywać podstawowe zadania uczenia maszynowego oraz umie posuługiwać sie wybranymi bibliotekami uczenia maszynowego.
2,0
3,0Student umie rozwiązywać najprostsze zadania uczenia maszynowego, posługując się dostępnymi narzedziami.
3,5Student umie rozwiązywać zadania uczenia maszynowego, posługując się dostępnymi narzedziami.
4,0Student umie rozwiązywać zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie implementować wybrane algorytmy.
4,5Student umie rozwiązywać zaawansowane zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie implementować wybrane algorytmy uczenia maszynowego.
5,0Student umie rozwiązywać zaawansowane zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie biegle implementować wybrane algorytmy uczenia maszynowego.

Literatura podstawowa

  1. K. P. Murphy, Machine Learning A Probabilistic Perspective, MIT Press, 2012
  2. J. Ćwik, J. Koronacki, Statystyczne systemy uczące się, WNT, Warszawa, 2005
  3. M. Krzyśko, W. Wołyński, T. Górecki, M. Skorzybut, Systemy uczące się, WNT, Warszawa, 2008
  4. David MacKay, Information Theory, Inference, and Learning Algorithms, Cambridge University Press, 2003

Treści programowe - laboratoria

KODTreść programowaGodziny
T-L-1Wprowadzenie do środowiska python/sklearn.2
T-L-2Testowanie klasyfikatorów w pakiecie sklearn: miary jakości klasyfikacji, ROC i AUC, klasyfikacja wieloklasowa.2
T-L-3Drzewa decyzyjne: algorym uczenia, przycinanie, testowanie.2
T-L-4Metoda SVM wariant liniowy implementacja, Wariant nieliniwy badanie wpływu wyboru jądra na działanie algorytmu SVM ze zbiorami nieseparowalnymi liniowo,2
T-L-5Regresja liniowa i logistyczna, regularyzacja modeli (ridge, lasso, elastic-net, fussed-lasso) algorytmy uczenia, wybrane zastosowania.4
T-L-6Metody selekcji zmiennych: selekcja zmiennych oparta na entropii oraz informacji wzajemnej, selekcja zmiennych oparta na modelach regularyzowanych.4
T-L-7Wielowarstwowa sieć neuronowa oraz algorytm wstecznej propagacji błędów, wybrane zastosowania.4
20

Treści programowe - wykłady

KODTreść programowaGodziny
T-W-1Powtórzenie z rachunku prawdopodobieństwa: prawdopodobieństwo warunkowe, prawdopodobieństwo całkowite, reguła Bayesa, wielowymiarowe zmienne losowe, korelacje.2
T-W-2Paradygmaty uczenia maszynowego, pojęcia podstawowe, dwa podstawowe zadania uczenia nadzorowanego (klasyfikacja i regresja), testowanie maszyn uczących się (miary jakości w modeli klasyfikacyjnych i regresyjnych, ROC i AUC, bootstrap, kroswalidacja).2
T-W-3Elementy teorii informacji, entropia, informacja wzajemna i ich własności2
T-W-4Drzewa klasyfikacyjne, algorytm uczenia, miary zanieczyszczenia, strategie przycinania (głębokość, rzadkie węzły, kary za liść), przeglądanie poddrzew wyczerpujące i zachłanne, algorytm przycinania z automatycznym wyborem kary za liść.2
T-W-5Klasyfikatory funkcyjne: klasyfikatory liniowe (metoda LDA, regresja logistyczna, liniowy SVM), pojęcie marginesu separacji, regularyzacja modeli (ridge, lasso, elastic-net, fussed-lasso), wybrane algorymy uczenia.3
T-W-6Klasyfikatory funkcyjne nieliniowe, metoda QDA, jądra i przekształcenia jądrowe, nieliniowy SVM.3
T-W-7Sieci neuronowe (MLP), algorytm wstecznej propagacji, uczenie ekstremalne, algorytm SGD (gradient stochastyczn).2
T-W-8Metody regresyjne, rzadka regresja, odporna regresja, regracja nieliniowa, algorytm MARS2
T-W-9Klasyfikacja wielo-klasowa i wielo-etykietowa, regresja wielowartościowa2
20

Formy aktywności - laboratoria

KODForma aktywnościGodziny
A-L-1Uczestnictwo w zajęciach20
A-L-2Przygotowanie do zajęć12
A-L-3Praca nad zadaniami programistycznymi oraz sprawozdaniami18
50
(*) 1 punkt ECTS, odpowiada około 30 godzinom aktywności studenta

Formy aktywności - wykłady

KODForma aktywnościGodziny
A-W-1Uczestnictwo w wykładach20
A-W-2Praca własna studenta18
A-W-3Przygotowanie do zaliczenia.10
A-W-4Konsultacje2
50
(*) 1 punkt ECTS, odpowiada około 30 godzinom aktywności studenta
PoleKODZnaczenie kodu
Zamierzone efekty uczenia sięI_2A_D01.02_W01Studenta zna podstawowe zadania, algorytmy i techniki uczenia maszynowego.
Odniesienie do efektów kształcenia dla kierunku studiówI_2A_W01Ma poszerzoną i pogłębioną wiedzę w zakresie matematyki stosowanej i inżynierii obliczeniowej
I_2A_W02Ma wiedzę z zakresu zaawansowanych technik programowania systemów informatycznych w wybranym obszarze zastosowań
I_2A_W04Ma rozszerzoną wiedzę o problemach, zadaniach i algorytmach analizy, przetwarzania oraz eksploracji danych
Cel przedmiotuC-1Zapoznanie z podstawowymi algorytmami uczenia maszynowego
Metody nauczaniaM-2Laboratoria praca przy komputerach w środowisku programu Python (ewntulanie do wyboru Matlab lub R), samodzielna impelementacja wybranych algorytmów oraz wykorzystywnie dostępnych bibliotek w zależności od zadania.
M-1Wykład prezentacja w postaci slajdów, wybrane treść pokazywne na tablicy
Sposób ocenyS-2Ocena formująca: Laboratorium: ocena zadań programistycznych
S-4Ocena podsumowująca: Zaliczenie ustne lub pisemne.
Kryteria ocenyOcenaKryterium oceny
2,0
3,0Student opanował podstawowe zadania i techniki uczenia maszynowego w stopniu dostatecznym.
3,5
4,0Student opanował materiał przedmiotu w stopniu dobrym, rozróżnia główne zdania uczenia maszynowego, zna dobrze możliwości dostęnych bibliotek w tym zakesie, zna gółwne algorytmy.
4,5
5,0Student opanował materiał przedmiotu w stopniu bardzo dobrym, rozróżnia główne zdania uczenia maszynowego, zna bardzo dobrze możliwości dostęnych bibliotek w tym zakesie, zna gółwne algorytmy i jest biegły w szczególach impelementacyjnych.
PoleKODZnaczenie kodu
Zamierzone efekty uczenia sięI_2A_D01.02_U01Student umie rozwiązywać podstawowe zadania uczenia maszynowego oraz umie posuługiwać sie wybranymi bibliotekami uczenia maszynowego.
Odniesienie do efektów kształcenia dla kierunku studiówI_2A_U04Potrafi wykorzystywać poznane metody, techniki i modele do rozwiązywania złożonych problemów
I_2A_U06Potrafi stosować metody analityczne i eksperymentalne do rozwiązywania złożonych problemów w tym obliczeniowych
I_2A_U07Potrafi ocenić istniejące rozwiązania techniczne w wybranym obszarze zastosowań oraz zaproponować ich modyfikacje
I_2A_U09Ma umiejętność stosowania zaawansowanych technik programowania i metodyki projektowania systemów informatycznych w wybranym obszarze zastosowań
Cel przedmiotuC-4Przygotowanie do prowadzenia badań naukowych w dyscyplinie Informatyka
C-2Nabycie umiejętności rozpoznawania róznych zadań ucznia maszynowego w sytuacjach praktycznych oraz wyboru odpowiednich technik i algorytmów do ich rozwiązywania
C-3Nabycie umiejętności implementacji wybranych metod ucznia maszynowego.
Treści programoweT-L-1Wprowadzenie do środowiska python/sklearn.
T-L-7Wielowarstwowa sieć neuronowa oraz algorytm wstecznej propagacji błędów, wybrane zastosowania.
T-L-2Testowanie klasyfikatorów w pakiecie sklearn: miary jakości klasyfikacji, ROC i AUC, klasyfikacja wieloklasowa.
T-L-3Drzewa decyzyjne: algorym uczenia, przycinanie, testowanie.
T-L-4Metoda SVM wariant liniowy implementacja, Wariant nieliniwy badanie wpływu wyboru jądra na działanie algorytmu SVM ze zbiorami nieseparowalnymi liniowo,
T-L-6Metody selekcji zmiennych: selekcja zmiennych oparta na entropii oraz informacji wzajemnej, selekcja zmiennych oparta na modelach regularyzowanych.
T-L-5Regresja liniowa i logistyczna, regularyzacja modeli (ridge, lasso, elastic-net, fussed-lasso) algorytmy uczenia, wybrane zastosowania.
Metody nauczaniaM-2Laboratoria praca przy komputerach w środowisku programu Python (ewntulanie do wyboru Matlab lub R), samodzielna impelementacja wybranych algorytmów oraz wykorzystywnie dostępnych bibliotek w zależności od zadania.
Sposób ocenyS-2Ocena formująca: Laboratorium: ocena zadań programistycznych
S-5Ocena podsumowująca: Laboratorium zagregowana ocena łączna z poczególnych ocen cząstkowych
S-3Ocena formująca: Laboratorium: ocena pracy na zajęciach
S-1Ocena formująca: Laboratorium ocena sprawozdań
Kryteria ocenyOcenaKryterium oceny
2,0
3,0Student umie rozwiązywać najprostsze zadania uczenia maszynowego, posługując się dostępnymi narzedziami.
3,5Student umie rozwiązywać zadania uczenia maszynowego, posługując się dostępnymi narzedziami.
4,0Student umie rozwiązywać zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie implementować wybrane algorytmy.
4,5Student umie rozwiązywać zaawansowane zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie implementować wybrane algorytmy uczenia maszynowego.
5,0Student umie rozwiązywać zaawansowane zadania uczenia maszynowego, posługując się dostępnymi narzedziami, umie biegle implementować wybrane algorytmy uczenia maszynowego.