Sztuczne sieci neuronowe 2

Nasza ocena:

3
Pobrań: 14
Wyświetleń: 1008
Komentarze: 0
Notatek.pl

Pobierz ten dokument za darmo

Podgląd dokumentu
Sztuczne sieci neuronowe 2 - strona 1 Sztuczne sieci neuronowe 2 - strona 2 Sztuczne sieci neuronowe 2 - strona 3

Fragment notatki:

Wydział Zarządzania AGH Katedra Informatyki Stosowanej Sztuczne sieci neuronowe. Uczenie, zastosowania Inteligencja obliczeniowa Int el ige ncja   obl icz eni ow a  2 Sztuczne sieci neuronowe • Metody uczenia • Budowa modelu • Algorytm wstecznej propagacji błędu • Zastosowania SSN Int el ige ncja   obl icz eni ow a  3 Metody uczenia Uczenie polega na takim wyznaczeniu współczynników  wag, by sieć rozwiązywała wyuczone zadanie w sposób  automatyczny.  Wyróżniamy dwie kategorie:  –  uczenie nadzorowane  (supervised), gdzie dostarcza się  wzorce wejściowe i odpowiadające im wyjścia. –  uczenie nienadzorowane , gdzie sieć samodzielnie próbuje  odkryć statystycznie istotne cechy wzorca;  w tej metodzie nie ma danego  a priori  zbioru kategorii,  według których mają być klasyfikowane wzorce. Int el ige ncja   obl icz eni ow a  4 Metody uczenia • Wszystkie metody uczenia są wariantami reguły uczenia  Hebba opisanej w  Organization of Behaviour  (1949).  Podstawową ideą jest tu założenie, że jeśli dwa elementy  działają zgodnie, ich połączenie musi być wzmocnione.  Jeżeli element  i  otrzymuje wejście od  j , to najprostsza  wersja reguły Hebba opisuje zmianę wag  w ij  o: gdzie  a jest dodatnią stałą nazywaną  stałą uczenia . j i ij o o w     a Int el ige ncja   obl icz eni ow a  5 Metody uczenia Inna powszechnie stosowana reguła używa nie aktualnej  aktywacji elementu  i , lecz różnicy między aktualną a  pożądaną aktywacją elementu: gdzie  di  jest pożądaną aktywacją, której wartość jest  podawana przez nauczyciela. Reguła ta jest nazywana regułą Widrowa-Hoffa (1960) lub  regułą delty.  j i i ij o o d w      ) ( a wagi zmieniane są tym silniej, im większy jest błąd wagi zmieniane są proporcjonalnie do wielkości  sygnałów wejściowych Int el ige ncja   obl icz eni ow a  6 Metody uczenia Graficzna ilustracja procesu uczenia nadzorowanego Int el ige ncja   obl icz eni ow a  7 Metody uczenia Uczenie sieci, to proces minimalizacji błędu kwadratowego: 2 ) ( 2 1 ] [    D d d d o t w E   D =  dane treningowe Uczenie jest zbieżne, jeśli: … nie ma nieliniowych zależności między danymi, … stała uczenia  a  ma małą wartość, … nie ma warstw ukrytych. Int el ige ncja   obl icz eni ow a  8 Budowa modelu Co to znaczy zbudować model ? Input: X1 X2 X3

(…)

…. Trudno wysuwać wnioski, co do istoty zależności między danymi
wyjściowymi a wejściowymi: sztuczna sieć neuronowa działa jak
czarna skrzynka”, do której wrzucamy dane i otrzymujemy
wyniki, natomiast logiki systemu i schematów myślenia nie
jesteśmy w stanie odkryć.
5. Łatwo „przeuczyć sieć”, tzn. sieć nauczy się na pamięć
podawanych przykładów w fazie uczenia i w momencie testowania
na innych przykładach jest bezużyteczna, nie potrafi właściwie
rozwiązać zadania (nie ma zdolności do generalizacji).
Inteligencja
obliczeniowa
Wady SSN
19
Wady SSN
Inteligencja
obliczeniowa
• Uczenie sieci - przetrenowanie
20
Cykl życia SSN
1. Określenie zmiennej wyjściowej oraz zmiennych
wejściowych
2. Gromadzenie danych
3. Wstępne przetwarzanie danych (preprocessing)
4. Podział zbioru danych
6. Uczenie sieci
7. Testowanie…
… butelek.
23
Zastosowania SSN
• Diagnostyka
– koncern Ford Motor Company wdrożył system diagnostyczny
silników.
• Bezpieczeństwo
– Firma Nestor sprzedaje system do rozpoznawania podpisów
mający duże zastosowanie w bankach; sieć działa w czasie
rzeczywistym z efektywnością 92-98%.
Inteligencja
obliczeniowa
– Firma SIAC oferuje system monitorowania bagaży na
lotniskach (stosowany jest np. na lotnisku JFK w Nowym
Jorku).
24
Zastosowania SSN
• Prognozowanie
– Prognoza rozwoju rynku energetycznego [Werbos].
– Prognoza zapotrzebowania na energię elektryczną.
• Rynek akcji
– Kursy wymiany walut.
Inteligencja
obliczeniowa
– Prognoza akcji IBM (nieudana, White 1988).
25
Zastosowania SSN
Inteligencja
obliczeniowa
• Rozpoznawanie pisma ręcznego
Przykłady ręcznie pisanych kodów pocztowych
(źródło: baza danych US…
... zobacz całą notatkę

Komentarze użytkowników (0)

Zaloguj się, aby dodać komentarz