To tylko jedna z 28 stron tej notatki. Zaloguj się aby zobaczyć ten dokument.
Zobacz
całą notatkę
Wydział Zarządzania AGH Katedra Informatyki Stosowanej Sztuczne sieci neuronowe. Uczenie, zastosowania Inteligencja obliczeniowa Int el ige ncja obl icz eni ow a 2 Sztuczne sieci neuronowe • Metody uczenia • Budowa modelu • Algorytm wstecznej propagacji błędu • Zastosowania SSN Int el ige ncja obl icz eni ow a 3 Metody uczenia Uczenie polega na takim wyznaczeniu współczynników wag, by sieć rozwiązywała wyuczone zadanie w sposób automatyczny. Wyróżniamy dwie kategorie: – uczenie nadzorowane (supervised), gdzie dostarcza się wzorce wejściowe i odpowiadające im wyjścia. – uczenie nienadzorowane , gdzie sieć samodzielnie próbuje odkryć statystycznie istotne cechy wzorca; w tej metodzie nie ma danego a priori zbioru kategorii, według których mają być klasyfikowane wzorce. Int el ige ncja obl icz eni ow a 4 Metody uczenia • Wszystkie metody uczenia są wariantami reguły uczenia Hebba opisanej w Organization of Behaviour (1949). Podstawową ideą jest tu założenie, że jeśli dwa elementy działają zgodnie, ich połączenie musi być wzmocnione. Jeżeli element i otrzymuje wejście od j , to najprostsza wersja reguły Hebba opisuje zmianę wag w ij o: gdzie a jest dodatnią stałą nazywaną stałą uczenia . j i ij o o w a Int el ige ncja obl icz eni ow a 5 Metody uczenia Inna powszechnie stosowana reguła używa nie aktualnej aktywacji elementu i , lecz różnicy między aktualną a pożądaną aktywacją elementu: gdzie di jest pożądaną aktywacją, której wartość jest podawana przez nauczyciela. Reguła ta jest nazywana regułą Widrowa-Hoffa (1960) lub regułą delty. j i i ij o o d w ) ( a wagi zmieniane są tym silniej, im większy jest błąd wagi zmieniane są proporcjonalnie do wielkości sygnałów wejściowych Int el ige ncja obl icz eni ow a 6 Metody uczenia Graficzna ilustracja procesu uczenia nadzorowanego Int el ige ncja obl icz eni ow a 7 Metody uczenia Uczenie sieci, to proces minimalizacji błędu kwadratowego: 2 ) ( 2 1 ] [ D d d d o t w E D = dane treningowe Uczenie jest zbieżne, jeśli: … nie ma nieliniowych zależności między danymi, … stała uczenia a ma małą wartość, … nie ma warstw ukrytych. Int el ige ncja obl icz eni ow a 8 Budowa modelu Co to znaczy zbudować model ? Input: X1 X2 X3
(…)
…. Trudno wysuwać wnioski, co do istoty zależności między danymi
wyjściowymi a wejściowymi: sztuczna sieć neuronowa działa jak
„czarna skrzynka”, do której wrzucamy dane i otrzymujemy
wyniki, natomiast logiki systemu i schematów myślenia nie
jesteśmy w stanie odkryć.
5. Łatwo „przeuczyć sieć”, tzn. sieć nauczy się na pamięć
podawanych przykładów w fazie uczenia i w momencie testowania
na innych przykładach jest bezużyteczna, nie potrafi właściwie
rozwiązać zadania (nie ma zdolności do generalizacji).
Inteligencja
obliczeniowa
Wady SSN
19
Wady SSN
Inteligencja
obliczeniowa
• Uczenie sieci - przetrenowanie
20
Cykl życia SSN
1. Określenie zmiennej wyjściowej oraz zmiennych
wejściowych
2. Gromadzenie danych
3. Wstępne przetwarzanie danych (preprocessing)
4. Podział zbioru danych
6. Uczenie sieci
7. Testowanie…
… butelek.
23
Zastosowania SSN
• Diagnostyka
– koncern Ford Motor Company wdrożył system diagnostyczny
silników.
• Bezpieczeństwo
– Firma Nestor sprzedaje system do rozpoznawania podpisów
mający duże zastosowanie w bankach; sieć działa w czasie
rzeczywistym z efektywnością 92-98%.
Inteligencja
obliczeniowa
– Firma SIAC oferuje system monitorowania bagaży na
lotniskach (stosowany jest np. na lotnisku JFK w Nowym
Jorku).
24
Zastosowania SSN
• Prognozowanie
– Prognoza rozwoju rynku energetycznego [Werbos].
– Prognoza zapotrzebowania na energię elektryczną.
• Rynek akcji
– Kursy wymiany walut.
Inteligencja
obliczeniowa
– Prognoza akcji IBM (nieudana, White 1988).
25
Zastosowania SSN
Inteligencja
obliczeniowa
• Rozpoznawanie pisma ręcznego
Przykłady ręcznie pisanych kodów pocztowych
(źródło: baza danych US…
... zobacz całą notatkę
Komentarze użytkowników (0)