To tylko jedna z 32 stron tej notatki. Zaloguj się aby zobaczyć ten dokument.
Zobacz
całą notatkę
Wydział Zarządzania AGH Katedra Informatyki Stosowanej Sztuczne sieci neuronowe Inteligencja obliczeniowa Int el ige ncja obl icz eni ow a 2 Sztuczne sieci neuronowe • Wprowadzenie • Trochę historii • Podstawy działania • Funkcja aktywacji • Typy sieci Int el ige ncja obl icz eni ow a 3 Wprowadzenie • Zainteresowanie SSN wynika z potrzeby budowania efektywnych systemów przetwarzania informacji opartych na regułach neurofizjologii. Przetwarzanie w takich systemach odbywa się w sposób równoległy w odróżnieniu od klasycznych, sekwencyjnych systemów wywodzących się z modelu von Neumanna. Spostrzeżenia: tradycyjne systemy są mało wydajne, mózg ludzki ma przewagę nad maszyną. • Często podkreślane podobieństwo do systemów bio- logicznych jest raczej nieuzasadnione, gdyż wciąż zbyt mało wiemy o rzeczywistym funkcjonowaniu mózgu, a sztuczne sieci są z pewnością znacznie uproszczonym modelem systemu neuronów. Int el ige ncja obl icz eni ow a 4 Wprowadzenie Synapse Dendrite Axon Soma Neuron Int el ige ncja obl icz eni ow a 5 Wprowadzenie • Liczba neuronów: ~ 1010 • Liczba połączeń poj. neuronu: ~ 104 - 105 • Czas reakcji: ~ 0,001 sekundy • Liczba operacji neuronu: 10-100/s • Szybkość pracy mózgu ~ 1015 - 1017 op/s • W rezultacie: • czas rozpoznania obrazu: ~ 0,1 sekundy Int el ige ncja obl icz eni ow a 6 Wprowadzenie - trochę historii • w 1943 McCulloch i Pitts opracowali matematyczny model sztucznego neuronu. • w 1957 Rosenblatt zbudował pierwszy (hardwarowy) model neuronu przeznaczony do rozpoznawania znaków alfanumerycznych. • w 1969 Minsky i Papert udowodnili, że perceptron ma bardzo ograniczone zastosowanie. • Lata 80. to model sieci wielowarstwowej i efektywny algorytm uczenia sieci. • Lata 90. - eksplozja. Ponad 80% firm z listy Fortune 500 ma programy R&D z dziedziny SSN: – tysiące publikacji, – komercyjne pakiety aplikacyjne. Int el ige ncja obl icz eni ow a 7 Wprowadzenie • Sztuczna sieć neuronowa jest przykładem idei równoległego przetwarzania rozproszonego i jako taka składa się z prostych elementów przetwarzających (sztucznych neuronów), które przesyłają między sobą sygnały na zasadzie ważonych połączeń. • Podstawową cechą różniącą SSN od programów realizujących algorytmiczne przetwarzanie informacji jest zdolność generalizacji czyli uogólniania wiedzy dla nowych danych
(…)
… sieci. Umożliwia to otrzymanie na wyjściu sieci
informacji ciągłej, a nie tylko postaci: TAK - NIE.
• Wymagane cechy funkcji aktywacji to:
– funkcja ciągła w zadanym przedziale,
– łatwa do obliczenia i ciągła pochodna,
– możliwość wprowadzenia do argumentu parametru do
ustalania kształtu krzywej.
Inteligencja
obliczeniowa
•
17
Podstawy działania
•
Aktywacja i obliczanie wyjścia
1
1
1
0.5
Tanh
f(x…
… – przetwarza je
• Akson – dostarcza przetworzone informacje do innych neuronów
Inteligencja
obliczeniowa
Synapsa
• Synapsa – połączenie między synapsami i dendrytami różnych neuronów
9
Źródło: Angshuman Saha http://www.geocities.com/adotsaha/NNinExcel.html
Podstawy działania
Ciało
Dendryty
X2
Xp
Kierunek przepływu informacji
w1
w2
. wp
. w
0
.
X0 (Z)
Synapsy
I
f
I = w0X0 + w1X1 + w2X2
+ w3X3 +… + wpXp
O = f…
... zobacz całą notatkę
Komentarze użytkowników (0)