Wstęp do Teorii Obliczeń Neuronowych

1. Podejście heurystyczne w problemach optymalizacji. Koncepcja iterowanego przeszukiwania lokalnego: definiowanie sąsiedztwa przez przeksztalcenia lokalne rozwiązania, sąsiedztwo rozszerzone i inne metryki w przestrzeni rozwiązań, strategie wyboru przekształcenia, reguła wyboru rozwiązania bieżącego.
2. Metody reprezentacji rozwiązań. Przekształcenia lokalne dla standardowych przestrzeni rozwiązań: mutacje binarne, mutacje addytywne, przekształcenia lokalne dla permutacji.
3. Heurystyki monotoniczne: optima lokalne, heurystyki SAHC i NAHC, randomizacja, heurystyka RAHC, metoda wielostartu.
4. Heurystyki niemonotoniczne: reguła Metropolisa i rola „temperatury”, algorytm symulowanego wyżarzania.
5. Algorytmy ewolucyjne: populacja, przekształcenia mieszające, reprodukcja i sukcesja, schematy wymiany pokoleniowej, elitaryzm.
6. Metody reprodukcji: model ruletki, selekcja neutralna, proporcjonalna, Boltzmannowska, liniowa wg rang i turniejowa. Metody sukcesji: kryterium jakości i zróżnicowania.
7. Przekształcenia mieszające dla standardowych przestrzeni rozwiązań: krzyżowanie binarne, pula genetyczna i częstości Robbinsa, kombinacje liniowe wektorów, przykłady przekształceń dla obiektów kombinatorycznych.
8. Przegląd algorytmów ewolucyjnych: algorytmy genetyczne, strategie ewolucyjne, hybrydyzacja (algorytmy memetyczne).
9. Modele probabilistyczne obliczeń ewolucyjnych. Zbieżność do optimum globalnego, miary tempa zbieżności, właściwości chwilowe i asymptotyczne.
10. Sztuczne sieci neuronowe i ich zastosowania: model neuronu McCullocka-Pittsa, architektury sieciowe, obliczenia neuronowe, metody uczenia sieci.
11. Sieci jednokierunkowe: perceptrony proste i ich ograniczenia, perceptrony wielowarstwowe, algorytm wstecznej propagacji.
12. Sieci rekurencyjne: model Hopfielda, reguła Hebba, punkty stałe i atraktory, pojemność pamięci, funkcja „energii”, stany fałszywe.
13. Sieci stochastyczne: probabilistyczna reguła przejścia, temperatura, model pola średniego i przejścia fazowe.
Założenia:
1000-211bWPI lub 1000-211bWPF Wstęp do programowania
1000-222bIPP Indywidualny projekt programistyczny
1000-213bRPS Rachunek prawdopodobieństwa i statystyka