Skocz do zawartości

Implementacja algorytmu (backpropagation)


eknm2005

Rekomendowane odpowiedzi

Heja,

 

Z racji, że sporo na tym forum pomocnych dusz obeznanych z programowaniem, zgłaszam się z prośba o pomoc przy zadaniu jakie mam do zrobienia. 

Nie chodzi mi o samo rozwiązanie, bo aż takim lamerem nie jestem i chcę się przede wszystkim czegoś nauczyć.  

 

Mam do zrobienia implementację algorytmu - dajmy na to RMSprop (nie jest to dokładnie ten algorytm, ale podobny, jak będę wiedział jak go zrobić to i z moim sobie poradzę).

 

A więc do rzeczy:

1) próbowałem zrobić go z keras/tf ale już mi odwala po tym jak konsola wysrywa co chwilę nowy rodzaj błędu, co ciekawe są dostępne w necie wersje algorytmu, który mam zrobić - ale tak samo, nawet całość kodu jak wklepie to są błędy, mimo że niby rok temu działało (a próbowałem już wiele wersji tf/keras - może coś im się popsuło w pakietach...). Właściwie nawet błędów nie rozumiem co konsola wypluwa, bo jak sprawdzam na stack overflow to wygląda jakby był właśnie problem po stronie pakietu.

2) na chwilę obecną kopiuje fragmenty kodu ze specjalizacji DeepLearning Andrew Ng z Coursery, by go jakoś dostosować do tego mam zrobić, tyle, że to będzie trochę kłopotliwe (kurs ten zrobiłem i jego implementację rozumiem/może jakoś dostosuje, ale wolałbym zrobić ją w tf/kerasie)

 

ad 1: (+) implementacja tego powinna być prostsza, (-) tyle że dokumentacji i przykładów jak to zrobić, tyle co kot napłakał. (-) Samych przykładów napisania algorytmów w necie jest niewiele i to głównie tylko z prostym SGD. 

ad 2: (-) no w tym przypadku to już nawet takie banialuki jak ReLU będę musiał robić od ręki i kod (głównie odtwórczo) będzie na kilka ładnych stron. (+) Wszystko pod kontrolą i będę widział jak się zmieniają cyferki z każdą linijką.

 

Ktoś robił coś podobnego w kerasie/tf/matlabie czy jakimkolwiek innym języku/pakiecie? Ogólnie bawił się w poważniejsze algorytmy? Jakaś porady, wskazówki?

Zdaję sobie sprawę, że może trochę jest to specjalistyczne pytanie - ale zapytać nigdy nie zaszkodzi, a już nerwicy dostaję od tego zadania. 😕 

Edytowane przez eknm2005
literówki
Odnośnik do komentarza
Udostępnij na innych stronach

×
×
  • Dodaj nową pozycję...

Powiadomienie o plikach cookie

Umieściliśmy na Twoim urządzeniu pliki cookie, aby pomóc Ci usprawnić przeglądanie strony. Możesz dostosować ustawienia plików cookie, w przeciwnym wypadku zakładamy, że wyrażasz na to zgodę.