Seminar: Vključevanje podpore za GPE v orodje za verjetnostno modeliranje Stan

by Rok Češnovar (UL FRI), Davor Sluga (UL FRI)

Thursday 25 Feb 2021, 14:00 → 15:30 Europe/Ljubljana

Zoom (https://uni-lj-si.zoom.us/j/99103798462?pwd=RndMSHViOTlsZ1h2NTU4Q0k2ZlFCUT09)

SLO
Na seminarju bomo pogledali, kako smo v orodje za verjetnostno modeliranje Stan vgradili podporo za grafične procesne enote (GPE), pohitrili proces avtomatskega odvajanja ter s tem močno zmanjšali čas gradnje modelov. Avtomatsko odvajanje je zelo pomemben koncept na področju strojnega učenja in optimizacij, ki temeljijo na gradientnem spustu. Razložili bomo na kaj je treba biti pozoren pri uporabi GPE, kje se največkrat pojavijo težave pri dodajanju GPE funkcionalnosti in kakšne so rešitve. Seminar bo osredotočen na jezik Stan in avtomatsko odvajanje na GPE, vendar bodo ugotovitve uporabne tudi širše, za kogarkoli, ki se podaja v svet GPE programiranja.

ENG
We show how we incorporated the support for graphics processing units (GPU) into the Stan statistical toolbox and sped up automatic differentiation, thus significantly reducing the time needed to build statistical models. Automatic differentiation is an essential concept in the field of machine learning and optimizations based on gradient descent. We explain the peculiarities of using a GPU in such applications, the most common problems, and the appropriate solutions. The seminar focuses on the Stan language and automatic differentiation using GPUs, but the findings are useful broadly for anyone interested in GPU programming.

 

---

Projekt EuroCC je financiran s sredstvi Skupnega podjetja za visoko zmogljivo računalništvo (EuroHPC JU) v skladu s sporazumom o dodelitvi sredstev št. 951732. EuroHPC JU je prejelo finančno podporo iz EU programa Obzorje 2020 ter Nemčije, Bolgarije, Avstrije, Hrvaške, Cipra, Češke , Danske, Estonije, Finske, Grčije, Madžarske, Irske, Italije, Litve, Latvije, Poljske, Portugalske, Romunije, Slovenije, Španije, Švedske, Združenega kraljestva, Francije, Nizozemske, Belgije, Luksemburga, Slovaške, Norveške, Švice, Turčije, Republike Severne Makedonije, Islandije in Črne gore.