BEGIN:VCALENDAR VERSION:2.0 PRODID:-//CERN//INDICO//EN BEGIN:VEVENT SUMMARY:Cybersecurity Considerations in AI Development and Deployment DTSTART:20261020T080000Z DTEND:20261020T092000Z DTSTAMP:20261114T051500Z UID:indico-event-3990@indico.ijs.si CONTACT:events@slaif.si DESCRIPTION:Speakers: Dejan Lesjak (IJS)\, Barbara Krasovec\n\nIzvajalec / Izvajalec tečaja: Institut "Jožef Stefan" (IJS)\, Center za mrećno inf rastrukturo (CMI)Predavatelji / Inštruktorji: Barbara Krašovec (CMI JSI )\, Dejan Lesjak (F9 JSI)\nV tradicionalni varnostni arhitekturi delujemo znotraj dobro razumljenega okvira: poznamo temeljna načela – ničelno z aupanje\, najmanjše privilegije\, obramba v globino\, ločitev dolžnosti \, varnost že po zasnovi – in vemo\, katere kontrole je treba uvesti\, da jih izpolnimo. Skeniranje ranljivosti\, segmentacija omrežja\, nadzor dostopa – orodja so zrela in dobro preizkušena.Sistemi umetne inteligen ce spreminjajo kontekst. Ista načela še vedno veljajo\, vendar se števi lne znane kontrole ne prevajajo neposredno – skeniranje ranljivosti ne z azna zastrupljenega nabora podatkov\, WAF pa ne ustavi takojšnjega vbrizg avanja. Pojavijo se nove površine za napad na ravni podatkov\, modela in agenta\, pojavljajo pa se tudi novi načini napak\, ki jih tradicionalna v arnostna orodja niso bila zgrajena za zaznavanje.Ta delavnica obravnava\, kaj je treba spremeniti za izgradnjo varnih procesov razvoja in uvajanje s istemov umetne inteligence: s katerimi grožnjami se dejansko soočamo\, k je so naši obstoječi nadzorni mehanizmi pomanjkljivi\, kaj si lahko spos odimo iz uveljavljenih okvirov\, kot je OWASP Top 10 za aplikacije LLM\, k ako je mogoče te težave odkriti in kaj je treba dodati ali premisliti\, da bi odpravili vrzel.Glavne teme:\n\nVarnostna vprašanja pri razvoju LLM – tveganja\, povezana s podatki (zastrupitev\, uhajanje)\, tveganja\, p ovezana z modeli (zadnja vrata\, ekstrakcija\, nasprotni vnosi) in tveganj a\, povezana z infrastrukturo v učnem procesu\nVarnostna vprašanja pri u vajanju sistemov in storitev umetne inteligence – napadi na ravni prompt a (vbrizgavanje\, prekinitev zapora)\, napadi na ravni sistema (nevarni AP I-ji\, pretirana agencija) in napadi na dobavni verigi (ogroženi modeli\, vtičniki\, odvisnosti)\nOWASP Top 10 za aplikacije LLM – strukturiran pregled najpogostejših razredov ranljivosti v aplikacijah\, ki temeljijo na LLM\, in kako se preslikajo v resnične incidente\nTehnike odkrivanja – praktični pristopi za prepoznavanje zastrupitve\, zadnjih vrat\, prom pta in anomalnega vedenja modela/agenta ter kje avtomatizirana orodja še vedno ne uspevajo\nOperativna tveganja – zavrnitev storitve\, vrzeli v s premljanju in opazovanju\, napake v izolaciji več najemnikov\nSkladnost – regulativni in upravljavski vidiki za sisteme umetne inteligence\, ki ravnajo z občutljivimi podatki\n\n \nKaj se boste naučili:\nDo konca te delavnice bodo udeleženci znali:\n\nPojasniti\, zakaj standardni varnost ni nadzor (skeniranje ranljivosti\, WAF-i\, tradicionalni Vrata SDLC) niso zadostna za sisteme umetne inteligence in opredelite\, kje so potrebni no vi nadzorni mehanizmi.\nPreslikati klasična varnostna načela (ničelno z aupanje\, najmanj privilegijev\, obramba v globino\, ločitev dolžnosti\, varnost že vgrajena) na specifične prakse pri razvoju in uvajanju umetn e inteligence.\nDoločiti glavne kategorije tveganj v celotnem življenjsk em ciklu umetne inteligence: podatki\, model\, infrastruktura\, raven prom pta\, raven sistema in dobavna veriga.\nUporabiti OWASP Top 10 za aplikaci je LLM kot referenčni okvir za oceno varnosti aplikacij umetne inteligenc e.\nOpisati praktične tehnike odkrivanja pogostih groženj\, specifičnih za umetno inteligenco (zastrupitev\, zadnja vrata\, promptno vbrizgavanje \, pretirana agencija).\nPrepoznati ključna operativna tveganja v produkc ijskih sistemih umetne inteligence (DoS\, vrzeli v spremljanju\, izolacija več najemnikov) in kako jih obravnavati.\nRazumeti področje skladnosti \, ki je pomembno za sisteme umetne inteligence\, ter kako se to povezuje z varnostnimi zahtevami.\n\n \nIzvajalec / Course provider: Jožef Stefan Institute (JSI)\, Network Infrastructure Centre (CMI)Predavatelji / Instr uctors: Barbara Krašovec (CMI JSI)\, Dejan Lesjak (F9 JSI)\nIn traditiona l security architecture\, we operate within a well-understood framework: w e know the core principles — Zero Trust\, Least Privilege\, Defence in D epth\, Segregation of Duties\, Secure by Design — and we know which cont rols to put in place to satisfy them. Vulnerability scanning\, network seg mentation\, access controls — the tools are mature and well-tested.AI sy stems change the context. The same principles still apply\, but many of th e familiar controls don't translate directly — vulnerability scanning do esn't catch a poisoned dataset\, and a WAF doesn't stop a prompt injection . New attack surfaces emerge at the data\, model\, and agent level\, and n ew failure modes appear that traditional security tooling wasn't built to detect.This workshop looks at what it takes to build secure development an d deployment processes for AI systems: what threats we're actually facing\ , where our existing controls fall short\, what we can borrow from establi shed frameworks like the OWASP Top 10 for LLM Applications\, how these iss ues can be detected\, and what needs to be added or rethought to close the gap.\nMain topics:\n\nSecurity issues in LLM development — data-related risks (poisoning\, leakage)\, model-related risks (backdoors\, extraction \, adversarial inputs)\, and infrastructure-related risks in the training pipeline\nSecurity issues in deploying AI systems and services — prompt- level attacks (injection\, jailbreaking)\, system-level attacks (insecure APIs\, excessive agency)\, and supply chain attacks (compromised models\, plugins\, dependencies)\nOWASP Top 10 for LLM Applications — a structure d walkthrough of the most common vulnerability classes in LLM-based applic ations and how they map to real-world incidents\nDetection techniques — practical approaches for identifying poisoning\, backdoors\, prompt inject ion\, and anomalous model/agent behaviour\, and where automated tooling st ill falls short\nOperational risks — denial of service\, monitoring and observability gaps\, multi-tenancy isolation failures\nCompliance — regu latory and governance considerations for AI systems handling sensitive dat a\n\nLearning outcomesBy the end of this workshop\, participants will be a ble to:\n\nExplain why standard security controls (vulnerability scanning\ , WAFs\, traditional SDLC gates) are insufficient for AI systems\, and ide ntify where new controls are needed.\nMap the classic security principles (Zero Trust\, Least Privilege\, Defence in Depth\, Segregation of Duties\, Secure by Design) to specific practices in AI development and deployment. \nIdentify the main categories of risk across the AI lifecycle: data\, mod el\, infrastructure\, prompt-level\, system-level\, and supply chain.\nApp ly the OWASP Top 10 for LLM Applications as a reference framework for asse ssing AI application security.\nDescribe practical detection techniques fo r common AI-specific threats (poisoning\, backdoors\, prompt injection\, e xcessive agency).\nRecognise key operational risks in production AI system s (DoS\, monitoring gaps\, multi-tenancy isolation) and how to address the m.\nUnderstand the compliance landscape relevant to AI systems and how it intersects with security requirements.\n\n\nhttps://indico.ijs.si/event/39 90/ IMAGE;VALUE=URI:https://indico.ijs.si/event/3990/logo-3560331715.png LOCATION:Webinar URL:https://indico.ijs.si/event/3990/ END:VEVENT END:VCALENDAR