Simen · AI- og skyingeniør
Jeg bygger AI du kan stole på
Senior sky- og DevOps-ingeniør i Fortytwo Technologies. Jeg setter AI i Azure bak private nettverk, tydelige porter og logger som forteller hva som skjedde.
En AI-demo tar ti minutter. Å gjøre den trygg tar resten.
Det er lett å koble en chat til en språkmodell. Det vanskelige er alt rundt: hvem som får spørre, hvor dataene går, hva som logges og hvordan alt rulles ut på nytt i morgen. Det er der jeg trives.
Slik jobber jeg
Fra tegning til drift, i tre steg.
-
I
Kartlegg
IP-plan, nettverk og tilganger tegnes før noe opprettes. Et godt kart sparer mange omveier.
-
II
Bygg i kode
Alt beskrives i Bicep og rulles ut med CI/CD. Hver stein i varden er en modul som kan testes for seg.
-
III
Vokt
Logging, overvåking og policyer gjør at du ser hva som skjer, og kan bevise det i etterkant.
Akkurat nå
Sikker AI i Azure.
Slik ser en typisk sikker AI-chat ut: hver melding tar samme vei gjennom nettverket. Velg en byggekloss, så lyser linjen den jobber på opp.
- klientchat-app · intern bruker
- inngangAPI Management · kvote ok
- nettverkprivat endepunkt · 10.0.3.4
- modellAzure AI Foundry · offentlig tilgang av
- personvernPII-sjekk · 0 funn
- kunnskapGrounding med websøk · 3 kilder
- loggLog Analytics · lagret
Modellene nås bare fra innsiden av nettverket.
-
API Management
Én dør inn, med nøkler, kvoter og policyer per team.
-
Privat nettverk
IP-plan, VNet og subnett, med private endepunkter for alt som kan.
-
Foundry, låst ned
Modellene nås bare fra innsiden, med styrt tilgang.
-
PII-deteksjon
Personopplysninger blir oppdaget før de når modellen.
-
Grounding med websøk
Ferske svar med kilder, når modellen trenger det.
-
Sentral logging
Hvem spurte om hva, hva det kostet og hva som ble svart.
Blogg
Ting jeg har lært.
Historier fra prosjekter på jobb og ting jeg utforsker på fritiden, med feilene jeg gjorde underveis. Skrevet for folk som liker å forstå hvordan ting henger sammen.
Trenger dere sikker AI i Azure?
Jeg tar gjerne en prat om nettverk, API Management, Foundry eller hvordan dere får AI forbi sikkerhetsgjennomgangen. Eller bare om noe du leste her.