Piše: Tomislav Pongrac
Uvod
Umjetna inteligencija iz temelja je promijenila način na koji se odvija razvoj softvera.
Developeri su je u velikoj mjeri prigrlili i danas je integralni dio procesa. Po nekim razvojnim
uredima sada se čuje puno manje tipkanja, a više tihog šaputanja programera koji
razgovaraju sa svojim agentima. Nekima je brže izdavati naredbe usmeno nego tipkati.
S druge strane, mrežni i sistemski inženjeri još uvijek većinom rade starim načinima.
Umjetnu inteligenciju koriste uglavnom kao pomoćnika kroz chat sučelje koje im pomaže
pronaći pravu naredbu ili interpretirati pogrešku. To je dosta logično. Sistemski i mrežni svijet
po prirodi je neuredniji jer je čvrsto vezan uz fizičke elemente i hardver. Razvoj novog
softverskog projekta u velikoj mjeri može se opisati samim kodom i kroz nekoliko datoteka
koje opisuju arhitekturu. Mrežni i sistemski svijet nije toliko jednostavan; jasno je da njegovo
korištenje umjetne inteligencije još uvijek ne daje toliko rezultata koliko kod developera.
Naša iskustva
U našem razvojnom labu već neko vrijeme testiramo AI agente. Osnovni primjeri upotrebe
su iz područja sistemskog, mrežnog i sigurnosnog inženjerstva. Kolege su kreirali agenta po
imenu Netislav, čije sposobnosti testiramo. Pokazuje se iznimno sposobnim u rješavanju
širokog raspona zadataka.
Zasad ga vidimo kao jako kompetentnog suradnika kroz dva primjera. Prvi se primjer odnosi
na mrežne inženjere. Agent se može spajati na uređaje i provjeravati stanje protokola i
ostalih komponenti na velikom broju uređaja istovremeno. Druga primjena je u ulozi
virtualnog mrežnog inženjera koji pomaže drugim kolegama iz tehničkog i netehničkog
sektora. Na primjer, sigurnosnim inženjerima će putem privatnog Webex chata reći postoji li
pristupna lista (ACL) koja sprečava neku funkciju. Ostalim sistemašima će moći asistirati kod
grešaka na poslužiteljima ili krajnjim stanicama (endpoints).
Glavni izazov: parsiranje izlaza mrežnih uređaja
Kroz našu platformu za automatizaciju mrežne infrastrukture, Monet, automatizirali smo
mnoge mrežne procese. Jedan od najvećih problema s kojima smo se susretali je strojna
interpretacija informacija koje dobivamo od mrežnih uređaja. Mrežni uređaji poznati su po
tome da i na najmanju razliku u verziji softvera daju minimalno različit izlaz. Klasičan primjer:
neki uređaji OSPF area parametar prikazuju kao 0 , a neki kao 0.0.0.0 . Samim mrežnim
inženjerima to nije problem. Točno znaju da se ti podaci odnose na istu stvar. No, strojevima
koji nastoje precizno parsirati izlaz to često zna biti nepremostiva prepreka.
Umjetna inteligencija, a specifično LLM-ovi, u tome nemjerljivo pomažu. LLM-ovi su upravo i
prilagođeni za rad s tekstom namijenjenim ljudskom čitanju, kakav kroz komandnu liniju
generiraju upravo mrežni uređaji. To nam omogućuje da premostimo prije spomenute
probleme: kroz LLM dobivamo izlaz u strukturiranom obliku bez potrebe za pisanjem custom
parsera za svaku verziju uređaja.
Kako smo tome pristupili?
Pristup koji primjenjujemo iskorištava naše prijašnje spoznaje iz područja umjetne
inteligencije zajedno s velikim domenskim znanjem akumuliranim kroz godine rada. Krenuli
smo s najmoćnijim dostupnim modelima kako bismo procijenili plafon tehnologije. Nakon
toga koristili smo metodologiju koju su izradili naši inženjeri i kroz nju procjenjivali uspješnost
različitih modela, ne samo onih najmoćnijih, dostupnih samo u oblaku, nego i onih dostupnih
na skromnijem lokalnom hardveru.
Zanimljivo je bilo vidjeti da su i lokalni modeli, koji ne traže velike hardverske resurse, vrlo
primjenjivi u mnogim slučajevima. To nas je razveselilo jer imamo mnogo korisnika koji ne
smiju slati interne podatke izvan granica njihove tvrtke.
Rezultati koje smo dobili su vrlo ohrabrujući. Najmoćniji “frontier” modeli (npr. Anthropicov
Claude Opus) rješavaju sve što smo stavili pred njih. Lokalni modeli rješavaju 60-70 %
slučajeva. Kao i mnogi primjeri s LLM-ovima, manji modeli ponekad iznenade na vrlo
kompleksnim zadacima, a razočaraju na jednostavnijim. To rješavamo dodatnim
podešavanjem parametara i samih promptova.
Što dalje?
Rješenja smo već krenuli demonstrirati manjem broju bliskih korisnika, a u sljedećem
razdoblju nastojat ćemo ih pokazati i u širem krugu. Potom ove napredne funkcije planiramo
dodati u platformu Monet.
Vjerujem da će vrlo brzo način rada mrežnih, sistemskih i sigurnosnih inženjera doživjeti
značajnu promjenu. Agenti poput našeg Netislava postat će uobičajeni, svakodnevni alat.
Kontaktirajte nas za više informacija
