Zaposlenici, aplikacije i agenti dolaze do modela kroz jedan kontrolirani sloj. Svaki zahtjev ima cijenu i pripisanog vlasnika, provjerava se na izlasku kako podaci ne bi iscurili i na povratku kako ništa skriveno ne bi preuzelo kontrolu.
Ljudi su otvorili vlastite račune jer je posao trebalo obaviti, a aplikacije su svaka za sebe čvrsto vezane uz jednog pružatelja. Nitko sada ne može reći što organizacija pita AI, koliko to košta ni što je napustilo mrežu – a zabrana to samo gura još dalje od pogleda.
Jedna veza za komercijalne modele, modele otvorenih težina i one koje sami hostirate – usmjerite Gateway na vlastiti vLLM ili Ollama, s ključem samo ako ga vaš poslužitelj traži. Aplikacije prestaju ovisiti o jednom dobavljaču.
Usmjeravajte prema zadatku, kvaliteti, osjetljivosti i trošku i vrhunske modele zadržite za posao kojem su doista potrebni. Konzola pokazuje što je usmjerivač odabrao i zašto.
Kako Gateway bira model →Što se smatra osjetljivim, a što teškim, odlučuje model koji mi pokrećemo – a ne dobavljač kojemu šaljete zahtjev. U paketu Enterprise na vlastitoj infrastrukturi radi na vašem hardveru i ništa s njega ne odlazi.
Ispad pružatelja, potrošena kvota ili ograničenje broja zahtjeva, i zahtjev preuzima drugi pružatelj u istom razredu ili višem – samo iz modela koje ta aplikacija smije koristiti. Odgovor navodi model koji ga je napisao.
Svaki je zahtjev označen korisnikom, timom, projektom ili aplikacijom, s čvrstim i mekim ograničenjima te upozorenjima prije gornje granice – pa je AI stavka proračuna, a ne iznenađenje na računu.
Pregledajte ili blokirajte osjetljiv sadržaj prije nego što napusti vašu mrežu. Što se smatra osjetljivim, odlučuje model koji mi pokrećemo – a ne dobavljač kojemu ga šaljete. Ono što ne prođe provjeru, ne odlazi.
Što god alat donese – e-poruku, web-stranicu, zapis iz CRM-a – model čita kao podatke, a ne kao zadatak. Isti model u istom prolazu prepoznaje uputu koju nitko nije dao; u načinu blokiranja sumnjiv tekst nikada ne dolazi do modela. Ista provjera obuhvaća i događaje koje Gateway prosljeđuje vašim drugim aplikacijama.
Kako Gateway prepoznaje uputu koju nitko nije dao →Svaki zahtjev, model, odluku i trošak moguće je poslije pretražiti radi provjere usklađenosti ili istrage incidenta. Za svaki poziv alata vidi se kako je provjeren i što je provjera rekla o njegovu rezultatu – a cijeli se zapis zahtjeva sprema kao jedan dokument, u formatu HTML ili PDF.
Ljudi zadržavaju modele na koje se oslanjaju, ali kroz račun koji organizacija vidi. Prihvaćanje raste, a izloženost istodobno pada – nitko se ne mora odreći alata.
Osjetljiv se sadržaj zaustavlja prije izlaska, a ono što se vraća provjerava se prije nego što ga model pročita – pa skrivena uputa nailazi na provjeru, a zatim na dopuštenja alata i točke odobrenja, prije nego što bi koristan odgovor mogla pretvoriti u radnju koju nitko nije odobrio.
Svaki se zahtjev pripisuje timu, projektu ili aplikaciji, s ograničenjima postavljenima prije nego što račun stigne, umjesto objašnjenja nakon njega.
Najveća izloženost ne dolazi iz vaših aplikacija – dolazi od ljudi koji svoj posao rade preko računa koje nitko ne vidi. Prvo stavite svoj tim iza proizvoda Gateway, pa tek onda aplikacije i agente.