Darbinieki, lietojumprogrammas un aģenti sasniedz modeļus caur vienu kontrolētu slāni. Katram pieprasījumam tiek noteikta cena un atbildīgais, tas tiek pārbaudīts ceļā uz āru, lai dati nenoplūstu, un ceļā atpakaļ, lai nekas apslēpts nepārņemtu vadību.
Cilvēki reģistrēja savus kontus, jo darbs bija jāpadara, un lietojumprogrammās katrā tika iebūvēts viens pakalpojumu sniedzējs. Tagad neviens nevar pateikt, ko organizācija jautā AI, cik tas maksā un kas ir aizgājis ārpus tīkla – un aizliegums to tikai aizbīda vēl tālāk no acīm.
Viens savienojums komerciāliem, atvērto svaru un pašmitinātiem modeļiem – Gateway var norādīt uz jūsu paša vLLM vai Ollama, un atslēga vajadzīga tikai tad, ja jūsu serveris to prasa. Lietojumprogrammas pārstāj būt atkarīgas no viena piegādātāja.
Maršrutējiet pēc uzdevuma, kvalitātes, sensitivitātes un izmaksām, un dārgākos modeļus atstājiet darbam, kuram tie tiešām vajadzīgi. Konsolē redzams, ko maršrutēšana izvēlējās un kāpēc.
Kā Gateway izvēlas modeli →To, kas tiek uzskatīts par sensitīvu un kas par sarežģītu, izlemj mūsu darbināts modelis – nevis piegādātājs, kuram jūs sūtāt pieprasījumu. Enterprise on-premise variantā tas darbojas uz jūsu aparatūras, un nekas no tās neaiziet.
Pakalpojumu sniedzēja darbības traucējumi, izsmelta kvota vai pieprasījumu biežuma ierobežojums – un pieprasījumu pārņem cits pakalpojumu sniedzējs tajā pašā vai augstākā klasē, tikai no modeļiem, kurus attiecīgā lietojumprogramma drīkst izmantot. Atbildē ir nosaukts modelis, kas to uzrakstīja.
Katrs pieprasījums piesaistīts lietotājam, komandai, projektam vai lietojumprogrammai, ar stingriem un mīkstiem limitiem un brīdinājumiem pirms griestiem – tā AI ir budžeta rinda, nevis negaidīts rēķins.
Pārbaudiet vai bloķējiet sensitīvu saturu, pirms tas pamet jūsu tīklu. Kas ir sensitīvs, izlemj mūsu darbināts modelis – nevis piegādātājs, kuram to sūtāt. Kas neiziet pārbaudi, tas neaiziet.
Visu, ko atnes rīks – e-pastu, tīmekļa lapu, CRM ierakstu –, modelis lasa kā datus, nevis kā uzdevumu. Tas pats modelis tajā pašā gājienā pamana instrukciju, ko neviens nav devis; bloķēšanas režīmā aizdomīgais teksts līdz modelim nemaz nenonāk. Tā pati pārbaude attiecas arī uz notikumiem, ko Gateway nodod tālāk citām jūsu lietojumprogrammām.
Kā Gateway pamana instrukciju, ko neviens nav devis →Katrs pieprasījums, modelis, lēmums un izmaksas vēlāk ir aplūkojami atbilstības vai incidenta izvērtēšanai. Pie katra rīka izsaukuma redzams, kā tas tika pārbaudīts un ko pārbaude teica par tā rezultātu, – un visu pieprasījuma pierakstu var saglabāt kā vienu dokumentu, HTML vai PDF.
Cilvēki patur modeļus, uz kuriem paļaujas, bet caur kontu, kuru organizācija redz. Lietojums pieaug un riska pakāpe vienlaikus samazinās – nevienam nav jāatsakās no rīka.
Sensitīvs saturs tiek pārtverts, pirms tas aiziet, un tas, kas nāk atpakaļ, tiek pārbaudīts, pirms to nolasa modelis, – tāpēc paslēpta instrukcija vispirms sastopas ar pārbaudi, pēc tam ar rīku atļaujām un apstiprinājuma punktiem, pirms tā varētu pārvērst noderīgu atbildi darbībā, kuru neviens nav apstiprinājis.
Katrs pieprasījums ir attiecināts uz komandu, projektu vai lietojumprogrammu, un limiti tiek noteikti pirms rēķina saņemšanas, nevis skaidroti pēc tam.
Lielākā daļa riska nenāk no jūsu lietojumprogrammām – tas nāk no cilvēkiem, kuri dara savu darbu caur kontiem, ko neviens neredz. Vispirms novietojiet komandu aiz Gateway, tad lietojumprogrammas un aģentus.