Darbuotojai, programos ir agentai modelius pasiekia per vieną kontroliuojamą sluoksnį. Kiekviena užklausa įkainojama ir priskiriama, tikrinama išeinant, kad nenutekėtų duomenys, ir grįžtant, kad niekas paslėpta neperimtų valdymo.
Žmonės susikūrė savo paskyras, nes darbą reikėjo padaryti, o programos buvo tvirtai susietos kiekviena su savo teikėju. Dabar niekas negali pasakyti, ko organizacija klausia DI, kiek tai kainuoja ir kas išėjo iš tinklo – o draudimas tik nustumia visa tai dar toliau nuo akių.
Vienas prisijungimas prie komercinių, atvirųjų svorių ir savame serveryje veikiančių modelių – Gateway galite nukreipti į savo vLLM ar Ollama, o raktas reikalingas tik tada, jei jūsų serveris jo prašo. Programos nustoja priklausyti nuo vieno tiekėjo.
Nukreipkite pagal užduotį, kokybę, jautrumą ir kainą, o brangiausius modelius palikite darbui, kuriam jų iš tikrųjų reikia. Konsolėje matyti, ką nukreipimas pasirinko ir kodėl.
Kaip Gateway pasirenka modelį →Kas laikoma jautriu ir kas laikoma sudėtingu, sprendžia mūsų valdomas modelis, o ne tiekėjas, kuriam siunčiate užklausą. Enterprise on-premise atveju jis veikia jūsų įrangoje ir iš jos niekas neišeina.
Teikėjo sutrikimas, išnaudota kvota ar dažnio riba – ir užklausą perima kitas teikėjas iš tos pačios ar aukštesnės klasės, tik iš tų modelių, kuriuos tai programai leidžiama naudoti. Atsakyme nurodomas jį parašęs modelis.
Kiekviena užklausa pažymima naudotoju, komanda, projektu ar programa, su griežtomis ir švelniomis ribomis bei įspėjimais dar prieš pasiekiant lubas – kad DI būtų biudžeto eilutė, o ne netikėta sąskaita.
Jautrus turinys patikrinamas arba blokuojamas dar prieš jam paliekant jūsų tinklą. Kas laikoma jautriu, sprendžia mūsų valdomas modelis, o ne tiekėjas, kuriam jį siunčiate. Kas nepraeina patikros, tas neišeina.
Ką įrankis beparneštų – el. laišką, tinklalapį, CRM įrašą – modelis skaito kaip duomenis, o ne kaip užduotį. Tas pats modelis to paties apdorojimo metu atpažįsta nurodymą, kurio niekas nedavė; blokavimo režimu įtartinas tekstas modelio apskritai nepasiekia. Ta pati patikra taikoma ir įvykiams, kuriuos Gateway perduoda kitoms jūsų programoms.
Kaip Gateway atpažįsta nurodymą, kurio niekas nedavė →Kiekviena užklausa, modelis, sprendimas ir kaina vėliau randami atitikties ar incidento tyrimo metu. Prie kiekvieno įrankio iškvietimo matyti, kaip jis buvo patikrintas ir ką patikra pasakė apie jo rezultatą, o visą užklausos įrašą galima išsaugoti kaip vieną dokumentą – HTML arba PDF.
Žmonės pasilieka modelius, kuriais remiasi, tik per paskyrą, kurią organizacija mato. Naudojimas auga, o rizika tuo pačiu metu mažėja – niekam nereikia atsisakyti savo įrankio.
Jautrus turinys sulaikomas dar prieš išeinant, o tai, kas grįžta, patikrinama prieš modeliui tai perskaitant. Taip paslėptas nurodymas pirmiausia susiduria su patikra, paskui su įrankių teisėmis ir patvirtinimo taškais – ir tik tada galėtų paversti naudingą atsakymą niekieno nepatvirtintu veiksmu.
Kiekviena užklausa priskiriama komandai, projektui ar programai, o ribos nustatomos prieš atkeliaujant sąskaitai, užuot aiškinus jas po jos.
Didžiausia rizika kyla ne iš jūsų programų, o iš žmonių, kurie dirba savo darbą per paskyras, kurių niekas nemato. Pirmiausia už Gateway perkelkite savo komandą, o tik paskui programas ir agentus.