Red Hat ojačava štitove: Preuzimanje Chatterbox Labs ključ za sigurnu budućnost

U doba kada globalna ulaganja u umjetnu inteligenciju hitno rastu, a zabrinutost za sigurnost i etiku postaje sve važnija, Red Hat je objavio strateško preuzimanje kompanije Chatterbox Labs. Ovaj potez nije samo poslovna transakcija – on predstavlja odgovor na najveći izazov današnjice: kako osigurati da revolucija koju AI donosi ne ugrozi sigurnost podataka i društvene vrijednosti.

Prema istraživanju IDC-a, do 2025. godine, poslovni sektor će u AI uložiti čak 227 milijardi dolara, ali mnoge kompanije još uvijek oklijevaju da premjeste projekte iz probne faze u masovnu upotrebu zbog rizika od pristrasnosti, lažnih informacija ili zloupotrebe.

Chatterbox Labs, osnovan 2011. godine, već godinama radi na rješenjima koja pružaju transparentnost i kvantitativnu analizu rizika u AI sistemima. Njihova tehnologija radi poput „štita“: automatski testira modele prije njihovog puštanja u produkciju, blokirajući opasne, toksične ili diskriminirajuće sadržaje. Ključnu ulogu igraju tri elementa njihove platforme:

• AIMI za generativnu AI mjeri rizike velikih jezičkih modela (LLM),
• AIMI za prediktivnu AI provjerava pouzdanost, iskrenost i razumljivost modela,
• Guardrails trenutno otkrivaju i ispravljaju problematične upite korisnika, spriječavajući da dođu do modela.

Ovo je posebno važno upravo sada, kada kompanije širom svijeta žure da implementiraju generativnu AI, ali nemaju kapacitet da ručno nadgledaju svaki izlazni sadržaj. „Bez ugrađenih zaštitnih mehanizama, čak i najnapredniji modeli mogu postati izvor grešaka ili zloupotreba“, navodi se u analizi Red Hata. Preuzimanje dolazi u kontekstu njihove šire strategije oko tzv. agentske AI– pametnih sistema koji autonomno rade zadatke putem protokola MCP (Model Context Protocol). MCP omogućava komunikaciju između modela i aplikacija, ali, kao što ističu stručnjaci, nema ugrađenu sigurnost. Chatterbox Labs već godinama proučava upravo ovo područje, uključujući praćenje odgovora agenata i otkrivanje rizičnih akcija.

Red Hat, poznat po podršci hibridnim cloud infrastrukturama (kombinaciji privatnih i javnih servera), već je ranije sklopio saradnju s gigantima poput Nvidia, Intela i AMD-a. Ovim potezom, kompanija jasno poručuje: sloboda izbora tehnologije i zaštita ne mogu biti međusobno isključivi ciljevi. U eri kada čak i najnapredniji LLM modeli generišu neprovjerene informacije (tzv. halucinacije), rješenja poput onih od Chatterbox Labs postaju kritična za održiv razvoj.