Red Hat neemt Chatterbox Labs over om vertrouwen en beveiliging rond AI te versnellen

Deze aankondiging volgt op een jaar van snelle innovatie rond Red Hat AI, met onder meer de introductie van Red Hat AI Inference Server en de lancering van Red Hat AI 3. Klanten over de hele wereld gebruiken Red Hat AI in uiteenlopende sectoren om te innoveren met generatieve, voorspellende en agentic AI-toepassingen.

Nu organisaties opschalen van experimenten naar productie, staan zij voor de complexe uitdaging om modellen uit te rollen die niet alleen krachtig, maar ook aantoonbaar betrouwbaar en veilig zijn. Veiligheids‑ en guardrail‑functionaliteit wordt daarmee een basisvoorwaarde voor moderne machine learning operations (MLOps). Deze focus op beveiliging en vertrouwen onderstreept de inzet van Red Hat en IBM om klanten te helpen met een security‑first benadering om AI in hybride cloudomgevingen verantwoord op te schalen.

Door de integratie van de Chatterbox Labs-technologie ontstaat een uniform platform waarin veiligheid vanaf het begin is ingebouwd. Zo kan Red Hat organisaties nog beter ondersteunen bij het in productie nemen van AI‑workloads met elk model, op elke accelerator en in elke omgeving.

Onbedoelde gevolgen van AI aanpakken

Chatterbox Labs is opgericht in 2011 en brengt essentiële technologie en expertise aan boord op het gebied van AI‑veiligheid en transparantie. De ervaring van het bedrijf met kwantitatieve AI‑risico’s wordt wereldwijd erkend door onafhankelijke denktanks en beleidsmakers. Met deze overname voegt Red Hat dan ook belangrijke machine‑learningtechnologie toe aan zijn portfolio.

Chatterbox Labs levert geautomatiseerde, op maat gemaakte AI‑beveiligings‑ en veiligheidstesten met de feitelijke risicometrics die besluitvormers nodig hebben om AI‑toepassingen goed te keuren voor productie. De technologie biedt een robuuste, model‑agnostische aanpak om data en modellen te valideren, onder meer via:

• AIMI for gen AI, dat onafhankelijke, kwantitatieve risicometrics levert voor large language models (LLM’s);
• AIMI for predictive AI, dat elke AI‑architectuur toetst aan de hand van belangrijke pijlers zoals robuustheid, eerlijkheid en uitlegbaarheid;
• Guardrails die onveilige, toxische of bevooroordeelde prompts identificeren en mitigeren voordat modellen in productie worden genomen.

De volgende generatie AI‑workloads beveiligen

De overname sluit naadloos aan bij de visie van Red Hat om uiteenlopende modellen en implementatiescenario’s te ondersteunen in de hybride cloud. Bovendien versterkt het de vooruitstrevende mogelijkheden die met Red Hat AI 3 zijn geïntroduceerd, met name op het gebied van agentic AI en Model Context Protocol (MCP).

Naarmate organisaties agentic AI omarmen, wordt het belang van vertrouwde en veilige modellen alleen maar groter. AI‑agents nemen immers steeds complexere, autonome rollen op zich en kunnen directe invloed hebben op kritieke systemen.

Chatterbox Labs heeft uitgebreid onderzoek gedaan naar holistische beveiliging van agents, waaronder het monitoren van antwoorden en het detecteren van MCP‑serveracties die door agents worden getriggerd. Dit is geheel in lijn met de roadmap van Red Hat voor Llama Stack en MCP‑ondersteuning. Red Hat is hiermee dus goed gepositioneerd om de volgende generatie intelligente, geautomatiseerde workloads te beveiligen op een betrouwbaar, enterprise‑waardig fundament.

Door de MLOps‑capaciteiten van Red Hat te combineren met de guardrails van Chatterbox Labs stelt Red Hat organisaties in staat hun AI‑investeringen met meer vertrouwen te operationaliseren.

'Organisaties brengen AI in een razend tempo van het lab naar productie, waardoor de urgentie voor betrouwbare, veilige en transparante AI‑implementaties toeneemt. De innovatieve, model‑agnostische veiligheidstesten en guardrail‑technologie van Chatterbox Labs vormen precies die cruciale ‘security for AI’‑laag waar de markt behoefte aan heeft. Door Chatterbox Labs te integreren in het Red Hat AI‑portfolio versterken we onze belofte van een compleet, open source-platform dat onze klanten in staat stelt om elk model in elke omgeving te draaien met vanaf het begin ingebouwde veiligheid. Deze overname helpt om écht verantwoorde, productieklare AI op schaal mogelijk te maken”, zegt Steven Huels, vice president, AI Engineering and Product Strategy bij Red Hat.

Stuart Battersby, Ph.D., medeoprichter en Chief Technology Officer, Chatterbox Labs

'Naarmate AI‑systemen doordringen in ieder aspect van de bedrijfsvoering en bredere samenleving, mag veiligheid geen ‘propriëtaire black box’ worden. AI‑guardrails mogen niet louter worden uitgerold; ze moeten rigoureus getest worden met ondersteuning van aantoonbare metrics. Chatterbox Labs is een pionier in dit vakgebied, van de vroege dagen van voorspellende AI tot de agentic systemen van de toekomst. Door aan te sluiten bij Red Hat kunnen we deze gevalideerde, onafhankelijke veiligheidsmetrics naar de open‑sourcegemeenschap brengen. De resulterende transparantie maakt het voor organisaties mogelijk om veiligheid te verifiëren zonder vast te zitten aan één leverancier, en zo een toekomst te realiseren waarin we allemaal kunnen profiteren van veilige, schaalbare en open AI.'

Lees meer over de acquisitie van Chatterbox in deze (Engelstalige) FAQ.