Skalowanie modeli AI

Red Hat AI 3.4
W trakcie Red Hat Summit 2026 pokazano nową wersję platformy Red Hat AI 3.4 przeznaczonej do wdrażania i zarządzania środowiskami AI w chmurze hybrydowej. Aktualizacja wprowadza m.in. model usługowy Model-as-a-Service (MaaS), funkcje AgentOps oraz nowe mechanizmy zarządzania modelami i agentami AI. Platforma umożliwia centralne zarządzanie modelami, monitorowanie działania agentów oraz kontrolę wykorzystania zasobów i polityk bezpieczeństwa. Red Hat AI 3.4 wykorzystuje mechanizmy vLLM i llm-d do obsługi rozproszonej inferencji modeli. Producent dodał również funkcje zarządzania promptami, moduł oceny modeli i agentów oraz integrację z MLflow. Platforma obsługuje też automatyczne testy bezpieczeństwa modeli AI i mechanizmy kryptograficznego zarządzania tożsamością agentów. redhat.com