Moderacja AI

Sójka AI
Polska rodzina modeli sztucznej inteligencji właśnie się powiększyła – Sójka AI to model typu guardrails, który wykorzystywany może być do m.in. analizy rozmów z LLM-ami i wykrywaniu szkodliwych danych wejściowych (promptów), które próbują np. przełamać zabezpieczenia dużego modelu językowego. Kolejnym przykładem zastosowania jest możliwość weryfikacji danych wyjściowych (odpowiedzi) LLM-ów i wykluczania tych, które uznane zostaną za nieodpowiednie. W dalszej perspektywie Sójka posłuży również do moderacji szkodliwych komentarzy w internecie. Na stronie projektu można wypełnić ankietę, która pomoże w przygotowaniu danych do trenowania tego modelu. Sójka AI to inicjatywa w ramach Spichlerza – projektu, który stoi również za polskim dużym modelem językowym, czyli Bielikiem. sojka.m31ai.pl