Jak bank może korzystać z AI w pracy doradców i zachować zgodność z przepisami?
Za compliance odpowiada bank, co ESMA potwierdziła w maju 2024 r. Platforma AI musi dać mu mechanizmy kontroli, które da się zweryfikować. Oznacza to weryfikację krytycznych decyzji przez człowieka, odporny na manipulacje ślad audytowy, zabezpieczenia oparte na ocenie odpowiedniości, wdrożenie wewnątrz infrastruktury banku oraz mechanizmy bezpieczeństwa poddane niezależnej ocenie.
Czy dostawca AI może zapewnić bankowi zgodność z przepisami?
Nie. Compliance pozostaje w gestii instytucji. Europejskie organy nadzoru mówią to wprost: w publicznym oświadczeniu z 30 maja 2024 r. dotyczącym AI w usługach inwestycyjnych dla klientów detalicznych ESMA stwierdza, że za decyzje firm odpowiada organ zarządzający, niezależnie od tego, czy podejmują je ludzie, czy narzędzia AI.
Wiarygodny dostawca wskazuje więc, które mechanizmy kontroli wspierają poszczególne wymogi, i pozwala bankowi je zweryfikować. Warto zachować ostrożność wobec platform opisywanych jako „zgodne z MiFID II” lub „zgodne z AI Act” bez takich szczegółów.
Jakie mechanizmy kontroli powinna zapewniać platforma?
| Mechanizm kontroli | Co sprawdzić |
|---|---|
| Weryfikacja przez człowieka | Czy można jej wymagać w przypadku wskazanych decyzji krytycznych? |
| Ślad audytowy | Czy wyniki AI da się prześledzić, a logi są odporne na manipulacje? |
| Zabezpieczenia oparte na ocenie odpowiedniości | Czy system oddziela edukację od doradztwa i wspiera ocenę odpowiedniości? |
| Walidacja wyników | Czy stosuje się osadzanie w źródłach (grounding) i walidację, aby ograniczyć odpowiedzi bez pokrycia w danych? |
| Ochrona przed atakami | Czy istnieją zabezpieczenia przed prompt injection i wyciekiem danych? |
| Polityka danych treningowych | Czy dane klientów są wyłączone z trenowania współdzielonych modeli? |
W Streetbeat for Finance odpowiadają za to 2 autorskie systemy: Agent Factory zarządza zachowaniem AI i audytem, a Guardian Angel chroni przed zagrożeniami zewnętrznymi. We wdrożeniu produkcyjnym w europejskim banku zatrudniającym 3000 doradców 99,64% interakcji przebiegło bez błędów w ciągu 3 miesięcy. Pozostałe 0,36% interakcji z błędami obejmuje pomyłki użytkowników.
Gdzie pozostają dane klientów?
Wewnątrz infrastruktury banku, jeśli bank tak zdecyduje. Streetbeat for Finance jest wdrażany on-premise lub w chmurze klienta, z dedykowanymi opcjami zaprojektowanymi z myślą o izolacji danych oraz z szyfrowaniem danych w spoczynku i w tranzycie. Streetbeat nie wykorzystuje danych klientów do trenowania współdzielonych modeli, z zastrzeżeniem konfiguracji wdrożenia i warunków dostawców zewnętrznych.
Które regulacje mają zastosowanie i czego dotyczą?
| Regulacja | Znaczenie |
|---|---|
| MiFID II | Konfigurowalne procesy wspierają ocenę odpowiedniości, z zastrzeżeniem weryfikacji przez doradcę. |
| GDPR | Mechanizmy kontroli zaprojektowane tak, by wspierać europejskie wymogi ochrony danych. |
| DORA | Stosowane od stycznia 2025 r. Banki muszą oceniać ryzyko koncentracji u dostawców usług ICT. Orkiestracja 4 wiodących dostawców modeli może wspierać tę ocenę. |
| FINRA Notice 24-09 | Opublikowane 27 czerwca 2024 r.: istniejące, neutralne technologicznie przepisy mają zastosowanie, gdy firmy członkowskie korzystają z generatywnej AI. |
| SOC 2 Type I i II | Niezależna ocena określonych mechanizmów kontroli bezpieczeństwa i poufności. |
Odniesienia do regulacji wskazują, gdzie konfigurowalne mechanizmy kontroli mogą wspierać procesy klientów. Nie są certyfikatami produktu ani gwarancją zgodności z przepisami. Streetbeat LLC jest zarejestrowany w SEC jako doradca inwestycyjny. Rejestracja nie oznacza poparcia ze strony organu nadzoru.
Jak bank może zweryfikować te deklaracje?
Poproś o raporty SOC 2, omówienie architektury i odpowiedzi na kwestionariusz due diligence banku. Mechanizmy kontroli Streetbeat są objęte ponad 30 zgłoszeniami patentowymi, od zabezpieczeń na poziomie agentów po odporne na manipulacje logowanie audytowe. Ich lista znajduje się na stronie patentów.
O Streetbeat
Streetbeat pomaga organizacjom wykorzystywać AI do zwiększania przychodów, a nie kosztów. Streetbeat OS, system operacyjny AI dla firm, stanowi fundament Streetbeat for Finance, Streetbeat for Impact i Brain50 by Streetbeat.
Streetbeat for Finance
Streetbeat for Finance wprowadza AI do banków, firm zarządzających majątkiem i aktywami, ubezpieczycieli oraz funduszy inwestujących w nieruchomości. Obejmuje AI Suite for Advisors, Portfolio Engine, AI Suite for Retail i AI Suite for Operations, wdrażane on-premise lub w chmurze klienta i dopasowane do procesów, danych i mechanizmów kontroli danej instytucji. Poznaj Streetbeat for Finance.