Czego AI Act wymaga od firm korzystających z CRM opartego na AI

Pytanie o to, jak dostosować CRM do wymogów AI Act, dotyczy dziś każdego działu sprzedaży używającego funkcji sztucznej inteligencji. AI Act to unijne rozporządzenie regulujące wykorzystanie AI, które obejmuje nie tylko dostawców technologii, ale też firmy wdrażające ją w codziennej pracy — w tym zespoły korzystające z CRM z funkcjami AI.

Regulacja klasyfikuje systemy według poziomu ryzyka: od minimalnego, przez ograniczone, aż po wysokie ryzyko i praktyki zakazane. Kluczowe jest to, że o kwalifikacji decyduje zastosowanie, a nie sama etykieta „AI”.

W kontekście CRM najczęściej pojawiają się dwa obowiązki:

  • Transparentność — klient i pracownik powinni wiedzieć, że wchodzą w interakcję z systemem AI lub że decyzja jest wspierana przez algorytm.
  • Nadzór i dokumentacja — jeśli funkcja wpływa na sytuację osoby (np. ocena leada, automatyczne przypisanie priorytetu), rośnie poziom wymogów.

Funkcje sprzedażowe, które najczęściej wymagają uwagi, to scoring leadów, rekomendacje upsell/cross-sell, automatyzacja komunikacji oraz analiza predykcyjna. Nie wszystkie trafiają do kategorii wysokiego ryzyka, ale większość podlega przynajmniej obowiązkowi transparentności. Punktem wyjścia jest zawsze konkretne zastosowanie danej funkcji.

Obszary pracy działu sprzedaży, które trzeba zweryfikować pod kątem zgodności

Zanim wdrożysz zmiany, warto zmapować, gdzie w Twoim CRM działa AI i jakie ryzyko generuje.

Automatyczne priorytetyzowanie leadów w lejku. Algorytm decyduje, którymi kontaktami handlowiec zajmie się w pierwszej kolejności. To pośrednio wpływa na to, czy klient otrzyma ofertę. Ryzyko: nietransparentna logika decyzyjna i możliwy efekt dyskryminacyjny. Udokumentuj kryteria scoringu i źródła danych, zwłaszcza jeśli stosujesz automatyzację lejka sprzedażowego.

Sugestie upsell i cross-sell. Rekomendacje oparte na profilu klienta przetwarzają dane osobowe i behawioralne. Ryzyko: brak wyjaśnialności, dlaczego dana propozycja została wygenerowana. Zapisz, jakie dane zasilają model i jak powstają rekomendacje — dotyczy to również mechanizmów upsell i cross-sell w CRM.

Analiza rozmów i komunikacji. Transkrypcja i ocena rozmów z klientami to przetwarzanie danych osobowych, często wrażliwych. Ryzyko: obowiązek informowania rozmówcy oraz podstawa prawna przetwarzania. Ma to znaczenie także przy centralizacji historii konwersacji z klientem.

Dashboardy predykcyjne. Prognozy sprzedaży bazujące na AI wpływają na decyzje menedżerskie. Ryzyko: jakość i reprezentatywność danych treningowych. Warto dokumentować założenia modelu i jego ograniczenia — również w dashboardach KPI sprzedażowych.

Dla każdego obszaru odpowiedz na trzy pytania: czy decyzja wpływa na osobę, czy potrafisz ją wyjaśnić, oraz jakie dane osobowe są przetwarzane.

Praktyczne kroki dostosowania CRM do AI Act

Zgodność to proces, nie jednorazowe działanie. Poniższa lista porządkuje priorytety:

1. Audyt funkcji AI. Zinwentaryzuj wszystkie mechanizmy AI w CRM i przypisz im poziom ryzyka. 2. Dokumentacja modeli i logiki decyzyjnej. Opisz, jak działają scoring i rekomendacje, jakie dane wykorzystują i jakie mają ograniczenia. 3. Nadzór człowieka (human-in-the-loop). Zapewnij, że kluczowe decyzje handlowe może zweryfikować i nadpisać pracownik. 4. Informowanie klientów i pracowników. Uzupełnij komunikację i polityki o jasną informację o wykorzystaniu AI. 5. Aktualizacja polityk i umów z dostawcą CRM. Sprawdź, kto odpowiada za zgodność modelu — Ty jako użytkownik czy dostawca — i zapisz to w umowie. To element, który warto uwzględnić już na etapie kosztów wdrożenia systemu CRM.

Taki porządek pozwala szybko zidentyfikować luki bez zatrzymywania pracy zespołu sprzedaży.

Zagrożenia wynikające z braku dostosowania

Niedostosowanie CRM do AI Act niesie realne konsekwencje. Najbardziej wymierne są kary finansowe — rozporządzenie przewiduje wysokie sankcje za naruszenia, zwłaszcza dotyczące praktyk zakazanych i systemów wysokiego ryzyka.

Do tego dochodzą ryzyka operacyjne: konieczność wstrzymania funkcji AI w systemie do czasu wykazania zgodności, co bezpośrednio uderza w efektywność sprzedaży. Problemy z audytem wewnętrznym pojawiają się, gdy brak dokumentacji uniemożliwia wykazanie, jak działają algorytmy.

Najtrudniejsza do odbudowania jest jednak utrata zaufania. Klient, który dowie się, że jego dane były oceniane przez nieudokumentowany model, może zakwestionować całą relację. W sprzedaży B2B, gdzie transparentność buduje wiarygodność, brak jasności co do wykorzystania AI osłabia pozycję negocjacyjną i reputację firmy wobec kontrahentów.

Jak GovAI rozwiązuje problem zgodności z AI Act w CRM

GovAI podchodzi do zgodności jako do wbudowanej cechy systemu, a nie dodatku. Kluczowe elementy:

  • Wbudowane mechanizmy audytowe — każda decyzja AI (scoring, rekomendacja) jest rejestrowana i możliwa do odtworzenia.
  • Dokumentacja modeli dostępna z poziomu CRM — opis logiki, danych wejściowych i ograniczeń masz pod ręką, gotowy dla działu prawnego i audytora.
  • Kontrola nad danymi — decydujesz, jakie dane zasilają scoring i rekomendacje, co ułatwia spełnienie wymogów dotyczących przetwarzania danych osobowych.
  • Elastyczne włączanie i wyłączanie funkcji AI — funkcje można dostosować do zaakceptowanego poziomu ryzyka.
  • Wsparcie dla działu prawnego i handlowego — zgodność utrzymujesz bez rezygnacji z efektywności sprzedaży.

Dzięki temu zespół sprzedaży korzysta z automatyzacji i predykcji, a firma zachowuje kontrolę nad zgodnością regulacyjną.

Najczęściej zadawane pytania

Czy każdy CRM z funkcjami AI podlega pod AI Act?

Nie każdy w tym samym stopniu. O obowiązkach decyduje zastosowanie danej funkcji i poziom ryzyka. Większość funkcji sprzedażowych podlega co najmniej obowiązkowi transparentności, a te wpływające na sytuację osoby mogą wymagać szerszej dokumentacji i nadzoru.

Jakie dane trzeba dokumentować, żeby spełnić wymogi AI Act w CRM?

Należy udokumentować logikę decyzyjną modelu, źródła i rodzaj danych wejściowych, ograniczenia modelu, sposób powstawania rekomendacji oraz mechanizmy nadzoru człowieka. Ważne jest też rejestrowanie decyzji podejmowanych przez AI, aby można je było odtworzyć podczas audytu.

Czy scoring leadów oparty na AI wymaga zgody klienta?

Zależy to od podstawy prawnej przetwarzania danych i wpływu scoringu na osobę. Nie zawsze konieczna jest zgoda, ale zwykle wymagane są transparentność i poinformowanie o wykorzystaniu AI. Podstawę prawną i zakres informacji warto ustalić z działem prawnym.

Jak często należy przeprowadzać audyt zgodności funkcji AI w CRM?

Audyt warto przeprowadzać cyklicznie oraz po każdej istotnej zmianie — modyfikacji modelu, dodaniu nowej funkcji AI lub zmianie zakresu przetwarzanych danych. Regularność zapewnia, że dokumentacja pozostaje aktualna wobec faktycznego działania systemu.

Czy małe firmy handlowe też muszą dostosować swój CRM do AI Act?

Tak. AI Act nie zwalnia małych firm z obowiązków wynikających z wykorzystania systemów AI. Zakres działań może być proporcjonalny do skali i ryzyka, ale podstawowe wymogi transparentności i dokumentacji dotyczą również mniejszych organizacji.

Zobacz też

Sprawdź, jak GovAI pomoże dostosować Twój CRM do wymogów AI Act