Gdzie trafiają dane firmy wysłane do AI — droga zapytania krok po kroku

Pytanie „gdzie właściwie trafiają nasze dane” pada zwykle późno. Najpierw ktoś miesiącami wkleja oferty i wyceny do czatu, a dopiero potem większy klient przysyła ankietę bezpieczeństwa z tym pytaniem w trzecim wierszu.

Odpowiedź jest mniej dramatyczna, niż się wydaje, i mniej prosta, niż chciałbyś usłyszeć. Zapytanie nie idzie w jedno miejsce — przechodzi przez kilka, a w każdym obowiązują inne zasady. Poniżej ta droga przystanek po przystanku i lista pytań, które trzeba zadać dostawcy na piśmie.

Droga zapytania: trzy przystanki#

Kiedy pracownik wpisuje pytanie w narzędziu AI, dane przechodzą przez trzy warstwy. Nawet jeżeli widzisz jedno logo, zwykle stoją za nim trzy różne podmioty.

Aplikacja, w której pracujesz. Platforma pracy, CRM, komunikator, wtyczka w edytorze tekstu. To ona zbiera treść pytania i dokłada do niego kontekst: fragmenty rekordów, załączone dokumenty, wcześniejszą część rozmowy. Model rzadko dostaje samo pytanie — dostaje pytanie plus to, co aplikacja uznała za potrzebne. Tego zakresu nie widać w interfejsie i to jest pierwsza rzecz, o którą warto zapytać.

Dostawca modelu. Aplikacja wysyła ten pakiet do firmy, która model utrzymuje. Bardzo często nie jest to ta sama firma, której płacisz za aplikację, i tutaj zaczyna się większość nieporozumień. Umowę masz z jednym podmiotem, a treść zapytania trafia do drugiego.

Infrastruktura, na której model liczy. Model działa w konkretnym centrum danych, w konkretnym kraju, nierzadko u jeszcze innego dostawcy chmury. O tej warstwie nie mówi się w rozmowie handlowej, bo formalnie nie jest ona twoim kontrahentem.

Praktyczny wniosek: każde pytanie o dane trzeba zadać dla całego łańcucha, nie dla pierwszego ogniwa. Odpowiedź „my tego nie robimy” bywa prawdziwa i jednocześnie bezwartościowa, jeżeli dotyczy wyłącznie warstwy pierwszej.

Uczenie modelu a przetwarzanie zapytania#

Na tym rozróżnieniu rozbija się większość rozmów o bezpieczeństwie AI. To są trzy osobne zjawiska, nie jedno.

Przetwarzanie zapytania. Treść wchodzi do modelu, model liczy odpowiedź, treść znika z pamięci roboczej. W samym modelu nie zostaje nic — jego wiedza nie zmienia się od tego, że coś mu wysłałeś.

Uczenie na twoich danych. Treść zapytań trafia do zbioru, na którym trenowana jest kolejna wersja modelu. Dopiero wtedy fragment twoich informacji może w ogóle pojawić się w odpowiedzi dla kogoś zupełnie innego. To jest obawa, o którą naprawdę chodzi, gdy ktoś pyta, czy dane firmy „wyciekną do AI”.

Przechowywanie zapytań. Rzecz pomijana najczęściej. Dostawcy zwykle zatrzymują treść zapytań na jakiś czas — do diagnostyki, do wykrywania nadużyć, do rozliczeń. To nie jest uczenie i nie zmienia modelu, ale jest kopią twoich danych poza firmą, na dysku, do którego nie masz wglądu.

Zdanie „nie uczymy się na waszych danych” nie odpowiada więc na pytanie „czy nasze dane u was zostają”. Trzeba zadać oba, bo profil ryzyka jest w każdym przypadku inny.

Retencja: jak długo i w czyich rękach#

Retencja to najkonkretniejsza część całego tematu, bo sprowadza się do liczby dni.

Ile dni i w jakim celu. Odpowiedź „przez czas niezbędny” nie jest odpowiedzią. Chcesz usłyszeć liczbę i powód jej przyjęcia.

Czy da się ją skrócić do zera. W części ofert biznesowych brak przechowywania treści zapytań jest możliwy, ale trzeba o niego poprosić — nie jest ustawieniem domyślnym.

Kto ma dostęp do zatrzymanych treści. Zwykle wąska grupa pracowników dostawcy, w określonych sytuacjach. Warto wiedzieć, w jakich.

Dwa zegary, nie jeden. Aplikacja kasuje historię rozmów według własnego harmonogramu, a dostawca modelu trzyma swoją kopię według swojego. To są dwa niezależne okresy i pytać trzeba o oba.

Region przetwarzania i podwykonawcy#

Region to miejsce, w którym fizycznie stoją serwery liczące odpowiedź. Nie wynika on z tego, gdzie zarejestrowana jest firma sprzedająca ci narzędzie, ani z tego, w jakim języku rozmawiasz z modelem.

Dwie rzeczy do ustalenia.

Czy region jest gwarantowany, czy domyślny. Gwarantowany oznacza, że jest zapisany w umowie i nie zmieni się przy przeciążeniu. Domyślny oznacza, że dziś jest taki, a jutro może być inny.

Kto jeszcze jest w łańcuchu. Lista podwykonawców powinna być publiczna, aktualna i objęta obowiązkiem powiadomienia o zmianach. Jeżeli dostawca nie potrafi wskazać, gdzie ta lista jest opublikowana, to jest odpowiedź sama w sobie.

Pytania, które trzeba zadać na piśmie#

Na piśmie, ponieważ zapewnienie z rozmowy handlowej nie ma żadnej wartości za rok, gdy pyta audytor albo klient. Mail od dostawcy w zupełności wystarczy.

1. Czy nasze dane są używane do trenowania modeli — waszych lub waszych podwykonawców? Pytanie musi obejmować cały łańcuch.
2. Jak długo przechowujecie treść zapytań i odpowiedzi i w jakim celu? Oczekujesz liczby dni, nie opisu polityki.
3. W jakim regionie przetwarzane są zapytania i czy jest to gwarantowane umownie?
4. Kto jest podwykonawcą przy przetwarzaniu i gdzie znajdę aktualną listę?
5. Jak wygląda usunięcie naszych danych i co dokładnie obejmuje? Zapytaj wprost o kopie zapasowe, logi i termin.

Odpowiedzi warto trzymać w jednym pliku obok umowy. Kiedy przyjdzie ankieta bezpieczeństwa od klienta, wypełnisz ją od ręki, zamiast zaczynać od rundy maili do dostawców.

Co możesz zrobić po swojej stronie#

Niezależnie od odpowiedzi dostawcy, część kontroli zostaje u ciebie.

Ustal, co aplikacja dokleja do pytania. Zakres kontekstu bywa ustawieniem, a nie stałą cechą narzędzia. Jeżeli da się go zawęzić do jednego obszaru zamiast całej bazy, jest to najtańsza zmiana z całej listy.

Nazwij kategorie, które nie wychodzą nigdy. Dane kadrowe, dokumenty objęte poufnością, korespondencja z prawnikiem. Krótka lista rzeczy, których nie wkleja się do żadnego czatu, działa lepiej niż ogólne wezwanie do ostrożności.

Odświeżaj odpowiedzi przy odnowieniu umowy. Polityki dostawców zmieniają się razem z planami i wersjami produktu. To, co dostałeś na piśmie rok temu, opisuje stan sprzed roku.

Zapisz, kto może włączać nowe integracje. Jedna osoba zatwierdzająca podłączenie nowego narzędzia to zwykle cała procedura, jakiej potrzebuje mała firma.

Podsumowanie#

Zapytanie wysłane do AI przechodzi przez aplikację, dostawcę modelu i konkretne centrum danych — i każda z tych warstw ma własne zasady. Uczenie modelu, przetwarzanie zapytania i przechowywanie jego treści to trzy różne rzeczy, o które trzeba zapytać osobno. Pięć pytań z tego tekstu, zadanych mailem i zapisanych w jednym miejscu, załatwia temat na kilka lat.

To jest jeden fragment większej całości — resztę, razem z pytaniem o to, czyje uprawnienia dziedziczy model, opisujemy w przewodniku o integracji AI z danymi firmy.