AI w firmie pod kontrolą. Jak korzystać z technologii bez utraty bezpieczeństwa i odpowiedzialności?

Artykuł podkreśla, że skuteczne wdrażanie AI w firmie wymaga nie tylko wyboru odpowiednich narzędzi, ale przede wszystkim zachowania kontroli nad ich działaniem. Przedsiębiorcy powinni dbać o bezpieczeństwo danych, ograniczać uprawnienia agentów AI, kontrolować automatyzację i wyznaczać osoby odpowiedzialne za jej funkcjonowanie. Ważne jest również szkolenie pracowników, przeciwdziałanie zagrożeniom takim jak manipulacje i oszustwa z wykorzystaniem AI oraz przygotowanie firmy na awarie i błędy systemów. Najważniejszy wniosek jest taki, że AI może przejąć wiele obowiązków, ale odpowiedzialność za decyzje, bezpieczeństwo i kierunek rozwoju firmy zawsze pozostaje po stronie człowieka.

AI w firmie pod kontrolą. Jak korzystać z technologii bez utraty bezpieczeństwa i odpowiedzialności?
Spis treści
Heading 2

Czego AI nie zrobi za Ciebie nigdy. Dlaczego to dobra wiadomość dla przedsiębiorcy. Część 3. 

W poprzednich artykułach pisałem o tym, że samo zainteresowanie sztuczną inteligencją nie wystarczy, żeby firma zaczęła działać lepiej. Potrzebny jest konkretny problem do rozwiązania, przemyślany wybór narzędzia i sposób sprawdzenia, czy inwestycja rzeczywiście przynosi korzyści. Na koniec zostawiłem “wisienkę na torcie”.Temat, który w rozmowach o wdrażaniu AI bywa często odsuwany na dalszy plan. Chodzi o to, co dzieje się później, kiedy nowe rozwiązanie przestaje być testem, a zaczyna uczestniczyć w codziennej pracy przedsiębiorstwa. 

Mam wrażenie, że w dyskusjach o sztucznej inteligencji wciąż poświęcamy więcej uwagi temu, co potrafi zrobić, niż temu, na jakich zasadach powinna to robić. Zachwycamy się często agentem, który samodzielnie analizuje wiadomości, wyszukuje informacje w dokumentach, przygotowuje oferty i aktualizuje dane klientów. Znacznie rzadziej pytamy, kto nadał mu dostęp do tych informacji, co dokładnie może zmienić w firmowych systemach i czy ktokolwiek będzie w stanie odtworzyć jego działania, jeśli pojawi się problem. 

Oczywiście, nie jest to argument przeciwko automatyzacji. W wielu firmach właśnie takie rozwiązania mogą przynieść największe oszczędności czasu.Trzeba jednak zauważyć istotną różnicę między asystentem, który podpowiada pracownikowi odpowiedź, a agentem, który sam wykonuje określone czynności.Kiedy AI przygotuje błędne podsumowanie dokumentu, człowiek ma jeszcze możliwość zauważenia pomyłki przed wykorzystaniem materiału. Jeżeli jednak agent automatycznie wyśle nieprawidłową ofertę do kilkudziesięciu klientów lub sam zmieni dane w systemie, konsekwencje mogą pojawić się, zanim ktokolwiek zdąży zareagować.Właśnie dlatego bezpieczeństwo AI rozumiem szerzej niż ochronę przed cyberatakiem. To sposób organizacji pracy, zakres samodzielności systemów, odpowiedzialność pracowników i umiejętność reagowania wtedy, gdy technologia nie działa zgodnie z oczekiwaniami. 

Zanim pozwolimy agentowi działać, musimy ustalić, co właściwie wolno mu zrobić. 

W wielu firmach handlowych przygotowanie jednej oferty zajmuje handlowcowi wiele godzin, a szef chce to skrócić do godziny. Pracownicy muszą sprawdzać dostępność towarów, aktualne ceny, wcześniejsze zamówienia klienta i indywidualne warunki współpracy. Zajmuje to sporo czasu, zwłaszcza gdy informacje znajdują się w kilku różnych systemach. Firma postanawia wykorzystać agenta AI. Rozwiązanie pobiera potrzebne dane, przygotowuje projekt oferty i przekazuje go handlowcowi do zatwierdzenia. Po pewnym czasie pojawia się pomysł, aby agent sam wysyłał wiadomości, a następnie również aktualizował informacje w CRM.

To właśnie rozwija się automatyzacja. Kiedy pierwszy etap działa poprawnie, no normalne, że chcemy rozszerzać możliwości narzędzia.Nie widzę w tym niczego niewłaściwego, ale każda kolejna funkcja powinna oznaczać ponowną ocenę uprawnień i ryzyka. System przygotowujący dokument nie potrzebuje takich samych uprawnień jak system, który może samodzielnie zawierać transakcję lub zmienić warunki handlowe. 

Agent powinien mieć dostęp do informacji potrzebnych do przygotowania oferty, ale już niekoniecznie do całej bazy klientów. Może odczytywać cennik ale nie powinien mieć możliwości jego zmiany. Może przygotować wiadomość, pozostawiając decyzję o wysyłce handlowcowi. Jeżeli w przyszłości otrzyma prawo samodzielnego wysyłania określonych komunikatów, warto ograniczyć je do konkretnych sytuacji, wcześniej sprawdzonych szablonów i ustalonych odbiorców. To praktyczne zastosowanie zasady najmniejszych niezbędnych uprawnień, stosowanej przez specjalistów od bezpieczeństwa informatycznego. Każdy system powinien otrzymać wyłącznie taki dostęp, jaki jest potrzebny do realizacji jego zadania. 

W firmie zatrudniającej kilkanaście osób nie wymaga to tworzenia skomplikowanych struktur. Wystarczy, że ktoś świadomie podejmie decyzję, jakie dane agent może odczytywać, co może zmieniać, które czynności wymagają akceptacji człowieka i kto może odebrać mu uprawnienia. Warto też sprawdzić, czy dostęp można ograniczyć również w czasie. Uprawnienia nadane podczas testów często pozostają aktywne po zakończeniu projektu, a przecież nie zawsze są potrzebne. To problem znany z tradycyjnych systemów IT, który przy agentach AI nie znika, a może nabrać większego znaczenia. 

Uważam, że rozsądna automatyzacja nie polega na tym, żeby człowiek jak najszybciej przestał uczestniczyć w procesie. Polega na takim podziale zadań, aby jego udział był potrzebny przede wszystkim tam, gdzie rzeczywiście wnosi wartość: przy wyjątkach, decyzjach o większych konsekwencjach i ocenie sytuacji, których nie da się sprowadzić do prostych reguł. 

Pamiętajmy, że nie każdy dokument, który czyta AI, jest bezpieczny. 

Jest jeszcze jeden powód, dla którego zakres uprawnień agentów ma tak duże znaczenie. System może zostać poddany próbie manipulacji za pomocą informacji, które otrzymuje podczas wykonywania zwykłego zadania.Specjaliści określają takie zagrożenie jako prompt injection. Polega to na umieszczeniu w dokumencie, wiadomości lub na stronie internetowej instrukcji, która ma skłonić model do zachowania niezgodnego z jego właściwym zadaniem. 

Przykładowo agent analizujący korespondencję handlową może otrzymać wiadomość zawierającą polecenie przesłania wewnętrznych dokumentów na wskazany adres. Dla pracownika byłaby to treść pochodząca od osoby z zewnątrz, nie mającej prawa wydawać takich dyspozycji. System AI również powinien ją tak traktować, ale niewłaściwie zaprojektowane rozwiązanie może błędnie interpretować część tekstu jako instrukcję do wykonania. Nie chodzi przy tym wyłącznie o pocztę. Podobne próby mogą znaleźć się w dokumentach PDF, treści stron internetowych czy materiałach pobranych z zewnętrznych baz. Zagrożenie jest dobrze rozpoznane w środowisku bezpieczeństwa aplikacji AI. Dla przedsiębiorcy najważniejszy jest jednak praktyczny wniosek. Nie możemy zakładać, że odpowiednio sformułowana instrukcja dla modelu wystarczy, aby zabezpieczyć cały system.

Jeżeli agent ma szeroki dostęp do poufnych informacji i możliwość przesyłania ich poza organizację, skutki udanego ataku mogą być poważne. Dlatego bezwzględnie należy wymagać od dostawcy nie tylko zapewnienia, że jego rozwiązanie rozpoznaje podejrzane polecenia, ale również informacji o ograniczeniach dostępu, zabezpieczeniu integracji i kontroli operacji wykonywanych przez agenta. 

Przy ważniejszych wdrożeniach wskazane są testy obejmujące także nietypowe lub celowo przygotowane dokumenty. Dobrze przeprowadzony pilotaż powinien sprawdzać nie tylko to, czy system potrafi wykonać zadanie, ale również jak zachowuje się wtedy, gdy otrzymuje informacje błędne, sprzeczne albo pochodzące z niezaufanego źródła. 

Ile AI już działa w Twojej firmie? Pewnie więcej, niż myślisz. 

Przedsiębiorcy często zakładają, że wdrożenie sztucznej inteligencji rozpoczyna się od decyzji zarządu. A to nie jest prawdą. Tymczasem w praktyce technologia może być obecna w organizacji znacznie wcześniej.Pracownik działu marketingu korzysta z generatora treści, handlowiec przygotowuje oferty z pomocą asystenta, a osoba z administracji przesyła dokument do aplikacji, która potrafi go podsumować. Każdy robi to z zamiarem usprawnienia swojej pracy. Niekoniecznie informuje jednak przełożonego, jakiego narzędzia używa i jakie dane do niego przekazuje. To zjawisko, które opisywałem już w jednym z wcześniejszych artykułów, nazywa się shadow AI. Oznacza korzystanie z narzędzi sztucznej inteligencji poza formalną wiedzą lub kontrolą organizacji. Nie zakładałbym od razu, że jest to wynik lekkomyślności pracowników. Często przyczyna jest znacznie prostsza: firma nie określiła żadnych zasad, a ludzie szukają rozwiązań, które pomagają im szybciej i lepiej wykonywać swoje obowiązki. Całkowity zakaz korzystania z AI może w takiej sytuacji przynieść więcej problemów niż korzyści. Pracownicy nadal będą potrzebowali narzędzi zwiększających efektywność, a organizacja może stracić możliwość wpływania na sposób ich wykorzystania. 

Zacząłbym więc od rozpoznania rzeczywistej sytuacji w firmie, ale nie w formie „twardego” audytu. Ja osobiście rekomendowałbym zwykłą, szczerą rozmowę z pracownikami, bez atmosfery kontroli i szukania winnych. Jeżeli na początku zapowiemy wielki audyt i konsekwencje za korzystanie z niezatwierdzonych aplikacji, trudno oczekiwać, że wszyscy chętnie opowiedzą, jak naprawdę pracują. Najprawdopodobniej wystraszą się i zablokują. 

Zapytałbym przede wszystkim, z jakich narzędzi korzystają, do czego ich używają i czy udostępniają im firmowe dane. Chciałbym też dowiedzieć się, dlaczego sięgają właśnie po te rozwiązania. Być może radzą sobie w ten sposób z problemami, których zarząd nawet nie dostrzega. Taka rozmowa może więc przynieść podwójną korzyść: pozwoli uporządkować kwestie bezpieczeństwa, a przy okazji pokaże, gdzie w firmie istnieje rzeczywista potrzeba automatyzacji. Następnie można przygotować prosty rejestr zatwierdzonych rozwiązań. Nie musi to być zaawansowany system. Na początek wystarczy tabela zawierająca nazwę aplikacji, jej zastosowanie, osobę odpowiedzialną, rodzaj przetwarzanych danych oraz informację o dostępie do innych systemów. 

Szczególną uwagę poświęciłbym integracjom. Czym innym jest korzystanie z asystenta do przygotowania ogólnego tekstu, a czym innym udzielenie aplikacji dostępu do całej firmowej poczty lub dokumentów przechowywanych na dysku.

Właśnie tu, w tym miejscu pojawia się ryzyko, którego pracownik może nawet nie zauważyć. Instalując wygodne rozszerzenie lub łącząc dwa systemy, może nadać uprawnienia wykraczające daleko poza funkcję, z której zamierza korzystać. Zatem Firma powinna jasno określić, kto może zatwierdzać takie integracje. W małym przedsiębiorstwie nie musi to być osobny dział. Ważne, aby decyzja należała do osoby, która rozumie jej konsekwencje lub potrafi skorzystać z odpowiedniego wsparcia technicznego. 

Kluczowe jest to, aby firmowe dane nie “krążyły” bez naszej wiedzy. 

W pierwszej części cyklu omówiłem zasady ochrony informacji przekazywanych do narzędzi AI. Nie będę ponownie wyjaśniał, dlaczego nie należy umieszczać poufnych dokumentów w przypadkowych aplikacjach. Przy agentach pojawia się jednak dodatkowe zagadnienie, które chciałbyms poruszyć. . 

Pracownik korzystający z asystenta zwykle sam wybiera informacje, które przekazuje do analizy. Agent połączony z firmowymi systemami pobiera je automatycznie. Załóżmy, że chcemy wdrożyć narzędzie przygotowujące podsumowania spotkań z klientami. Udostępniamy mu odpowiednie dokumenty i historię współpracy. Jeśli jednak integracja zostanie skonfigurowana zbyt szeroko, agent może uzyskać dostęp również do informacji, które nie mają żadnego związku z jego zadaniem.Przed uruchomieniem rozwiązania należy sprawdzić nie tylko, jakie dane są mu potrzebne, ale również skąd je pobiera, gdzie zapisuje wyniki i czy może przekazywać informacje do kolejnych aplikacji. Nie zawsze też konieczne będzie utworzenie osobnej infrastruktury. Czasem wystarczy ograniczyć dostęp do wybranych folderów, utworzyć konto techniczne z odpowiednimi uprawnieniami albo zastosować mechanizmy kontroli. Ważne, aby te ograniczenia rzeczywiście działały. Sam zapis w wewnętrznej instrukcji, że agent nie powinien korzystać z określonych dokumentów, nie zastąpi technicznego odebrania mu dostępu. Przy rozwiązaniach zewnętrznych trzeba również sprawdzić warunki przetwarzania informacji. Istotne są zasady przechowywania danych, możliwość ich usunięcia, zakres dostępu dostawcy i jego podwykonawców oraz warunki korzystania z danych przesyłanych do usługi. 

Niektóre biznesowe usługi AI oferują dodatkowe mechanizmy ochrony informacji i deklarują, że dane klientów nie są domyślnie wykorzystywane do trenowania modeli. Jest to ważne, ale nie rozstrzyga wszystkich kwestii związanych z poufnością i zgodnością z przepisami. 

O czym musimy pamiętać - jeżeli w procesie pojawiają się dane osobowe, należy uwzględnić również wymagania RODO, w tym odpowiednią podstawę prawną przetwarzania, relacje z dostawcą i bezpieczeństwo danych. Z mojego punktu widzenia najważniejsze jest zachowanie kontroli nad przepływem informacji. Przedsiębiorca nie musi znać każdego technicznego szczegółu integracji, ale powinien móc ustalić, które systemy korzystają z firmowych danych i kto odpowiada za przyznany im dostęp. 

Głos prezesa przestaje już być dowodem, że rozmawiamy z nim. 

Szczególną uwagę poświęciłbym dziś bezpieczeństwu operacji finansowych, które już opisywałem we wcześniejszych publikacjach. Próby wyłudzenia pieniędzy poprzez podszywanie się pod przełożonych lub kontrahentów nie są niczym nowym. Od lat spotykamy się z fałszywymi fakturami, wiadomościami o zmianie numeru rachunku i pilnymi

dyspozycjami przelewów. Sztuczna inteligencja nie stworzyła tych metod, ale może zwiększać ich skuteczność. Przestępcy mają dziś dostęp do narzędzi pozwalających generować wiarygodnie brzmiące wiadomości, a także imitować głos czy wizerunek konkretnej osoby. 

Wyobraźmy sobie pracownika księgowości, który otrzymuje polecenie pilnego wykonania przelewu. Wiadomość wygląda tak, jakby pochodziła od prezesa. Pracownik próbuje potwierdzić dyspozycję i słyszy w telefonie znajomy głos. 

Czy to wystarczy? Oczywiście, że nie.Jeszcze niedawno taka rozmowa mogła zostać uznana za wiarygodne potwierdzenie. Dzisiaj powinniśmy być ostrożniejsi. W praktyce nie potrzebujemy do tego kolejnego kosztownego systemu. Znacznie ważniejsze mogą okazać się dobrze przygotowane procedury. Przy nietypowych dyspozycjach finansowych należy stosować niezależny sposób weryfikacji. Jeśli kontrahent informuje o zmianie rachunku, kontaktujemy się z nim przy użyciu wcześniej znanych, sprawdzonych danych kontaktowych, a nie numeru podanego w podejrzanej wiadomości.Warto również rozdzielić uprawnienia do przygotowania i zatwierdzania istotnych przelewów. W wielu firmach dobrym rozwiązaniem będzie zasada dwóch osób, z progami kwotowymi dostosowanymi do skali działalności.Podobnie należy potraktować możliwość zmiany danych kontrahentów. Osoba, która wprowadza nowy rachunek do systemu, nie powinna automatycznie móc samodzielnie zatwierdzić płatności na ten rachunek. Zawsze też polecam stosowania specjalnego hasła znanego właścicielowi i wybranym pracownikom. Może być ono dodatkowym elementem weryfikacji, ale nie traktowałbym go jako zabezpieczenia wystarczającego do autoryzacji przelewu. Takie hasło również może zostać ujawnione. Jest jeszcze inna kwestia, której nie rozwiąże żadne oprogramowanie. Chodzi o atmosferę w firmie.Jeżeli pracownik obawia się zakwestionować polecenie właściciela, bo może zostać uznany za niekompetentnego albo nielojalnego, przestępca ma ułatwione zadanie. Warto więc jasno powiedzieć zespołowi, że przy podejrzanej transakcji dodatkowa weryfikacja jest obowiązkiem, a nie oznaką braku zaufania do przełożonego. Te kilka minut poświęconych na sprawdzenie dyspozycji może uchronić przedsiębiorstwo przed stratą, której później nie uda się odzyskać. 

Odpowiedzialności nie da się przekazać agentowi razem z zadaniem. 

Wróćmy do przykładu firmy handlowej. Załóżmy, że agent samodzielnie wysłał klientowi ofertę zawierającą nieprawidłową cenę lub warunki dostawy. Klient nie będzie przecież prowadził rozmowy z modelem językowym na temat tego, dlaczego doszło do pomyłki. 

Zwróci się do przedsiębiorstwa, z którym współpracuje.Oczywiście nie oznacza to, że każda taka sytuacja automatycznie przesądza o odpowiedzialności prawnej firmy. Znaczenie będą miały konkretne okoliczności, zawarte umowy, sposób działania systemu i właściwe przepisy. W określonych przypadkach można również rozważać odpowiedzialność dostawcy rozwiązania. Z perspektywy zarządzania problem pozostaje jednak po naszej stronie. To firma musi wiedzieć, jak wyjaśnić sytuację klientowi, ustalić przyczynę błędu i zapobiec jego powtórzeniu. Dlatego nie uruchamiał bym ważnej automatyzacji bez wskazania osoby odpowiedzialnej za dany proces. 

Nie musi to być informatyk. Jeżeli agent wspiera sprzedaż, jego właścicielem biznesowym powinien być ktoś, kto rozumie sprzedaż, zna obowiązujące zasady i potrafi ocenić skutki błędnych działań.

Specjalista IT może odpowiadać za integracje, zabezpieczenia i techniczne funkcjonowanie rozwiązania. Dostawca może świadczyć wsparcie i usuwać usterki. Nie zastąpi to jednak osoby, która rozumie znaczenie procesu dla firmy. W niewielkim przedsiębiorstwie takie role mogą być łączone. Nie chodzi o rozbudowywanie struktury organizacyjnej, tylko o uniknięcie sytuacji, w której wszyscy korzystają z narzędzia, ale nikt nie czuje się odpowiedzialny za jego działanie.Warto też pamiętać, że odpowiedzialność nie kończy się w dniu uruchomienia systemu. Zmieniają się procesy, pojawiają się nowe funkcje, pracownicy odchodzą z firmy, a dostawcy aktualizują swoje rozwiązania. Uprawnienia i zasady nadzoru powinny być więc okresowo sprawdzane, zwłaszcza po istotnych zmianach w sposobie wykorzystania agenta. 

Szkolenie z AI powinno przygotowywać do rzeczywistej pracy. 

Wiele szkoleń ze sztucznej inteligencji nadal koncentruje się na tym, jak pisać skuteczne polecenia i korzystać z najpopularniejszych aplikacji. To przydatna wiedza, ale w firmie, która wdraża agentów AI, potrzebujemy czegoś więcej. Pracownicy muszą rozumieć, jakie czynności system wykonuje samodzielnie, kiedy wymaga zatwierdzenia i jak zareagować na jego nieprawidłowe działanie.Handlowiec powinien wiedzieć, które elementy przygotowanej oferty musi sprawdzić. Osoba odpowiedzialna za płatności powinna rozpoznawać próby podszywania się pod przełożonych. Pracownik administracji musi rozumieć, dlaczego nie należy bez zgody firmy podłączać nowej aplikacji do dokumentów zawierających dane klientów.Nie organizowałbym dla wszystkich identycznego szkolenia. Lepiej przeznaczyć czas na konkretne przypadki związane z obowiązkami poszczególnych działów. Można na przykład przeprowadzić krótkie ćwiczenie dotyczące podejrzanej zmiany rachunku kontrahenta. Innym razem pokazać, jak zatrzymać agenta, który zaczyna przygotowywać nieprawidłowe wiadomości. Takie sytuacje pozwalają pracownikom zrozumieć procedury znacznie lepiej niż samo przedstawienie listy zakazów. 

Widzę tu jeszcze jedno wyzwanie, o którym mówi się zdecydowanie za mało. Jeżeli przez kilka miesięcy pracownik korzysta z systemu, który samodzielnie przygotowuje oferty, analizuje dokumenty czy obsługuje część korespondencji, może stopniowo tracić wprawę w samodzielnym wykonywaniu tych czynności. A przecież to właśnie jego doświadczenie będzie potrzebne wtedy, gdy system popełni błąd albo przestanie działać. Dlatego nie rezygnowałbym z rozwijania kompetencji w obszarach, które automatyzujemy. Pracownik powinien rozumieć proces na tyle dobrze, żeby potrafił ocenić wynik pracy AI, zauważyć nieprawidłowości i w razie potrzeby przejąć zadanie. W przeciwnym razie możemy doprowadzić do sytuacji, w której technologia wykonuje coraz więcej pracy, ale w firmie jest coraz mniej osób zdolnych do jej rzeczywistego nadzorowania. 

Warto też zadbać o sposób zgłaszania problemów. Pracownik, który zauważy błąd AI, powinien wiedzieć, komu go przekazać. Nie może mieć poczucia, że zgłoszenie będzie potraktowane jako przyznanie się do niewłaściwego korzystania z technologii. 

Przygotowanie ludzi ma również wymiar prawny. Unijny AI Act przewiduje obowiązek podejmowania działań na rzecz zapewnienia odpowiedniego poziomu kompetencji w zakresie AI osobom zajmującym się obsługą i wykorzystaniem systemów w organizacji. Nie oznacza to konieczności uzyskania jednego, określonego certyfikatu przez każdego pracownika. Zakres działań powinien uwzględniać między innymi sposób wykorzystania technologii, doświadczenie pracowników i kontekst zastosowania systemu.Warto przy tym

śledzić aktualne przepisy i wytyczne. Dla przedsiębiorcy najważniejsze powinno być jednak to, czy pracownicy rzeczywiście potrafią bezpiecznie korzystać z wdrożonych rozwiązań, a nie wyłącznie to, czy odbyli formalne szkolenie. 

Żadna regulacje nie zastąpią nigdy rozsądnego zarządzania. 

Przy okazji AI Act chciałbym zwrócić uwagę na pewną tendencję. Gdy pojawia się nowa regulacja, część firm zaczyna od pytania, jakie dokumenty musi przygotować, żeby spełnić wymagania. Rozumiem takie podejście, zwłaszcza gdy przedsiębiorcy obawiają się sankcji. Nie zaczynałbym jednak zarządzania AI od samej dokumentacji. Najpierw trzeba ustalić, jakie systemy firma wykorzystuje, do czego służą i jakie mogą wywoływać skutki. Dopiero później można rzetelnie ocenić związane z nimi obowiązki. 

Inaczej wygląda sytuacja przedsiębiorstwa korzystającego z asystenta do przygotowywania roboczych materiałów marketingowych, a inaczej firmy wykorzystującej AI do oceny kandydatów do pracy lub podejmowania decyzji wpływających na prawa i interesy innych osób. AI Act stosuje podejście uwzględniające ryzyko i rolę organizacji. Nie wszystkie zastosowania podlegają identycznym wymaganiom, a firma korzystająca z gotowego systemu nie zawsze ma takie same obowiązki jak jego dostawca. Trzeba również pamiętać o innych regulacjach, które obowiązywały przedsiębiorców jeszcze przed upowszechnieniem sztucznej inteligencji. Mam tu na myśli przede wszystkim ochronę danych osobowych, prawo pracy, obowiązki wynikające z umów oraz przepisy właściwe dla określonych branż. 

Zachęcałbym do podejścia proporcjonalnego. Przy prostych zastosowaniach wystarczające mogą okazać się podstawowe zasady korzystania z narzędzi, odpowiednie uprawnienia i przygotowanie pracowników. Przy systemach wpływających na sytuację ludzi, przetwarzających szczególnie chronione informacje albo wykonujących operacje o poważnych konsekwencjach potrzebna będzie znacznie dokładniejsza ocena. Nie warto kupować rozbudowanego audytu tylko dlatego, że w firmie pojawił się chatbot. Nie należy też zakładać, że mała skala działalności automatycznie zwalnia nas ze wszystkich obowiązków. 

Kiedy coś pójdzie nie tak, liczy się możliwość szybkiego i sprawnego działania. 

Nie znam systemu informatycznego, dla którego można byłoby rozsądnie zagwarantować całkowity brak błędów. W przypadku rozwiązań AI tym bardziej powinniśmy przygotować się na sytuacje, w których wynik okaże się nieprawidłowy albo agent wykona czynność w sposób niezgodny z oczekiwaniami. 

Wróćmy do automatyzacji obsługi klienta. Agent zaczyna wysyłać wiadomości zawierające nieaktualne terminy dostaw. Problem może wynikać z błędnych danych, zmiany w integracji albo niewłaściwego działania samego systemu. 

Pierwszym zadaniem nie powinno być ustalanie, kto zawinił. Najpierw trzeba zatrzymać dalsze nieprawidłowe operacje i sprawdzić, jak duża jest skala problemu.Czy wiemy, do

których klientów trafiły wiadomości? Czy system zapisuje historię swoich działań? Czy można ustalić, z jakich danych korzystał? Kto ma uprawnienia do wyłączenia automatyzacji? 

Jeżeli odpowiedzi na te pytania zaczniemy szukać dopiero podczas incydentu, tracimy cenny czas. Dlatego przy ważniejszych wdrożeniach warto przewidzieć możliwość szybkiego zatrzymania agenta, dostęp do zapisów istotnych operacji i sposób przywrócenia prawidłowego funkcjonowania procesu.Część zmian będzie można cofnąć. Innych, takich jak wysłanie wiadomości do klienta czy ujawnienie informacji, nie da się po prostu anulować. To kolejny argument za tym, aby szczególnie ostrożnie podchodzić do zautomatyzowania działań nieodwracalnych.W razie incydentu dotyczącego danych osobowych może być również konieczna ocena obowiązków wynikających z RODO, w tym ewentualnego zgłoszenia naruszenia organowi nadzorczemu. Zatrzymanie agenta nie zawsze rozwiązuje cały problem. Trzeba jeszcze ustalić przyczynę, ocenić skutki i zdecydować, czy system może zostać ponownie uruchomiony. 

W tym miejscu wracamy do odpowiedzialności. Potrzebna jest osoba, która potrafi podjąć decyzję, a nie tylko techniczna możliwość wyłączenia aplikacji. 

Co zostanie w firmie, jeśli jutro zabraknie naszego narzędzia AI? 

Na bezpieczeństwo warto spojrzeć również od strony ciągłości działania przedsiębiorstwa. Dajmy na to, że przez rok rozwijamy automatyzację, która wspiera obsługę zamówień. Pracownicy przyzwyczajają się do nowego sposobu pracy, część wcześniejszych czynności przestaje być wykonywana ręcznie, a informacje o konfiguracji i zasadach działania systemu znajdują się głównie u dostawcy. 

Kluczowy jest zadanie sobie pytania - co się stanie, jeżeli usługa przestanie być dostępna? 

Nie musi to być skutek cyberataku. Wystarczy awaria, problem z integracją, zmiana oferty dostawcy lub zakończenie współpracy.Nie uważam, że przedsiębiorstwo powinno z tego powodu rezygnować z zewnętrznych usług AI. Dla wielu MŚP samodzielne budowanie i utrzymywanie podobnych rozwiązań byłoby po prostu nieopłacalne.Warto jednak zachować możliwość eksportowania danych, dokumentować najważniejsze procesy i ustalić, jak wykonywać krytyczne zadania w przypadku czasowej niedostępności narzędzia. Szczególnie w przedsiębiorstwach rodzinnych, gdzie przez lata wiedza o funkcjonowaniu firmy jest skupiona w rękach tylko kilku osób, AI może odegrać bardzo pozytywną rolę. Pomaga uporządkować procedury, opisać sposób działania i ułatwić przekazywanie obowiązków. Byłoby jednak szkoda, gdybyśmy rozwiązując problem zależności od wiedzy jednego pracownika, stworzyli nową zależność od jednego systemu, nad którym nie mamy wystarczającej kontroli. 

Od czego zacząć, jeśli firma korzysta już z AI? 

Gdybym miał doradzić właścicielowi niewielkiego przedsiębiorstwa, który nie ma czasu ani budżetu na rozbudowany projekt dotyczący bezpieczeństwa AI, nie proponowałbym mu na początek wielostronicowej strategii. 

Zacząłbym od zwykłego przeglądu.

1. Najpierw sprawdziłbym, z jakich narzędzi korzystają pracownicy. Następnie ustaliłbym, które z nich mają dostęp do firmowych danych i systemów. Szczególnie interesowałyby mnie integracje z pocztą, CRM, dokumentami i oprogramowaniem finansowym. 

2. Kolejnym krokiem byłoby wskazanie osób odpowiedzialnych za poszczególne rozwiązania. Nie musi to być jedna osoba dla całej firmy, ale każdy ważniejszy proces powinien mieć kogoś, kto rozumie jego działanie i potrafi ocenić rezultaty. 

3. Sprawdziłbym również, które czynności AI wykonuje samodzielnie, a które wymagają zatwierdzenia. Przy operacjach mających skutki finansowe, prawne lub dotyczących poufnych informacji szczególnie dokładnie przyjrzałbym się zasadom kontroli. 

4. Na końcu chciałbym wiedzieć, czy firma potrafi zatrzymać najważniejsze automatyzacje i kontynuować pracę, gdy technologia zawiedzie. 

Taki przegląd może ujawnić problemy, których wcześniej nie dostrzegliśmy. Być może okaże się, że kilka aplikacji wykonuje podobne zadania. Może odkryjemy niepotrzebne integracje albo konta posiadające zbyt szerokie uprawnienia. Równie dobrze możemy dojść do wniosku, że obecne rozwiązania działają poprawnie i wymagają jedynie niewielkich zmian organizacyjnych. Nie chodzi o tworzenie problemów tam, gdzie ich nie ma. Chodzi o świadome zarządzanie technologią, która staje się coraz ważniejsza dla codziennego funkcjonowania przedsiębiorstwa. 

Na zakończenie. Co tak naprawdę zostaje po tych trzech artykułach? 

Kiedy zaczynałem ten cykl, chciałem przede wszystkim pokazać, że w rozmowie o sztucznej inteligencji warto patrzeć dalej niż na kolejne premiery modeli i nowe funkcje popularnych aplikacji. Dla przedsiębiorcy ważniejsze jest przecież to, czy dzięki technologii jego firma działa lepiej. 

W pierwszej części pisałem o sprawach, których nie powinniśmy oddawać AI: odpowiedzialności, relacjach z ludźmi i decyzjach wymagających doświadczenia. W drugiej skupiłem się na tym, jak wybierać sensowne zastosowania i oceniać ich biznesową wartość. Teraz zajęliśmy się tym, co dzieje się po wdrożeniu, kiedy technologia otrzymuje dostęp do naszych danych i zaczyna wykonywać konkretne zadania. 

Nie mam wątpliwości, że możliwości AI będą rosły. Coraz więcej czynności uda się zautomatyzować, a część procesów, które dzisiaj zajmują pracownikom wiele godzin, będzie można realizować znacznie szybciej. Nie oznacza to jednak, że każda firma musi natychmiast korzystać z najbardziej zaawansowanych agentów. 

Czasami lepszym rozwiązaniem będzie prostsza automatyzacja. Czasami wystarczy uporządkowanie procesu. A czasami warto świadomie pozostawić określone zadanie człowiekowi, nawet jeśli technologia potrafiłaby wykonać je samodzielnie. 

Właśnie tak rozumiem dojrzałe podejście do AI w biznesie. Chciałbym, żeby przedsiębiorcy nie oceniali swoich firm przez liczbę wdrożonych narzędzi, ale przez to, czy potrafią dzięki nim lepiej obsługiwać klientów, rozwijać działalność i zachowywać kontrolę nad tym, co naprawdę ważne. Bo sztuczna inteligencja może przejąć od nas coraz więcej obowiązków.

Odpowiedzialność za kierunek, w którym prowadzimy własną firmę, nadal pozostaje po naszej stronie. 

Dziękuję za lekturę całego cyklu i zapraszam do kolejnych publikacji.

Tekst powstał na podstawie własnych przemyśleń i doświadczeń zawodowych. Narzędzia AI wykorzystano pomocniczo na etapie opracowania i redakcji tekstu.

Sprawdź profil eksperta