Firmy tracą kontrolę nad AI. Zjawisko Shadow AI rośnie, a pracownicy działają poza radarem

Polskie firmy chcą korzystać ze sztucznej inteligencji, ale w wielu z nich technologia ta funkcjonuje poza oficjalnym nadzorem.

Z najnowszego badania AI Readiness Index wynika, że pracownicy masowo używają niezatwierdzonych narzędzi na własną rękę. Problemem zarządów jest brak odpowiedniej infrastruktury i procedur. Odpowiedzią branży na ten organizacyjny chaos ma być ustrukturyzowane podejście do firmowych danych i wdrażanie cyfrowych asystentów, co proponuje m.in. Salesforce.

Brak nadzoru i zjawisko Shadow AI

Aż 44 proc. polskich firm deklaruje, że sztuczna inteligencja to dla nich priorytet. Mimo to, 40 proc. ankietowanych przyznaje, że pracownicy regularnie korzystają z niezatwierdzonych narzędzi AI. Co więcej, niemal co czwarta organizacja działa w tym obszarze bez ustalenia jakichkolwiek reguł czy norm.

To zjawisko, określane w branży mianem Shadow AI, obnaża wyraźny dysonans w firmach. Kierownictwo często żyje w przekonaniu, że ma sytuację pod kontrolą, widząc w raportach jedynie oficjalne licencje na modele LLM oraz zatwierdzone integracje z wewnętrznymi systemami. Tymczasem pracownicy, chcąc ułatwić sobie codzienne zadania, korzystają z niesprawdzonych, darmowych narzędzi i używają prywatnych kont (np. w ChatGPT) do przetwarzania firmowych informacji. Takie przesyłanie danych bez odpowiednich zabezpieczeń generuje realne ryzyko naruszenia własności intelektualnej. Sytuacji nie poprawiają braki kadrowe – 43 proc. firm w ogóle nie planuje wyznaczyć osoby z kierownictwa, która nadzorowałaby wdrażanie AI.

Ograniczenia modeli i wypalenie pracowników

Zapewnienie dostępu do dużych modeli językowych to zaledwie wierzchołek góry lodowej. Samodzielnie działające algorytmy mają swoje naturalne ograniczenia: nie znają specyfiki danej firmy, nie rozumieją relacji przyczynowo-skutkowych i wciąż zdarza im się generować halucynacje.

Skutki rzucenia załogi na głęboką wodę, bez ułożonego środowiska pracy, widać w statystykach. Badanie wskazuje, że 30 proc. firm odnotowuje zjawisko „zmęczenia używaniem AI”, a taki sam odsetek raportuje spadek kreatywności w zespołach. Konieczność ciągłego weryfikowania wyników pracy maszyn nakłada na ludzi dodatkowe obciążenie poznawcze, które prowadzi do nowego rodzaju wypalenia zawodowego.

Uporządkowanie chaosu i cyfrowi agenci

Aby wyjść z fazy chaotycznych eksperymentów, modele językowe wymagają integracji z wewnętrznymi bazami danych oraz procesami firmy. Rozwiązaniem tego problemu ma być budowa ustrukturyzowanych środowisk pracy, takich jak promowana przez firmę Salesforce architektura Agentic Enterprise. Zamiast wdrażać pojedyncze narzędzia, koncepcja ta zakłada płynne połączenie firmowych zasobów, aplikacji biznesowych oraz komunikatorów (jak Slack) w jeden nadzorowany ekosystem. Dopiero w takim środowisku autonomiczni agenci AI mogą bezpiecznie i efektywnie wspierać ludzi.

Obecnie narzędzia oparte na agentycznej sztucznej inteligencji wykorzystuje 12 proc. firm w Polsce. Większość z nich (70 proc.) nadal musi ręcznie monitorować ich pracę i korygować ewentualne błędy. Mimo tych początkowych trudności, organizacje patrzą w przyszłość z optymizmem. Blisko jedna czwarta ankietowanych liderów uważa, że w perspektywie pięciu lat sztuczna inteligencja stanie się niezbędnym fundamentem ich branży.

Tylko 5% polskich firm jest w pełni gotowych na AI. Cisco ostrzega: sieć to wąskie gardło innowacji

Sztuczna inteligencja miała być autostradą do przyszłości, ale dla większości polskich firm może okazać się drogą pełną wybojów.

Z najnowszego raportu Cisco AI Readiness Index wyłania się niepokojący obraz: choć aż 85 proc. organizacji w Polsce planuje wdrożenie agentów AI, zaledwie 5 proc. posiada infrastrukturę, która jest na to w pełni gotowa. To wynik znacznie poniżej średniej światowej, która wynosi 13 proc.. Co gorsza, wskaźnik ten praktycznie nie drgnął od trzech lat, co sugeruje, że firmy chcą innowacji, ale ich zaplecze technologiczne – a w szczególności sieć – wciąż tkwi w poprzedniej epoce.

W debacie o sztucznej inteligencji zazwyczaj skupiamy się na mocy obliczeniowej procesorów i jakości modeli językowych, zapominając o kluczowym elemencie, jakim jest sposób przesyłania danych. Nowoczesne modele AI, działające w trybie ciągłym, wymagają nawet 100 razy większej przepustowości i mocy niż tradycyjne aplikacje. Dla wielu przedsiębiorstw tradycyjna sieć staje się więc wąskim gardłem. Opóźnienia, które w standardowej pracy biurowej są niezauważalne, w przypadku systemów AI działających w czasie rzeczywistym mogą być krytyczne dla powodzenia całego projektu. Grzegorz Dobrowolski, dyrektor ds. technologii w Cisco Polska, porównuje nowoczesną sieć do fundamentu budynku – bez solidnej, skalowalnej bazy, ambitne projekty AI po prostu runą.

Drugim, równie istotnym aspektem poruszonym w raporcie jest cyberbezpieczeństwo. Dane wykorzystywane do trenowania i obsługi AI mają ogromną wartość strategiczną, co czyni je łakomym kąskiem dla cyberprzestępców. Raport Cisco wskazuje, że aż 77 proc. firm doświadczyło poważnych awarii spowodowanych atakami lub błędami konfiguracji. W erze AI sieć przestaje być tylko kanałem do przesyłu danych, a staje się inteligentnym sensorem, który jako jedyny ma wgląd w każdy pakiet informacji przepływający przez organizację. To właśnie na poziomie sieci najskuteczniej można wykrywać anomalie i blokować zagrożenia, zanim dotrą one do wrażliwych danych.

Eksperci Cisco sugerują, że czas na półśrodki minął. Aby nie zostać w tyle, firmy muszą zainwestować w „autostrady AI” zdolne obsłużyć gigantyczne obciążenia oraz postawić na automatyzację, w której to agenci AI będą zarządzać siecią, tworząc samonaprawiające się systemy. Traktowanie sieci wyłącznie jako medium transmisyjnego, a nie aktywnego elementu tarczy ochronnej, to błąd, który może słono kosztować. Luka w gotowości technologicznej to poważne ryzyko biznesowe, a firmy, które teraz nie zainwestują w modernizację, za rok mogą nie być w stanie obsłużyć systemów, które same planują wdrożyć.

Cisco ostrzega: otwartym modelom AI brakuje cierpliwości. Długie rozmowy łamią ich zabezpieczenia

#aiReadinessIndex #bezpieczenstwoSieci #cisco #cyfrowaTransformacja #infrastrukturaIt #news #sztucznaInteligencja

The Cisco #AIReadinessIndex 2024 reveals a surprising decline in global AI preparedness. Only 13% of companies are fully ready for AI adoption. With 59% saying they have just 1 year to implement AI or risk falling behind, organizations must act now. Key focus areas: infrastructure, data, governance, talent, and culture. Is your company AI-ready?

#ArtificialIntelligence #DigitalTransformation"

🔗 https://zurl.co/GELg