Shadow AI Exposes 2,000 Vibe-Coded Apps with Sensitive Data

A shocking discovery by Red Access revealed over 2,000 apps with sensitive corporate, operational, or personal data exposed online, leaving countless organizations vulnerable to risk. These apps, found on popular vibe-coding platforms, were often deployed without basic security controls, granting open access to sensitive information.

https://osintsights.com/shadow-ai-exposes-2000-vibe-coded-apps-with-sensitive-data?utm_source=mastodon&utm_medium=social

#SensitiveDataExposure #Vibecoding #ShadowAi #EmergingThreats #DataLeak

"Most organizations still think about Shadow AI as employees using an unapproved chatbot. That definition is already outdated.

The LayerX research shows that enterprise AI usage is rapidly fragmenting across a growing ecosystem of AI tools, embedded assistants, AI browser extensions, AI search engines, coding copilots, and AI-powered SaaS features that often operate outside traditional visibility and governance controls.

Nearly 30% of enterprise users already use multiple AI platforms, while the top 5% interact with six or more AI applications. Employees are no longer relying on a single assistant for isolated tasks. They are combining multiple AI systems inside the same workflows, often switching between tools depending on the task, data type, or convenience.

This is what modern Shadow AI actually looks like. It's the growing long tail of AI tools that organizations struggle to see, track, or govern. In many cases, organizations may not even realize AI is being used at all, creating a far larger governance challenge than most organizations anticipate."

https://thehackernews.com/2026/05/new-ai-usage-report-enterprise-ai-risk.html

#AI #GenerativeAI #ShadowAI #EnterpriseAI #CyberSecurity

Firmy tracą kontrolę nad AI. Zjawisko Shadow AI rośnie, a pracownicy działają poza radarem

Polskie firmy chcą korzystać ze sztucznej inteligencji, ale w wielu z nich technologia ta funkcjonuje poza oficjalnym nadzorem.

Z najnowszego badania AI Readiness Index wynika, że pracownicy masowo używają niezatwierdzonych narzędzi na własną rękę. Problemem zarządów jest brak odpowiedniej infrastruktury i procedur. Odpowiedzią branży na ten organizacyjny chaos ma być ustrukturyzowane podejście do firmowych danych i wdrażanie cyfrowych asystentów, co proponuje m.in. Salesforce.

Brak nadzoru i zjawisko Shadow AI

Aż 44 proc. polskich firm deklaruje, że sztuczna inteligencja to dla nich priorytet. Mimo to, 40 proc. ankietowanych przyznaje, że pracownicy regularnie korzystają z niezatwierdzonych narzędzi AI. Co więcej, niemal co czwarta organizacja działa w tym obszarze bez ustalenia jakichkolwiek reguł czy norm.

To zjawisko, określane w branży mianem Shadow AI, obnaża wyraźny dysonans w firmach. Kierownictwo często żyje w przekonaniu, że ma sytuację pod kontrolą, widząc w raportach jedynie oficjalne licencje na modele LLM oraz zatwierdzone integracje z wewnętrznymi systemami. Tymczasem pracownicy, chcąc ułatwić sobie codzienne zadania, korzystają z niesprawdzonych, darmowych narzędzi i używają prywatnych kont (np. w ChatGPT) do przetwarzania firmowych informacji. Takie przesyłanie danych bez odpowiednich zabezpieczeń generuje realne ryzyko naruszenia własności intelektualnej. Sytuacji nie poprawiają braki kadrowe – 43 proc. firm w ogóle nie planuje wyznaczyć osoby z kierownictwa, która nadzorowałaby wdrażanie AI.

Ograniczenia modeli i wypalenie pracowników

Zapewnienie dostępu do dużych modeli językowych to zaledwie wierzchołek góry lodowej. Samodzielnie działające algorytmy mają swoje naturalne ograniczenia: nie znają specyfiki danej firmy, nie rozumieją relacji przyczynowo-skutkowych i wciąż zdarza im się generować halucynacje.

Skutki rzucenia załogi na głęboką wodę, bez ułożonego środowiska pracy, widać w statystykach. Badanie wskazuje, że 30 proc. firm odnotowuje zjawisko „zmęczenia używaniem AI”, a taki sam odsetek raportuje spadek kreatywności w zespołach. Konieczność ciągłego weryfikowania wyników pracy maszyn nakłada na ludzi dodatkowe obciążenie poznawcze, które prowadzi do nowego rodzaju wypalenia zawodowego.

Uporządkowanie chaosu i cyfrowi agenci

Aby wyjść z fazy chaotycznych eksperymentów, modele językowe wymagają integracji z wewnętrznymi bazami danych oraz procesami firmy. Rozwiązaniem tego problemu ma być budowa ustrukturyzowanych środowisk pracy, takich jak promowana przez firmę Salesforce architektura Agentic Enterprise. Zamiast wdrażać pojedyncze narzędzia, koncepcja ta zakłada płynne połączenie firmowych zasobów, aplikacji biznesowych oraz komunikatorów (jak Slack) w jeden nadzorowany ekosystem. Dopiero w takim środowisku autonomiczni agenci AI mogą bezpiecznie i efektywnie wspierać ludzi.

Obecnie narzędzia oparte na agentycznej sztucznej inteligencji wykorzystuje 12 proc. firm w Polsce. Większość z nich (70 proc.) nadal musi ręcznie monitorować ich pracę i korygować ewentualne błędy. Mimo tych początkowych trudności, organizacje patrzą w przyszłość z optymizmem. Blisko jedna czwarta ankietowanych liderów uważa, że w perspektywie pięciu lat sztuczna inteligencja stanie się niezbędnym fundamentem ich branży.

L'intelligenza artificiale nei modelli lavorativi, decisionali e regolamentari in Italia. Analisi strutturale dell'indagine della Fondazione Studi Consulenti del Lavoro e degli scenari di mercato nel 2026. Il Festival del Lavoro 2026 come catalizzatore del dibattito sulle ...

https://scienzamagia.eu/scienza-e-tecnologia/lintelligenza-artificiale-nei-modelli-lavorativi-decisionali-e-regolamentari-in-italia/

#AIAct #Auditperiodici #consulentidellavoro #Ddl1146 #Divariodimensionale #Faidate #FestivaldelLavoro #governance #intelligenzaartificiale #Isolamentodecisionale #PMI #Produttività #ShadowAI

CxO: "Holy shizzle! We need to get control of AI use! It's out of control! We're going to get fined, sued, and maybe executives might go to jail!"

Information Security: "Great! First we will inventory the use of AI, map that against employees and contractors who are using " Shadow AI", and have a conversation with them to cease and desist while we bring rigor to the use of AI"

CxO: "Excellent! But, I need to still keep vibe coding while using this Claude Bot thing I downloaded to my company laptop last night. Oh! And I also need to keep using that Agentic AI stock trading bot I loaded on my company laptop as well!"

Information Security: 😳🧐😒🙄🫪

Turns out the C-suite loves shadow AI - Help Net Security

#shadowai #executivesuite #policyexception
https://share.google/UjrLQ4tcbLH1LnfhF

🗽 Sono appena tornato da una vacanza a New York.

🤖 E mi sono portato a casa qualcosa di inaspettato: non souvenir, ma una riflessione molto concreta su dove siamo davvero arrivati con l’AI.

🌃 A Times Square, accanto a Coca-Cola e Samsung, c’era la pubblicità di una piattaforma AI.
Nei café, da Starbucks a Gregorys, chiunque avesse un laptop aperto — studenti, sviluppatori, giornalisti — stava interagendo con Claude, Copilot o ChatGPT.
Non come una novità. Come normalità.

Negli USA, l’AI ha già superato il punto di non ritorno culturale.

📊 I dati lo confermano: il 41% dei lavoratori americani usa la GenAI per scopi professionali, contro circa il 20% delle aziende europee. E il divario è ancora più ampio tra grandi imprese (55%) e PMI (17%).

Nel mio nuovo articolo parlo di:
🏙️ Quello che ho visto tra Times Square e i café di Manhattan
📈 I dati reali dietro al divario USA vs Europa
⚠️ Shadow AI: perché la crescita incontrollata è il rischio più sottovalutato
🔐 Come governance e identity management stanno diventando fondamentali per adottare l’AI in modo sostenibile

🔗 Leggi il post qui:
https://iam.fabiograsso.net/it/blog/okta-ai-newyork/?utm_source=infosec.exchange&utm_medium=social&utm_campaign=2026q2_masto_push

State già governando gli agenti AI nella vostra organizzazione? O siete ancora nella fase “proviamo e vediamo cosa succede”? Qual è oggi il principale gap di governance AI nella vostra azienda?

#AI #IntelligenzaArtificiale #AISecurity #AIGovernance #Cybersecurity #IAM #GenAI #ShadowAI #Okt