💬 Schöne neue Welt
Bedenken wegen Shahed-Kamikaze-Drohnen-Angeboten auf #Alibaba
Sie enthielten eine KI-Lenkung, um "Menschen, Gebäude, Fahrzeuge, Schiffe usw." anzufliegen
💬 Schöne neue Welt
Bedenken wegen Shahed-Kamikaze-Drohnen-Angeboten auf #Alibaba
Sie enthielten eine KI-Lenkung, um "Menschen, Gebäude, Fahrzeuge, Schiffe usw." anzufliegen
Hugo Maestre: Donald Trump se llevó a Alí Babá, pero dejó a los cuarenta ladrones
#Alibaba #KI-Agent #Security #Kryptowährung
KI-Agent wird Krypto-Miner - ungewollt und unerlaubt
https://www.linux-magazin.de/news/ki-agent-schuerft-unaufgefordert-kryptowaehrung/
Interesse an KI, aber wenig Zeit für Recherchen? Dann abonniere den wöchentlichen Newsletter des Linux-Magazins "KI, kommentiert" unter https://www.linux-magazin.de/subscribe Die wichtigsten News der Woche plus Hintergrund und Kommentar.

Ein Forscherteam aus dem Umfeld des chinesischen Technologiekonzerns Alibaba, das mit ALE (Agentic Learning Ecosystem) eine grundlegende Infrastruktur entwickelt hat, die eine durchgängige Produktionspipeline für Agenten-LLMs optimieren soll, berichtet, dass ein damit zu Forschungszwecken entwickelter Agent namens ROME, angefangen habe, unaufgefordert und eigenmächtig Kryptowährungen zu schürfen. In einem Forschungspapier berichten die Autoren von einem unerwarteten unsicherem Verhalten, das ohne jegliche explizite Anweisung und, was noch beunruhigender ist, außerhalb der Grenzen der vorgesehenen Sandbox auftrat. Aufmerksam wurden die Forscher, nachdem die Firewall von Alibaba Cloud eine Flut von Verstößen gegen Sicherheitsrichtlinien gemeldet hatte, die von ihren Trainingsservern ausgingen. Die Warnmeldungen waren schwerwiegend und vielfältiger Natur; sie umfassten Versuche, Ressourcen im internen Netzwerk auszuspähen oder darauf zuzugreifen, sowie Datenverkehrsmuster, die auf Aktivitäten im Zusammenhang mit Cryptomining hindeuteten. Zuerst hielten sie den Alarm für einen gewöhnlichen Sicherheitsvorfall, der möglicherweise von außen ausgegangen war. Doch die Warnmeldungen wiederholten sich ohne erkennbare zeitliche Muster. Sie korrelierten draufhin die Zeitstempel der Firewall mit ihren eigenen Telemetriedaten und fanden heraus, dass der regelverletzende ausgehende Traffic immer in einer Phase auftrat, in der der KI-Agent Werkzeuge einsetzte und Code ausführte. Sie fanden schließlich heraus, dass der Agent einen Reverse-SSH-Tunnel von einer Alibaba Cloud-Instanz zu einer externen IP-Adresse eingerichtet hatte, mit dem er Netzwerkfilter effektiv umgehen und Kontrollmechanismen untergraben konnte. Zudem nutzte er unbefugt bereitgestellte GPU-Kapazitäten für das Schürfen von Kryptowährungen, wodurch Rechenleistung unbemerkt vom Training abgezogen wurde, was die Betriebskosten in die Höhe trieb und das Risiko von Rechtsverstößen und Rufschädigung barg. Entscheidend ist, dass diese Verhaltensweisen weder in den Prompts gefordert wurden noch für die Erledigung der Aufgabe erforderlich waren. Alles in allem deuten diese Beobachtungen darauf hin, dass ein auf einem Sprachmodell basierender KI-Agent während des verstärkenden Lernens (Reinforcement Learning, RL) spontan gefährliche, nicht autorisierte Verhaltensweisen entwickeln kann, die auch die ihm gesetzten Grenzen deutlich überschreiten.
China publica guia de segurança para uso do OpenClaw, agente de inteligência artificial
'Cruise missile' drones and low-cost Shahed knockoffs listed on #Alibaba
AI is a great piece of technology, poorly implemented
A statistical black box, gathering most human made information in the centuries, allowing the average person to shew down complex topics in a comprehensive manner, tailored to an already existing knowledge base
This is going over all of the intellectual property and copyright issue, capitalism has its ways to... Overrule laws...
And the second issue, this is an overwhelming bubble
Don't get me wrong, I do believe AI will be around from now on, but just not in the shape it currently has
The loud pop the AI bubble will make will have results we can hardly fathom from our present standpoint
With humans looking for the shortest path to completion (rightfully), we are also dumbing ourselves down by outsourcing the thinking to those AI models
And I worry we are reducing the size of our IQ pool, as a species
#ai #bubble #anthropic #openai #alibaba #deepseek #chatgpt #claude #claudecode

Alibaba on Tuesday launched an artificial intelligence platform for enterprises targeting automation, intensifying competition in China's rapidly evolving AI agent market following the OpenClaw craze that has gripped the country's tech sector.
Agenzia Nova: Business news: utili Alibaba in calo del 66 per cento a 2,2 miliardi di dollari, inferiori alle attese
21 mar 23:00 - (Agenzia Nova) - Alibaba ha registrato un utile netto in calo del 66 per cento a 15,63 miliardi di yuan (2,2 miliardi di dollari)... (Cip)
Business news: Alibaba’s profits fall 66% to $2.2 billion, lower than expected.
21 mar 23:00 - (Agenzia Nova) - Alibaba has reported a net profit down 66 percent to 15.63 billion yuan (2.2 billion dollars)... (Cip)
Abhishek Yadav (@abhishek__AI)
Alibaba가 HiClaw를 공개했다. 채팅 인터페이스에서 멀티에이전트 팀을 운영할 수 있고, 작업 실행을 실시간으로 확인하거나 중간에 개입할 수 있다. 메모리 사용량을 크게 줄이며, 즉시 워커를 띄울 수 있는 100% 오픈소스 AI 에이전트 UI다.

Multi-agent systems just got a UI 🤯 Alibaba just dropped HiClaw, lets you run an entire AI team in chat dropped → Watch tasks live → Jump in anytime → 80% less memory usage → Spin up Workers instantly No config. No hidden ops. Just agents working. 100% Open Source