heise online

Anthropic-KI Mythos: Dringende Warnung an US-Banken, BSI erwartet Umwälzungen

Anthropics neue KI Mythos sorgt für Aufregung. In den USA wurden die Chefs der systemrelevanten Banken einbestellt, hier erwartet das BSI weitreichende Folgen.

https://www.heise.de/news/Anthropic-KI-Mythos-Dringende-Warnung-an-US-Banken-BSI-erwartet-Umwaelzungen-11251450.html?wt_mc=sm.red.ho.mastodon.mastodon.md_beitraege.md_beitraege&utm_source=mastodon

#Anthropic #BSI #Cybersecurity #IT #KünstlicheIntelligenz #Sicherheitslücken #Wirtschaft #news

Anthropic-KI Mythos: Dringende Warnung an US-Banken, BSI erwartet Umwälzungen

Anthropics neue KI Mythos sorgt für Aufregung. In den USA wurden die Chefs der systemrelevanten Banken einbestellt, hier erwartet das BSI weitreichende Folgen.

heise online
Apr 10 at 4:56amWeb
Show threadAhörnchen2d ago
@heiseonline Das war ne großartige Idee mit diesem KI-Krams. Wirklich, extrem großartig. 🙈
Show threadsuzune2d ago

@heiseonline Ich finde das sehr gut, dass Sicherheitslücken schneller gefunden werden können. Es wurde auch an anderen Stellen bestätigt, dass hier LLMs einen guten Job leisten.

Das könnte eines der wenigen Fachgebiete sein, welches einen echten Nutzen für LLMs hat.

Show threadsecid 🇩🇪2d ago
@nakal @heiseonline
... bis auf die Tatsache, dass die KI selbst die größte Sicherheitslücke ist.
In den allermeisten Fällen ist KI exter gehostet und überträgt alle erreichbaren Daten "nach Hause".
Show threadsuzune2d ago

@secid @heiseonline Das macht ja nicht viel, wenn es um Sicherheitslücken geht. Diese sollten sowieso öffentlich sein, weil Security by Oscurity keine Lösung ist.

Zudem gibt es keine Software, die sicher vor Sicherheitsforschern ist. Nur weil etwas Closed Source ist, wird es nicht plötzlich undurchdringlich.

Alles an Software ist öffentlich, so oder so.

Show threadsecid 🇩🇪2d ago
@nakal @heiseonline Es geht nicht um die Sicherheitslücken, die die KI findet, sondern darum, das der KI-Anwender - Firmen wie Privatleute - sich durch Nutzung der KI gegenüber dem Betreiber der KI bis auf das Unterhemd und weiter ausziehen.
Damit die KI feststellen kann, ob irgendwo ein Datenleck ist, muss man ihr in der Regel Zugriff auf die zu schützenden Daten geben, was ein Dazenleck darstellt.
Show threadsuzune2d ago
@secid @heiseonline Es sind aber zwei verschiedene Sachen. Auf einer Seite sollte die Unternehmensführung Handhabung der Daten festlegen und die IT technische Maßnahmen für Kommunikation implementieren. Auf der anderen Seite ist feststellbar, dass LLMs gute Arbeit bei der Findung von Sicherheitslücken machen.
Show threadsecid 🇩🇪2d ago
@nakal @heiseonline
Richtig, security by obscurity ist ein schwacher Ansatz. Code-Review (auch) durch KI ist vertretbar und, wenn verantwortlich eingesetzt sogar gut.
Vollschutz durch KI mit Angriffs- und Datenleckerkennung als Service ist m.E. eher ein Paradox.
Show threadsecid 🇩🇪2d ago
@heiseonline
Ich würde mir wünschen, dass wir in der IT ähnlich wie bei unseren Lebensmitteln vorgehen. Neue Techniken sollten, bevor sie der Allgemeinheit z.B. durch Behörden aufgezwungen werden, ihre Unschädlichkeit und Sicherheit nach strengen Kriterien schlüssig beweisen.
Den derzeitigen Ansatz - SW und IT-Systeme werden als sicher angesehen bis das Gegenteil bewiesen ist, was dann oft noch ignoriert und heruntergespielt wird, sehe ich als unverantwortlich und gefährlich an.
#Cybersicherheit