Anthropic-KI Mythos: Dringende Warnung an US-Banken, BSI erwartet Umwälzungen

Anthropics neue KI Mythos sorgt für Aufregung. In den USA wurden die Chefs der systemrelevanten Banken einbestellt, hier erwartet das BSI weitreichende Folgen.

https://www.heise.de/news/Anthropic-KI-Mythos-Dringende-Warnung-an-US-Banken-BSI-erwartet-Umwaelzungen-11251450.html?wt_mc=sm.red.ho.mastodon.mastodon.md_beitraege.md_beitraege&utm_source=mastodon

#Anthropic #BSI #Cybersecurity #IT #KünstlicheIntelligenz #Sicherheitslücken #Wirtschaft #news

Anthropic-KI Mythos: Dringende Warnung an US-Banken, BSI erwartet Umwälzungen

Anthropics neue KI Mythos sorgt für Aufregung. In den USA wurden die Chefs der systemrelevanten Banken einbestellt, hier erwartet das BSI weitreichende Folgen.

heise online

@heiseonline Ich finde das sehr gut, dass Sicherheitslücken schneller gefunden werden können. Es wurde auch an anderen Stellen bestätigt, dass hier LLMs einen guten Job leisten.

Das könnte eines der wenigen Fachgebiete sein, welches einen echten Nutzen für LLMs hat.

@nakal @heiseonline
... bis auf die Tatsache, dass die KI selbst die größte Sicherheitslücke ist.
In den allermeisten Fällen ist KI exter gehostet und überträgt alle erreichbaren Daten "nach Hause".

@secid @heiseonline Das macht ja nicht viel, wenn es um Sicherheitslücken geht. Diese sollten sowieso öffentlich sein, weil Security by Oscurity keine Lösung ist.

Zudem gibt es keine Software, die sicher vor Sicherheitsforschern ist. Nur weil etwas Closed Source ist, wird es nicht plötzlich undurchdringlich.

Alles an Software ist öffentlich, so oder so.

@nakal @heiseonline Es geht nicht um die Sicherheitslücken, die die KI findet, sondern darum, das der KI-Anwender - Firmen wie Privatleute - sich durch Nutzung der KI gegenüber dem Betreiber der KI bis auf das Unterhemd und weiter ausziehen.
Damit die KI feststellen kann, ob irgendwo ein Datenleck ist, muss man ihr in der Regel Zugriff auf die zu schützenden Daten geben, was ein Dazenleck darstellt.
@secid @heiseonline Es sind aber zwei verschiedene Sachen. Auf einer Seite sollte die Unternehmensführung Handhabung der Daten festlegen und die IT technische Maßnahmen für Kommunikation implementieren. Auf der anderen Seite ist feststellbar, dass LLMs gute Arbeit bei der Findung von Sicherheitslücken machen.