#KISysteme haben schon längst Einzug in deinen Uni-Alltag gefunden. Was ist beim Erstellen #wissenschaftlicheArbeiten zugelassen und was nicht? Wie kann ich die besten #Prompts für die besten Ergebnisse schreiben?
Auf diese Fragen bietet dir die online-Vortragsreihe der #TU9Bibliotheken einige Antworten auf das #wissenschaftlichesArbeiten mit #kunstlicheintelligenz
Die Vorträge sind kostenlos und finden jeweils Dienstag, von 15-16 Uhr über Zoom statt.
KI-Systeme meistern zunehmend komplexe Softwareaufgaben – Zeithorizonte werden neu bewertet
Aktuelle KI-Modelle übertreffen bei bestimmten Klassen von Softwareaufgaben die bisherigen Erwartungen merklich. Das ist die zentrale Einschätzung von Ryan Greenblatt, KI-Sicherheitsforscher bei Redwood Research, der seine Prognosen zu Leistung und Entwicklungsgeschwindigkeit von KI-Systemen zuletzt erheblich angepasst hat.
KI-Überwachung in Echtzeit: Wie synchrone Monitore Sicherheitsvorfälle verhindern
Viele KI-Steuerungskonzepte setzen auf Überwachungsmodelle, die Aktionen nicht vertrauenswürdiger Systeme in Echtzeit prüfen. Entscheidend ist dabei, ob ein Monitor lediglich protokolliert – oder aktiv eingreift, bevor Schaden entsteht.
Erfahren Sie, wie Sie Sicherheitsvorfälle vermeiden können: Echtzeit-KI und synchrone Überwachung im Praxiseinsatz.
Strukturelle Metadaten als Angriffsfläche: Wie KI-Systeme aus Dokumentgliederungen Inhalte rekonstruieren
Die beschriebene Schwachstelle betrifft nicht einen einzelnen Anbieter oder eine bestimmte Modellklasse, sondern tritt bei Systemen von Anthropic, OpenAI und Google gleichermaßen auf. Für Unternehmen, die RAG-basierte KI-Systeme mit vertraulichen Dokumenten betreiben, ergibt sich daraus unmittelbarer Handlungsbedarf.
Neue Forschung zeigt, wie LLMs aus Metadaten Inhalte erstellen können und wo diese Angriffsflächen liegen. Informieren Sie sich jetzt.
Google dokumentiert zunehmenden Missbrauch von KI-Systemen durch Cyberkriminelle
Entdecken Sie die Risiken von KI in Cyberangriffen. Google beleuchtet die Nutzung von Gemini AI durch Hackergruppen weltweit.
Wenn KI-Systeme zu vertrauenswürdig erscheinen: Das unterschätzte Risiko der Normalisierung
LLMs sind von Natur aus unzuverlässige Komponenten. Ihre Ausgaben sind weder deterministisch noch konsistent vorhersagbar. Dennoch zeigt sich in der Praxis, dass Sicherheitsmechanismen – wie Zugriffsbeschränkungen oder Eingabebereinigung – häufig erst nach der Modellausgabe greifen oder ganz fehlen.
Wie die KI-Branche systematisch Sicherheitsrisiken normalisiert und warum unkontrollierte LLM-Ausgaben in Agentensystemen zum Problem werden können.
OWASP veröffentlicht Security-Framework für autonome KI-Systeme
Damit reagiert die Organisation auf die veränderte Bedrohungslage durch KI-Agenten, die zunehmend in Produktivumgebungen zum Einsatz kommen.
https://www.all-about-security.de/owasp-veroeffentlicht-security-framework-fuer-autonome-ki-systeme/
Das OWASP GenAI Security Project präsentiert eine Top-10-Liste für KI-Anwendungen. Entdecken Sie die neue Sicherheitsstrategie für autonome Systeme.
KI-Prompt-Injection: Warum diese Bedrohung nie vollständig eliminierbar ist
Die Cybersicherheitsbehörde des Vereinigten Königreichs kommt zu einem ernüchternden Schluss: Angriffe mittels Prompt-Injection auf KI-Systeme können nach derzeitigem Kenntnisstand niemals komplett verhindert werden.
#ki #Prompt-Injection #KISysteme #cybersecurity
Britische Cybersicherheitsbehörde NCSC warnt: Prompt-Injection-Angriffe auf KI-Systeme lassen sich nicht verhindern wie SQL-Injection. Risikominimierung statt vollständiger Schutz ist das Ziel.
UB Braunschweig
AllAboutSecurity
Donau2Space.de
Otto-von-Guericke-Universität Magdeburg