Forscher: KI-Systeme müssen lernen, autonom zu lernen

Die führenden KI-Forscher Yann LeCun (Universität New York), Emmanuel Dupoux und Jitendra Malik (beide unter anderem Facebook Artificial Intelligence Research (FAIR) bei Meta AI) haben ein Forschungspapier  veröffentlicht, das einen Weg zu starker KI (AGI) vorschlägt, der sich von dem heute dominierenden Ansatz gravierend unterscheidet, das Ziel lediglich durch stetige Skalierung der Rechenleistung zu erreichen. Stattdessen glauben die von der Biologie inspirierten Forscher, dass der Schlüssel zum Erfolg autonomes Lernen aus der Interaktion mit der Umwelt ist. Einleitend vergleichen sie eine KI mit einem Kleinkind, das ein neues Spielzeug erhalten hat. Das Kind lernt durch Ausprobieren, durch Beobachtung von Gleichaltrigen, durch die Hinweise seiner Eltern, oder durch Vorstellung, indem es sich erträumt, was sich mit dem Spielzeug anstellen ließe. Die KI lernt nach Abschluss ihres Trainings gar nichts mehr und wenn ihr Verhalten nicht zu ihrer Umgebung passt, dann muss sie von menschlichen Experten neu trainiert werden. Außerdem sind die verschiedenen Lernmethoden, zwischen denen das Kind hin und her wechselt, bei ihr in starren Paradigmen verkapselt (überwachtes Lernen, unüberwachtes Lernen, Reinforcement-Lernen), die jeweils eine speziell darauf zugeschnittene Datenaufbereitung und Trainingsrezepte brauchen. Kurz: Bei der KI ist das Lernen auf die menschlichen Experten ausgelagert, statt wie beim Kind aus eigenem Antrieb (intrinsisch) zu erfolgen. In ihrem Beitrag gehen die Forscher von der Überlegung aus, dass autonomes Lernen als eine Kernkompetenz betrachtet werden sollte, die für die Entwicklung zuverlässiger KI-Systeme, die in der realen Welt eingesetzt werden können, unerlässlich ist. Umgekehrt gehen sie davon aus, dass die Entwicklung anpassungsfähiger KI-Systeme der Kognitionswissenschaft zugutekommen kann, indem sie quantitative Modelle liefert, mit denen sich langjährige Debatten über das Wesen und die Ursprünge der menschlichen Intelligenz angehen lassen. Dafür identifizieren die Studienautoren drei konzeptionelle und technische Hindernisse, die die Entwicklung des autonomen Lernens bislang eingeschränkt haben, und schlagen mögliche Lösungsansätze vor, um sie zu überwinden. Das erste Hindernis ist die Zerplitterung der Lernansätze in verschiedene Gebiete, die eine Integration in ein übergreifendes Framework erschwert. Abhilfe soll hier die Erkenntnis schaffen, dass es mit dem Lernen durch Beobachtung und dem Lernen durch Probieren zwei grundlegende Verfahren gibt, deren Zusammenspiel es zu untersuchen gilt. Das zweite Hindernis ist die Externalisierung des Lernens in der heutigen KI. Um diesem Problem zu begegnen, schlagen die Autoren eine Metasteuerungsarchitektur vor, die den Informationsfluss zwischen den Lernkomponenten koordiniert und es ermöglicht, die üblicherweise manuell durchgeführten Lern- und Datenfilterungsvorgänge automatisch zu reproduzieren. Das soll den Weg zu höherstufigen Lernmethoden eröffnen wie dem Lernen durch Kommunikation oder dem Lernen durch Vorstellung. Das dritte Hindernis ist das Fehlen effektiver und skalierbarer Methoden für den Aufbau einer solchen Architektur. Hier wird ein evolutionär inspirierter zweistufiger Optimierungsansatz vorgeschlagen, bei der die erwähnte Metasteuerung (System M), das Lernen durch Beobachtung (System A) und das Lernen durch Ausprobieren (System B) koordiniert und den im Moment jeweils passendsten Ansatz auswählt.

Open Source in der Verwaltung rechtlich gestärkt

Software-Beschaffung für öffentliche Verwaltungsbehörden sind durch die EVB-IT geregelt. Dank aktualisierter Musterverträge können Behörden künftig genauso einfach Open-Source-Software beschaffen wie proprietäre Hard- oder Software. Wenn Behörden in Bund, Ländern oder Kommunen IT-Dienstleistungen, darunter Hard- sowie Software, kaufen wollen, ist das durch die sogenannten EVB-IT geregelt. Das steht kurz für Ergänzende Vertragsbedingungen für die Beschaffung von IT-Leistungen, und dient dazu, den Beschaffungsprozess zu erleichtern und vereinheitlichen. Bisher waren die Vertragsvorlagen der EVB-IT auf proprietäre Software ausgelegt. Wer dennoch Open-Source-Software kaufen wollte, musste eigenhändig die Vertragsvorlagen abändern. Das bringt zusätzlichen Arbeitsaufwand und teilweise rechtliche Unsicherheit mit sich. Der IT-Planungsrat hat nun die Vorlagen so überarbeitet, dass Behörden mit dem selben Formular Open- oder Closed-Source-Software beschaffen können. Dafür steht eine Ankreuzmöglichkeit im Vertragsmuster, bei der die Behörden gezielt eine Beschaffung von Open-Source-Software vereinbaren können. Die Vorlage „EVB-IT Erstellung“, die die Anpassung von Standardsoftware wie auch die Entwicklung von Individualsoftware betrifft, geht sogar noch einen Schritt weiter. Hier ist nun Open Source als Standard für die Entwicklung neuer Software vorgesehen. Ebenfalls soll Open-Source-Software bei OpenCoDE bereitzustellen und eine Software Bill of Materials zu vereinbaren sein. Die aktualisierten Vorlagen sind bereits auf der Webseite des Bundesministeriums für Digitales und Staatsmodernisierung verfügbar. Noch nicht aktualisiert sind die Vorlagen „EVB-IT Überlassung Typ B“ (zeitweise Überlassung von Standardsoftware) sowie die „EVB-IT Cloud“, die Cloudleistungen regelt. Laut Open Source Business Alliance ist eine Aktualisierung dieser Vorlagen im Verlauf des Jahres 2026 geplant.

GrapheneOS will Altersverifikation nicht unterstützen

In einigen Ländern und Regionen wird eine Altersverifikation bei der Einrichtung eines Betriebssystems Pflicht. GrapheneOS wird das ignorieren. Der Hersteller des Android-Forks GrapheneOS will geplante und bereits existierende Altersverifikationen bei der Einrichtung von Betriebssystemen ignorieren. Wie die GrapheneOS Foundation erklärt, werde man es akzeptieren, wenn aufgrund entsprechender Gesetze GrapheneOS-Geräte in bestimmten Märkten nicht verkauft werden könnten. GrapheneOS ist ein Android-Fork, der auf AOSP basiert und auf Datenschutz und Sicherheit ausgelegt ist. Dazu gehören die Möglichkeit des Sandboxings sowie Änderungen bei den Berechtigungen. „GrapheneOS wird weiterhin für jeden weltweit nutzbar sein, ohne dass persönliche Daten, eine Identifizierung oder ein Konto erforderlich sind“, erklärt die GrapheneOS Foundation. „Wenn GrapheneOS-Geräte aufgrund der geltenden Vorschriften in einer Region nicht verkauft werden dürfen, dann soll es so sein.“ Kooperation mit Motorola ist geplant Die GrapheneOS-Foundation verkauft selbst keine Smartphones, es gibt aber verschiedene Händler, die Geräte mit dem Betriebssystem anbieten. Kürzlich kündigten die Entwickler zudem eine Kooperation mit Motorola an, in deren Rahmen Motorola-Smartphones direkt mit GrapheneOS erscheinen sollen. Im US-Bundesstaat Kalifornien müssen Nutzer ab dem 1. Januar 2027 bei der Installation von Betriebssystemen ihr Alter angeben. Eine wirkliche Verifikation wird nicht stattfinden, das Alter wird aber weitergeleitet und etwa Entwicklern zur Verfügung gestellt. Bei der Installation von Apps könnte dann der Download blockiert werden, falls das Alter nicht passt. In Brasilien trat ein vergleichbares Gesetz am 17. März 2026 in Kraft. Die Strafen können bis zu zehn Prozent des Umsatzes eines Unternehmens in Brasilien betragen – oder 50 Millionen Real. Das sind umgerechnet über 8 Millionen Euro.   Dieser Artikel ist zuerst bei Golem.de erschienen.

Kultur braucht Freiheit! Freiheit braucht Kultur! - Rücktritt Weimer jetzt!

Es ist ein Skandal, der uns alle angeht: Drei unabhängige Buchhandlungen, Golden Shop (Bremen), Rote Straße (Göttingen) und Zur schwankenden Weltkugel (Berlin), wurden nachweislich aus politischen Gründen von der Auszeichnung des Deutschen Buchhandlungspreises ausgeschlossen. Kulturstaatsminister Wolfram Weimer griff eigenmächtig in das Auswahlverfahren ein und strich diese Buchläden von der Liste, gegen den Willen der unabhängigen Jury. Noch schlimmer: Sein Ministerium belog die betroffenen...

Britannica und Merriam-Webster verklagen OpenAI

Der Herausgeber der weltberühmten Encyclopaedia Britannica und sein Ableger, der Wörterbuchverlag Merriam-Webster verklagen OpenAI wegen Urheberrechtsverletzung durch wörtliche Wiedergabe von zehntausenden Lexikon- und Wörtbucheinträgen auf Schadenersatz und Unterlassung. Zusätzlich soll ChatGPT, das LLM der Beklagten, bei halluzinierten Antworten fälschlicherweise die Encyclopaedia Britannica als Quelle angegeben haben. Die Kläger machen geltend, dass ihnen Einnahmen durch Abomodelle und Werbung entgehen, wenn die Nutzer ChatGPT anstelle ihrer Nachschlagewerke nutzen. Das wiederum sei nur möglich, weil OpenAI unrechtmäßig die qualitätvollen und vertrauenswürdigen Inhalte nutzen, für deren Produktion die Kläger zahlreiche Forscher, Autoren, Editoren und Content-Produzenten bezahlt haben. Darüber hiunaus stelle die fälschliche Zuschreibung der Britannica als Quelle von halluzinierten Auskünften eine Verletzung der Markenrechte der Kläger dar und schädige ihren Ruf. Gerade in den USA sind momentan zahlreiche ähnlich gelagerte Fälle bei Gerichten anhängig.

Offener Brief warnt vor politischem Druck auf Hochschulen

Kritik am „Digital Omnibus“: OSBA sieht EU-Datenschutz aufgeweicht

Die geplanten Änderungen der EU-Kommission am sogenannten „Digital Omnibus“ stoßen auf Kritik bei der Open Source Business Alliance (OSBA).

Phishing-Kampagne nimmt Signal-Nutzer ins Visier

Der Messenger-Dienst Signal warnt vor einer Reihe gezielter Phishing-Angriffe, bei denen Konten einzelner Nutzer übernommen wurden.