@wiesodennblos @purze1 @rosaluxstiftung Da muß ich widersprechen, denn es ist ganz offensichtlich möglich, Intelligenz in komplexen informationsverarbeitenden Systemen zu entwickeln, sonst wären tierische Nervensysteme wie unseres auch nicht intelligent. Das wirkliche Problem mit den aktuellen Ansätzen im Maschinenlernen, und überhaupt in der Mainstream-KI seit ihren Anfängen in den späten 1950ern, ist ganz einfach, daß man versucht, die Obergeschosse der Intelligenz nachzubauen, bevor man die Fundamente hat. Man bringt der Maschine bei, beeindruckende Leistungen des menschlichen Geistes zu imitieren oder gar zu übertreffen, aber man vernachlässigt die wesentlich wichtigeren Intelligenzleistungen, welche wir kaum als "intelligent" wahrnehmen, weil jede Maus und jeder Frosch und jeder Vogel das kann.
Es ist nicht so, daß Sprachmodelle oder Bilderkennung oder Spracherkennung oder Videosynthese oder all diese Dinge überhaupt nicht intelligent sind, aber sie sind jeweils nur ein winziger isolierter Bruchteil der Intelligenz eines lebenden Tiers wie etwa eines Menschen. Daß speziell die Sprachmodelle zum Aushängeschild der KI geworden sind, liegt daran, daß wir die Geschichtenerzähler unter den Affen sind und uns einbilden, unsere Fähigkeit, Texte zu formulieren, sei der Höhepunkt der Intelligenz, darum laufen ja auch ständig Massen von Leuten irgendwelchen begabten Rhetorikern hinterher, ob Propheten oder Demagogen.
Die wirklich beeindruckenden und noch unzureichend erforschten Intelligenzleistungen finden nicht im Bewußtsein statt und lassen sich nicht wirklich als sprachliche Argumentationskette darstellen, sondern sie finden im Unbewußten statt, sind instinktiv und nichtlinear. So ein Sprachmodell ist in etwa analog zu den Teilen unseres Gehirns, das Sprache verarbeitet, so wie ein Bilderkennungsmodell unserem Sehzentrum analog ist, aber selbst wenn bei einem Patienten das Sprachzentrum beschädigt ist durch einen Hirnschaden und er nicht mehr richtig sprechen und Sprache nicht mehr richtig verstehen kann, ist die allgemeine Intelligenz weiterhin vorhanden.

Leute machen sich auch Illusionen über die Rolle des Bewußtseins, was daran liegt, daß das Bewußtsein sich selbst Illusionen macht. Wir treffen normalerweise keine bewußten Entscheidungen, sondern Entscheidungen werden unbewußt getroffen, und das Bewußtsein nickt sie dann ab. Das Ich ist nicht der Chef im Hirn, das Ich ist nicht der Macher, sondern eher der Bundespräsident von Hirnien, dem wichtige Angelegenheiten zur Unterschrift vorgelegt werden. Zu dem Zeitpunkt, wo wir glauben, etwas tun zu wollen, haben wir in Wahrheit längst angefangen es zu tun.

@purze1 @rosaluxstiftung Bullshit. Wenn Intelligenz so toll ist, warum sind wir Menschen dann solche Arschlöcher? Intelligenz ist zuallererst gefährlich. Intelligenz beginnt auch nicht mit Menschen, mit Sprache oder mit Bewußtsein, Intelligenz ist die Fähigkeit, aus Erfahrungen zu lernen, aus dem Gelernten Abstraktionen zu bilden und sein Verhalten an die Umwelt anzupassen. Ameisen sind auch schon intelligent. Waschbären sind ausgesprochen intelligent, darum bauen sie auch soviel Scheiße. Eine Horde Paviane ist nicht deshalb gefährlich, weil sie stark sind, sondern weil sie schlau sind und Strategien entwickeln.

Die heutigen sogenannten "künstlichen Intelligenzen" sind nur Spielzeuge, die menschliche Intelligenz nachahmen und nicht wirklich intelligent sind. Wirklich beeindruckende Leistungen künstlicher Intelligenz findet man eher bei kleinen autonomen Robotern, die sich bereits ähnlich sicher und effektiv in ihrer Umwelt verhalten wie Insekten. Was wir an LLMs als "Intelligenz" wahrnehmen, steckt nicht wirklich in der Maschine, sondern in der Struktur der Sprache selbst. Die Idee, ein "Bewußtsein" zu simulieren, ist auch nicht wirklich zielführend, stattdessen muß man sich angucken, wie das Bewußtsein evolutionär entstanden ist, nicht als menschliches Bewußtsein, sondern als tierisches. Ein an Ort und Stelle festgewachsenes Tier wie ein Polyp oder eine Seepocke wird nicht viel Bewußtsein haben; selbst wenn ein Rechenzentrum noch so schlau daherquatschen kann, hat es kein Bewußtsein. Ein Bewußtsein haben Wesen, die sich in ihrer Umwelt frei bewegen und miteinander interagieren und die dabei ständig lernen und ihre Nervensysteme umbauen. Bei KI-Produkten will niemand, daß sie ständig lernen, weil sie dann unkontrollierbar werden, aber alles, was intelligent ist, ist unkontrollierbar.