Intelligence amplification - Wikipedia

Galactica’s dis-assemblage: Meta’s beta and the omega of post-human science - AI & SOCIETY

Released mid-November 2022, Galactica is a set of six large language models (LLMs) of different sizes (from 125 M to 120B parameters) designed by Meta AI to achieve the ultimate ambition of “a single neural network for powering scientific tasks”, according to its accompanying whitepaper. It aims to carry out knowledge-intensive tasks, such as publication summarization, information ordering and protein annotation. However, just a few days after the release, Meta had to pull back the demo due to the strong hallucinatory tendencies or underwhelming performances of the model. This article aims to study, through a critical threefold argument, the potential impacts of LLMs once deployed in the scientific value chain. Our first argument is a technical one. By examining the technicity of Galactica, it is possible to explain the descripancies between its promotional corporate discourse and abysmal outputs. Second, by going back to debates in both computer science and computational philosophy on the automation of abduction, we argue from the epistemological front that LLMs indeed cannot produce strong abductions and, therefore, claims about the automation of hypothesis generation remains chambering. Finally, our third argument is a sociological one. By conceptualizing the scientific field through Nancy Katherine Hayles’ cognitive assemblage theory, we aim to outline the potential steering of science by LLMs, mainly through information ordering. The core of our argument rests on the assertion that excessive control on information risks contravening a certain serendipitous aspect inherent to scientific discoveries.

LeWorldModel: Stable End-to-End Joint-Embedding Predictive Architecture from Pixels

End-to-end joint-embedding predictive architecture from pixels.

Yann LeCun über sein KI-Startup: „Ami Labs konzentriert sich auf die nächste Generation“

Die KI-Branche geht laut Yann LeCun in die falsche Richtung, deshalb will er es mit seinem eigenen Startup anders machen.

Berühmter LLM-Skeptiker holt Rekord-Finanzierung

Yann LeCun, KI-Pionier, Touring-Preisträger („Nobelpreis für KI“) und ehemaliger Chefwissenschaftler bei Meta hat für sein eigenes Start-up AMI Labs (Advanced Machine Intelligence) eine Anschubfinanzierung in der für Europa einmaligen Höhe von 890 Millionen Euro eingeworben. Nun werde man in den nächsten Wochen „großartige KI-Talente einstellen, die von der Vision und der Reise begeistert und motiviert sind“, so LeCun gegenüber dem Handelsblatt. Man sei „bestrebt, das weltweit bestmögliche Team aufzubauen“. Die Kapitalgeber bewerten die 2025 gegründete Firma mit etwa drei Milliarden Euro. Besonders der alternative Ansatz LeCuns ist für sie offenbar attraktiv. LeCun ist nämlich davon überzeugt, dass LLMs nicht der Weg hin zu einer Superintelligenz sein können. Das war auch der Grund für Spannungen zwischen ihm und Mark Zuckerberg bei Meta, die schließlich zu seinem Ausscheiden dort beitrugen. Stattdessen will Ami Labs sogenannte Weltmodelle entwickeln, die der KI helfen sollen, den Zustand ihrer Umgebung zu erkennen und die Folgen von Handlungen vorauszuberechnen. Das würde insbesondere Industrierobotern helfen, sich autonom zu bewegen und könnte die nächste Stufe der KI-Revolution prägen. Sein Führungsteam rekrutiert LeCun vor allem aus Ex-Meta-Mitarbeitern. Während er selbst den Vorsitz des Verwaltungsrats übernimmt, soll Alexandre LeBrun CEO werden, seines Zeichens früherer Chefingenieur in Metas-KI-Forschung. Das operative Geschäft soll Laurent Solly verantworten, der bei Meta Vice President für Europa war. Und auch die Chefposten in der Forschung hat LeCun mit zwei ehemalige Meta-Wissenschaftler besetzt: Chefwissenschaftler wird Saining Xie und Forschungschefin Pascale Fung.

Yann LeCun über sein KI-Startup: „Ami Labs konzentriert sich auf die nächste Generation“

Die KI-Branche geht laut Yann LeCun in die falsche Richtung, deshalb will er es mit seinem eigenen Startup anders machen.