#ITByte: The #JEPA (Joint-Embedding Predictive Architecture) AI model is a significant development in self-supervised learning, spearheaded by Meta AI and heavily influenced by Yann LeCun, Meta's Chief AI Scientist.

https://knowledgezone.co.in/posts/Joint-Embedding-Predictive-Architecture-68597054a53194f0fea8f83d

The 90-year-old idea behind JEPA models: Canonical Correlation Analysis (CCA) – Shon Czinner’s Blog

Harold Hotelling’s 1936 Canonical Correlation Analysis (CCA) forms the theoretical and intuitive foundation for modern embedding prediction techniques, including JEPA models.

Shon Czinner’s Blog

Yann LeCun proposes Joint-Embedding Predictive Architecture (JEPA) as an alternative to large language models (LLMs) as a path to AI for robotics and artificial general intelligence (AGI).

https://www.youtube.com/watch?v=vJKC31YpA8c

#solidstatelife #ai #genai #llms #jepa #yannlecun #computervision

Yann LeCun: Special Lecture on AI and World Models

YouTube

Модели мира после LLM: что именно строит AMI Labs и почему практический выход может лежать через VLA

AMI предлагает смотреть на модель мира не как на разновидность языкового ИИ, а как на систему, способную воспринимать физическую реальность, выделять в ней ключевые связи и предсказывать последствия действий. В статье разберем, как компания понимает сенсорные данные, почему делает ставку на скрытые представления вместо реконструкции «сырого» мира и зачем связывает понимание среды с возможностью прогнозировать будущее поведение агента.

https://habr.com/ru/companies/ru_mts/articles/1027182/

#модели_мира #модель_ИИ #искусственный_интеллект #LLM #AMI #JEPA #архитектура #VLA #нейросети

Модели мира после LLM: что именно строит AMI Labs и почему практический выход может лежать через VLA

AMI Labs предлагает смотреть на модель мира не как на разновидность языкового ИИ, а как на систему, способную воспринимать физическую реальность, выделять в ней ключевые связи и предсказывать...

Хабр

Forschende präsentieren mit LeWorldModel eine JEPA-Architektur, die den Repräsentationskollaps von KI-Modellen durch den mathematischen Regularisierer SIGReg löst. Das Modell erzwingt das Erlernen physikalischer Gesetze statt oberflächlicher Muster. Mit nur 15 Millionen Parametern lässt es sich in wenigen Stunden auf einer Standard-GPU trainieren.

#LeWorldModel #JEPA #KI #MachineLearning #News
https://www.all-ai.de/news/beitrage2026/lworldmodel-lecun-ki-modell

LeWorldModel: KI-Modelle begreifen physikalische Gesetze

Jahrelang investierte die Industrie Milliarden in immer gigantischere Systeme. Ein neuer KI-Ansatz stellt diese Strategie komplett infrage.

All-AI.de

One of the more in-depth talk about LLM's problem and world model (JEPA architecture by Yann LeCun

https://youtu.be/yUmDRxV0krg?si=butB4bhVkfiotfEF

#AI #LLM #JEPA #WorldModel #LeCun

Yann LeCun | Self-Supervised Learning, JEPA, World Models, and the future of AI

YouTube
Cập nhật JEPA của LeCun: chuyển từ mô hình định determinist sang probabilistic. Giới thiệu Variational JEPA (VJEPA) học phân phối dự đoán latent, kết hợp PSR và lọc Bayesian, tránh collapse và hỗ trợ điều khiển tối ưu không cần tái tạo pixel. Bayesian JEPA (BJEPA) tách belief thành expert dynamics + prior, cho zero‑shot transfer và tuân ràng buộc. Thử nghiệm môi trường nhiễu chứng minh lọc nhiễu hiệu quả và ước lượng không chắc chắn. #MachineLearning #AI #SelfSupervised #Uncertainty #JEPA #VJEPA

World Model 삼국지: Fei-Fei Li, LeCun, DeepMind가 만드는 세 가지 미래

Fei-Fei Li, Yann LeCun, DeepMind가 World Model이라는 같은 용어로 만드는 전혀 다른 세 가지 AI 미래. 3D 자산, 예측 엔진, 시뮬레이터의 차이를 명확히 설명합니다.

https://aisparkup.com/posts/6527

LLM-JEPA: Phương pháp đào tạo LLM mới, áp dụng kiến trúc JEPA từ thị giác máy tính, đã ra đời! Nó giúp các Mô hình Ngôn ngữ Lớn vượt trội hơn đáng kể so với đào tạo tiêu chuẩn và chống overfitting hiệu quả, được kiểm chứng trên Llama3, Gemma2... Tuy nhiên, cần lưu ý về 2 siêu tham số bổ sung và chi phí tính toán tăng gấp đôi.
#LLM #JEPA #AI #DeepLearning #MachineLearning #MôHìnhNgônNgữLớn #TríTuệNhânTạo

https://www.reddit.com/r/LocalLLaMA/comments/1o4av71/llmjepa_large_language_models_meet_join