🧠 TripleNet: Simple architecture that beats SOTA in Continual Learning
Problem: Neural networks forget old tasks when learning new ones (catastrophic forgetting).
Solution: Three parallel paths with different activation functions:
• Yang path (ReLU) — fast adaptation
• Yin path (Tanh) — long-term stability
• To path (LeakyReLU) — adaptive balance
Results on Split MNIST (5 tasks, 1 epoch per task):
• MLP: 49.2%
• EWC: 61%
• Hard ASH (SOTA 2024): 78.3%
• TripleNet: 79.58% 🏆
TripleNet — российская нейросеть, которая помнит всё
Разработал архитектуру, которая решает проблему катастрофического забывания.
Результаты на Split MNIST (5 задач, 1 эпоха):
· Обычный MLP: 49%
· EWC (лучший мировой метод): 61%
· Hard ASH (SOTA 2024): 78.3%
· TripleNet: 79.58%
Код работает, превосходит лучшие западные аналоги.
🧠 TripleNet: Simple architecture that beats SOTA in Continual Learning
Problem: Neural networks forget old tasks when learning new ones (catastrophic forgetting).
Solution: Three parallel paths with different activation functions:
• Yang path (ReLU) — fast adaptation
• Yin path (Tanh) — long-term stability
• To path (LeakyReLU) — adaptive balance
Results on Split MNIST (5 tasks, 1 epoch per task):
• MLP: 49.2%
• EWC: 61%
• Hard ASH (SOTA 2024): 78.3%
• TripleNet: 79.58% 🏆
TripleNet — российская нейросеть, которая помнит всё
Разработал архитектуру, которая решает проблему катастрофического забывания.
Результаты на Split MNIST (5 задач, 1 эпоха):
· Обычный MLP: 49%
· EWC (лучший мировой метод): 61%
· Hard ASH (SOTA 2024): 78.3%
· TripleNet: 79.58%
Код работает, превосходит лучшие западные аналоги.
🧠 ✨ NEURO-BREAKTHROUGH ✨
Взломали мозг для ИИ: 92% retention vs 45%
Решили катастрофическое забывание с биологическим дизайном
Три parallel pathways: Yang⚡️ + Yin🕳️ + To⚖️ = ❤️
Скоро код. Будьте в курсе 🔥
🧠 ✨ NEURO-BREAKTHROUGH ✨
Взломали мозг для ИИ: 92% retention vs 45%
Решили катастрофическое забывание с биологическим дизайном
Три parallel pathways: Yang⚡️ + Yin🕳️ + To⚖️ = ❤️
Скоро код. Будьте в курсе 🔥