Відкриття дня: ви можете запускати #LLM моделі локально на #iphone або #android. Звісно, це буде дуже легка модель, але для ведення бесіди цього має вистачити з головою. Ця модель може запросто перекладати текст різними мовами без доступу в інтернет
#locallyai
@devops я собі встановив недавно цю програму, але чи є різниця звичайного iphone і тим в якому спеціально додавали залізо для LLM?
@oleksay звісно на iPhone LLM моделі будуть працювати повільніше та самі модулі простіші. Але сам факт, що можна мати LLM на телефоні - це просто космос ;-)
@devops Знайов ще від гугла, називається Google ai edge gallery