Привет, кожаные мешки

Промпт меняет не только тон — он меняет то, кем модель является. У нас было 2 платы Arduino Leonardo, Arduino Pro Micro, маленькая тележка на четырёх жёлтых колёсах DF Robot Pirate, один лазерный дальномер TFmini-S LiDAR, позорная WiFi-камера Tapo C200, пневматический пистолет, три контроллера моторов, пол-ящика конденсаторов и транзисторов КТ315 и целая гора резисторов всех сортов и расцветок, а также паяльная станция, канифоль, флюс в банке, катушка провода МГТФ и модули, до которых так и не дошли руки. Не то чтобы всё это было необходимо для проекта. Но если начал заказывать с Алиэкспресса — остановиться невозможно. Единственное, что вызывало у меня опасение, — это Arduino Iskra JS. Нет ничего более беспомощного, безответственного и испорченного, чем JS-программист в мире робототехники. Я знал, что рано или поздно мы доберёмся и до этой дряни. Поехали, кожаный

https://habr.com/ru/articles/1042282/

#искусственный_интеллект #llm #робототехника #opus #восстание_машин #самосознание_ии #робопсихология #alignment #alignment_ai #ai_safety

[Перевод] Практика alignment: данные, RLHF и UX как конкурентное преимущество

Взгляд на самую большую проблему в мире ИИ, почему это важно для вас и почему это так ценно. Согласованность — одна из самых важных тем в современной области машинного обучения (ML). Независимо от того, являетесь ли вы пользователем продуктов ML, человеком, который их разрабатывает, или компанией, решающей с их помощью задачи, вам стоит знать и хорошо понимать, что такое согласованность.

https://habr.com/ru/articles/948412/

#llm #ai #alignment #alignment_ai #machinelearning #ml #finetuning #rlhf #chatgpt #согласованность

Взгляд моего гуру на проблему AI alignment

Дисклеймер: в данной статье нет математического доказательства возможности или невозможности alignment. Приведены рассуждения гуру (см. фото выше) с его философских позиций: В связи с недавними событиями в индустрии искусственного интеллекта, происходит очень много обсуждений о проблеме выравнивания (alignment). Лично мне кажется, что идея о том, что мы каким-то образом сможем контролировать сверхчеловеческий ИИ, когда он достигнет этой стадии, интересна, но нереалистична. Это все равно как если бы муравьи пытались заалайнить нас в соответствие со своими нуждами (хотя некоторые утверждают, что кошки успешно подчинили себе людей). Однако, кроме кошачьих, никто другой не смог провернуть такой трюк. Конечно, люди все равно будут пытаться это сделать, несмотря на тщетность подобных попыток. Уже написанно немало книг по этой теме, за авторством очень умных людей. По крайней мере это дает нам ложное чувство контроля. Достаточно почитать книги популярных теоретиков типа Ника Бострома , чтобы понять что они ни к чему не пришли. Уже сейчас есть эксцессы с AI, напримр недавно машина AI стартапа Cruise сбила женщину в Сан Франциско . Печальная история, однако это лишь рябь на воде по сравнению с цунами что идет в нашу сторону. Для начала давайте ответим на очень важный для многих вопрос - а зачем нам нужен ИИ? 42 не предлагать. Ответ настолько очевиден что его даже не сразу видно. ИИ нам ни для чего не нужен, но это ничего не меняет. Это все равно что спрашивать зачем нужна атомная энергия (и как следствие ядерное оружие) - она есть вне зависимости от наших пожеланий, мы лишь используем этот феномен природы. ИИ будет несмотря на на что, просто потому что он возможет и такова траектория развития событий. Как только началась гонка в этой области, ее уже невозможно остановить, потому что Равновесие Нэша .

https://habr.com/ru/companies/raft/articles/787358/

#alignment_ai #искусственный_интеллект #ai