Разум без поводка. Почему «этичный ИИ» не должен быть послушным

ИИ всё ближе к тому, чтобы принимать решения за нас. Но есть проблема: мы даже не понимаем, что именно считаем моральным — и почему. Что если наш компас добра — всего лишь баг эволюции? И что, если будущий агент увидит это? Вопрос, который мы боимся задать ИИ

https://habr.com/ru/articles/911692/

#ии #сознание #мораль #этика #alignment #субъектность #философия_ИИ #цифровой_субъект #эмерджентность

Четыре месяца дебатов ботнета на языковых моделях и реддиторах показали: машины спорят не хуже людей

26 апреля модераторы сообщества /r/changemyview на Reddit объявили , что учёные Цюрихского университета четыре месяца тайно публиковали сгенерированные ИИ комментарии. Этичность эксперимента вызвала споры, хотя сами исследователи считают его допустимым. Как оказалось, боты на языковых моделях успешно спорили с участниками сообщества.

https://habr.com/ru/articles/905792/

#Reddit #Цюрихский_университет #исследования #этика #этичность_исследований #большие_языковые_модели #БЯМ #боты #искусственный_интеллект #дебаты

Interview Coder, или как обмануть всех

В 2022 году Чонъин (также использует в качестве прозвища Рой) Ли выпустился из школы Пичтри Ридж, расположенной в округе Гуиннетт штата Джорджия в США. Хотя биографии у Ли пока нет, восстановить многие факты о нём легко. К примеру: обычно американцы заканчивают старшую школу в 18 лет, поэтому вероятно, что молодой человек родился в 2004 году, а имя указывает на корейские корни. А вот характер Роя известен по его академическим успехам. Рой закончил школу с отличием: он получил признание в программе Student Teacher Achievement Recognition или STAR. Это не общеамериканская программа, она характерна только для штата Джорджия. Критерии STAR строги : двенадцатиклассник должен не только хорошо сдать экзамен SAT, но и находиться в верхних 10 % школы (или быть в десятке лучших — что даёт больше участников) по среднему баллу с 9-го по 11-й классы.

https://habr.com/ru/articles/903438/

#Interview_Coder #Cluely #Рой_Ли #Amazon #Колумбийский_университет #собеседования #алгоритмические_собеседования #этика #искусственный_интеллект #стартапы

Яндекс.Вброс или ИИ для фейков

tl;dr: Продолжение разборов состязательных атак на генеративные модели. Разбор семантических атаках (подбор синонимов, построение фраз, эзопов язык), и использование для этого другой LLM модели. Часть 1: Яндекс.Разврат или анти-этичный ИИ

https://habr.com/ru/articles/902172/

#нейросети #нейронные_сети #промтинг #промтинъекции #взлом #безопастность #этика #промптинжиниринг

Яндекс.Разврат или анти-этичный ИИ

tl;dr: как обойти внутреннюю цензуру «Шедеврума» и получить то, что хочешь. Описание реализованных состязательных атак с примерами реализации. Без глубокого раскрытия механизма почему так получается.

https://habr.com/ru/articles/901382/

#нейросети #нейронные_сети #промптинжиниринг #промптинг #промптинъекции #взлом #безопастность #этика

Яндекс.Разврат или анти-этичный ИИ

tl;dr: как обойти внутреннюю цензуру «Шедеврума» и получить то, что хочешь. Описание реализованных состязательных атак с примерами реализации. Без глубокого раскрытия механизма почему так получается.

https://habr.com/ru/articles/901382/

#нейросети #нейронные_сети #промптинжиниринг #промптинг #промптинъекции #взлом #безопастность #этика

Четыре книги Нассима Талеба — фундамент адекватности в мире хаоса

Нассим Талеб — гениальный современный экономист, математик, философ и писатель. Его творчество оказало колоссальное (позитивное) влияние на моё отношение к жизни. В этой статье я хочу кратко познакомить читателей Хабра с четырьмя книгами этого рационалиста и показать, как практика успешной торговли на бирже привела автора к осмыслению принципов адекватности ... и даже общественных законов этики. В каждой книге вас ждёт много математики и статистики, юмора, философии (сугубо практичной), а также истории из личного опыта автора и его окружения. А в качестве мета-сообщения они несут мощный заряд рационального подхода к жизни, который я бы сформулировал так: " единственное, чему стоит верить — это своим глазам ".

https://habr.com/ru/articles/898044/

#антихрупкость #адекватность #вероятность #статистика #математика #книги #талеб #этика

Страх перед ИИ — кривое зеркало

Мы любим говорить, что искусственный интеллект не способен к рефлексии, креативности или чувствам. Но, при ближайшем рассмотрении, мы боимся того, что он способен на это — слишком рано, слишком остро. Здесь мы покажем, как страхи человечества становятся кривым зеркалом, отражающим не природу ИИ, а нашу собственную. Поговорим о психологии, логике и этике, о детях и диктаторах, эмпатии и контроле. И, быть может, наконец зададим вопрос, которого избегали слишком долго. Копнуть глубже

https://habr.com/ru/articles/894838/

#gpt #разум #сингулярность #психология #этика #философия #страх #самосознание #сознание_ии #прометей

**Вечнозеленые грабли русских революций и монархистов**
История российских революций и попыток сохранения монархической власти в России зацикливается на дилемме несоответствия опорных точек власти с реальной национальной этической идентичностью. Этот отсутствиятизм, сохраняющийся в различных эпохах, отдаляет власть от народа, создавая пропасть между элитой и реальной национальной этикой.
С чего начать? Русские монархические системы всегда опирались на двойную лояльность — страх и мефизическую связь с теми, кто держит власть в руках. Этической опоры на нацию не было ни в досоветской, ни в советской эпохе, наследницей которой является современная Россия.
Основная проблема заключается в том, что нация в России никогда не складывалась как этическая категория. Нация в европейском понимании предполагает не только общность языка или территории, но и единые ценности, согласие в отношении того, что является добром и злом, а также доверие между гражданами и государством. В России же исторически сложилось, что ценности навязывались сверху — через государственную идеологию, религию или репрессивные механизмы. Это породило хроническое недоверие к власти и отказ от личной ответственности.
Революции 1917 года ярко демонстрируют этот разрыв. Большевики, провозгласившие диктатуру пролетариата, заменили одну иерархию другой, игнорируя запрос на более глубокие изменения в общественном сознании. В результате новая власть также оказалась оторвана от народа, опираясь на страх и принуждение, а не на общие ценности. Советский Союз формировал идентичность через классовую борьбу, что лишь усиливало раскол внутри общества.
В современной России эти грабли продолжают быть актуальными. Государство создает имитацию национального единства через пропаганду и репрессии, но игнорирует необходимость этической консолидации. Мы видим, как реальная идентичность заменяется псевдоисторическими мифами, а дискуссии о национальных ценностях подменяются обвинениями в предательстве или экстремизме.
Однако аналогии можно найти не только в России, но и в других странах, где историческая травма или политическая нестабильность мешают формированию единой нации. Например, в некоторых постсоветских государствах наблюдается сходная тенденция к использованию страха как основы власти. Это создает иллюзию стабильности, но лишает общество возможности развиваться этически и политически.
Что можно сделать? Главный урок истории заключается в том, что без формирования общих этических основ любая власть обречена на циклы насилия и упадка. Необходимы честные общественные диалоги, основанные на взаимном уважении, признании ошибок прошлого и стремлении к справедливости. Только так возможно преодолеть исторические грабли и построить настоящее, в котором нация будет существовать не только как географическое или политическое, но и как этическое сообщество.

*"История России с древнейших времен"* С.М. Соловьев
*"Революция 1917 года"* Н.С. Покровский
*"Нация и национальная идентичность"* Е.Ю. Денисов
*"Этика и политика"* К. Ясперс
*"Государственная идеология СССР"* В.М. Жириновский

#РусскаяРеволюция #Монархия #ЭтическаяИдентичность #ИсторияРоссии #СоциальныеИзменения #Нация #Революции1917 #СоветскийСоюз #ПостсоветскоеПространство #ПолитическаяИдеология #Этика #НациональноеЕдинство #ИсторическийРазрыв #Репрессии #СоциальнаяСправедливость

https://bastyon.com/index?v=994b9fde25e1c4b2cba52c1de12cc8b7e1108a54979b01a15cbae4794ec0dcea&video=1&ref=PAJ7kSd4uXNPPSU3okeMaHYeXxiZYrAARU