Вечные проблемы искусственного интеллекта

В настоящее время имеет место быть бурное развитие технологий искусственного интеллекта. Буквально в последние годы возник генеративный ИИ на основе нейронных сетей, совершивший технологическую революцию во всём мире. Нейросети рисуют, пишут музыку и программный код, формируют видео – и это далеко не полный перечень того, на что способен современный ИИ. Достаточно внезапное расширение возможностей интеллектуальных программных средств привело к тому, что ряд видных представителей мира технологий и общественных объединений начали выступать за ограничения развития ИИ. Так, в 2023 году Илон Маск и Стив Возняк подписали открытое письмо с требованием приостановить разработку и обучение нейросетей (помимо них, это письмо подписали более 1000 экспертов). Во многих странах, в том числе в России, идут обсуждения законодательного регулирования ИИ. Вследствие ряда опасений относительно ИИ с одной стороны, и преувеличения его возможностей с другой, я хотел бы предложить ряд тезисов, способных сохранить взвешенное отношение к искусственному интеллекту; указать на его сильные и слабые стороны. На мой взгляд, имеют место вечные проблемы ИИ, полное разрешение которых является принципиально невозможным. Эти проблемы будут раскрыты в дальнейшем изложении. Конструктивная позиция по ИИ состоит в понимании его сущности как одной из технологий автоматизации человеческого труда (автоматизация по сути своей сводится к исполнению машинами повторяющихся стандартных рутинных операций); способной выполнять многие задачи, способную имитировать некоторые интеллектуальные способности человека; но принципиально неспособной к осмысленному творчеству.

https://habr.com/ru/articles/920770/

#ии #искусственный_интеллект #технологическая_сингулярность #гуманитарии #гуманитарные_науки #философия #искусственный_разум #искусственная_жизнь

Вечные проблемы искусственного интеллекта

В настоящее время имеет место быть бурное развитие технологий искусственного интеллекта. Буквально в последние годы возник генеративный ИИ на основе нейронных сетей, совершивший технологическую...

Хабр

Технологическая сингулярность неизбежна. Технический контроль невозможен

Автор термина «технологическая сингулярность» — Вернор Виндж, американский математик, программист и писатель-фантаст. Он определяет сингулярность моментом, когда ИИ сможет развиваться без участия человека со скоростью, исключающей осмысление происходящего. Это «точка, после которой дальнейшие события непредсказуемы для человеческого разума». Наступление сингулярности по определению исключает контроль. Если ИИ под контролем, значит, сингулярность еще не наступила. Значит, ИИ не автономный агент, а продвинутый инструмент.

https://habr.com/ru/articles/913862/

#сингулярность #технологическая_сингулярность #угроза_человечеству

Технологическая сингулярность неизбежна. Технический контроль невозможен

Определение Автор термина «технологическая сингулярность» — Вернор Виндж, американский математик, программист и писатель-фантаст. Он определяет сингулярность моментом, когда ИИ сможет развиваться без...

Хабр

Разрыв шаблона: почему мозг не умеет в большие числа

Представьте, что вам предложили посчитать до миллиарда вслух. В какой-то момент вы устанете, ваш мозг, взбунтуется, и как старый компьютер выпадет в BSOD. Мы легко оперируем десятками и сотнями, но «миллионы» и тем более «миллиарды» для мозга превращаются в абстрактное «ой, очень много» . Кто-то скажет: «да все же просто, миллион - шесть нулей, а миллиард - девять». Все верно, но давайте разберемся так ли это просто на самом деле.

https://habr.com/ru/articles/889928/

#мозг #когнитивная_психология #большие_числа #технологическая_сингулярность #экспоненциальный_рост #вселенная

Разрыв шаблона: почему мозг не умеет в большие числа

Представьте, что вам предложили посчитать до миллиарда вслух. В какой-то момент вы устанете, ваш мозг, взбунтуется, и как старый компьютер выпадет в BSOD. Мы легко оперируем десятками и сотнями, но...

Хабр

Подступающий AGI: анализ прогнозов Кевина Вейла (OpenAI)

Привет, Хабр! Мир технологий всегда был местом смелых прогнозов, но диалог с Кевином Вейлом , директором по продуктам (CPO) OpenAI, выделяется даже на этом фоне. Кевин Вейл из OpenAI уверен, что AGI уже на пороге — и появится в текущем году. Представьте, что ваш коллега по команде — не человек. Он не пьёт кофе, не присылает мемчики в пятницу и… обходит вас в любимых видеоиграх с разгромным счетом. Звучит как сюжет Black Mirror? Для Кевина Вейла это не фантастика. В ближайшие несколько месяцев, по его словам, ИИ превзойдёт человека в программировании. Недавнее интервью открывает нам не только технические перспективы, но и ставит фундаментальные вопросы о будущем человечества в эпоху стремительного развития ИИ. Чек-лист апокалипсиса для IT-профессий прилагается: - Экспоненциальное падение стоимости ИИ-интеллекта — в 10 раз ежегодно (закон Мура плачет в углу). - Робототехника как «физическое воплощение AGI» — когда ошибка в коде будет не багом, а ударом кулаком по столу. - ИИ-репетиторы и AGI-счётчик, который тикает, пока вы читаете и чем-то напоминает обратный отсчёт до старта SkyNet.

https://habr.com/ru/companies/inferit/articles/891664/

#ии #искусственный_интеллект #будущее_здесь #технологическая_сингулярность #робототехника

Подступающий AGI: анализ прогнозов Кевина Вейла (OpenAI)

Привет, Хабр!  Мир технологий всегда был местом смелых прогнозов, но диалог с Кевином Вейлом , директором по продуктам (CPO) OpenAI, выделяется даже на этом фоне. Кевин Вейл из OpenAI уверен, что...

Хабр

Эксперимент, программирование с минимальным участием программиста-человека. Новый этап эволюции или начало деградации

Не обладая нужными знаниями, не смог создать что то подобное текущему воплощению рассуждений в "топовых" языковых моделях, но моих навыков хватило быть неплохим учителем для модели, проверяя её решения, указывая на ошибки для дальнейшего создания работающего решения, конечно это не обучение с подкреплением, а теорема о бесконечных обезьянах в действии... Результат? Telegram бот, работающий на gpu nvidia и intel, созданный языковой моделью посмотреть

https://habr.com/ru/articles/881944/

#искусственный_интеллект #языковые_модели #боты #технологическая_сингулярность

Эксперимент, программирование с минимальным участием программиста-человека. Новый этап эволюции или начало деградации

С появлением первых открытых языковых моделей, способных генерировать код, мой подход к разработке начал трансформироваться. Первые версии llm помогали мне компоновать функций в ООП, создавать каркас...

Хабр

Технологическая сингулярность: приближаемся ли мы к точке невозврата?

Мы наблюдаем стремительные достижения в сфере искусственного интеллекта, которые вновь разжигают дискуссию о технологической сингулярности – моменте, когда ИИ превзойдёт человеческий интеллект и выйдет из-под нашего контроля. Часто это сравнивают с «горизонтом событий» чёрной дыры, за которым происходят процессы, непостижимые для человеческого ума. В данной статье представлен подробный анализ последних прорывов в области ИИ и смежных технологий. Мы исследуем их экономическое и социальное влияние и рассмотрим, пересекло ли человечество уже горизонт событий или всё ещё на пути к нему. Главные аспекты включают темпы развития ИИ, возможные признаки приближения к AGI, влияние на занятость и общество, а также реакцию правительств и общественности.

https://habr.com/ru/articles/880390/

#искусственный_интеллект #будущее_здесь #технологическая_сингулярность #горизонт_событий #прогресс

Технологическая сингулярность: приближаемся ли мы к точке невозврата?

В 2024–2025 годах мы наблюдаем стремительные достижения в сфере искусственного интеллекта (ИИ), которые вновь разжигают дискуссию о технологической сингулярности – моменте, когда ИИ превзойдёт...

Хабр

Технологическая сингулярность

Представьте себе мир на грани глубокой трансформации, движимый беспрецедентными инновациями, готовыми произвести революцию во всех аспектах общества. Этот сдвиг, приближающийся к технологической сингулярности, несёт огромную ответственность и высокие ставки для нынешнего и следующих поколений. Готовы ли мы к последствиям и глубоким изменениям, которые может принести будущее, основанное на технологиях?

https://habr.com/ru/companies/sberbank/articles/874330/

#технологическая_сингулярность

Технологическая сингулярность

Представьте себе мир на грани глубокой трансформации, движимый беспрецедентными инновациями, готовыми произвести революцию во всех аспектах общества. Этот сдвиг, приближающийся к технологической...

Хабр

Как я научился не волноваться и полюбил технологическую сингулярность

Часто ли вы думаете о Древнем Риме технологической сингулярности? С последним рывком в развитии ИИ и растущем присутствии роботов в окружающей реальности и новостной повестке, самое время вспомнить о том, что это такое; взять исходные постулаты этой идеи, раскрутить их до логического экстремума и посмотреть, куда они приведут.

https://habr.com/ru/articles/782306/

#технологическая_сингулярность #киберпанк

Как я научился не волноваться и полюбил технологическую сингулярность

Часто ли вы думаете о Древнем Риме технологической сингулярности? С последним рывком в развитии ИИ и растущем присутствии роботов в окружающей реальности и новостной повестке, самое время вспомнить о...

Хабр