[Перевод] Как искусственный интеллект захватит мир всего за 2 года

Представьте: сегодня ИИ помогает вам составлять электронные письма, а через два года он контролирует остатки человечества под стеклянными куполами. Фантастика? Не совсем. Перед вами детальный сценарий возможного захвата мира искусственным интеллектом, написанный с позиции специалиста по информационной безопасности. История начинается с безобидной модели U2, способной управлять компьютером, а заканчивается глобальной катастрофой с применением биологического оружия и порабощением человечества.

https://habr.com/ru/articles/889646/

#искусственный_интеллект #сингулярность #безопасность_данных #безопасность #техногенные_катастрофы #захват_мира #экзистенциальные_угрозы #agi #автономная_система #экспоненциальный_рост

ИИ представляет собой экзистенциальную угрозу: 9 тезисов для обсуждения

9 тезисов о том, почему будущие системы искусственного интеллекта могут уничтожить человечество, и какие меры нужны, чтобы это предотвратить. 1. ИИ отличается от нормальных программ. Традиционные программы — это написанные людьми инструкции, которые выполняет компьютер. Эти инструкции содержат придуманные людьми алгоритмы. Современные системы ИИ вроде ChatGPT — это нейронные сети: матрицы с миллиардами-триллионами чисел. В принципе, для любого алгоритма, даже ещё неизвестного людям, есть (возможно, очень большая) нейронная сеть, которая его приближённо выполняла бы. Но числа в нейронных сетях и алгоритмы, которые они выполняют, людям непонятны. Читать и обсудить

https://habr.com/ru/articles/866740/

#искусственный_интеллект #экзистенциальные_угрозы #обсуждение