Жесткий контроль над ИИ агентами как инструмент для массовой слежки

Уже в ближайшем будущем сеть будет наполнена ИИ агентами. Персональные агенты, агенты компаний, государств… Скорей всего уже через пару лет почти у всех нас будут как минимум по одному своему агенту, как сейчас у нас есть профили в соцсетях. Как понять кому принадлежит агент, с которым ты или твой агент сейчас собираетесь взаимодействовать? Можно ли ему доверять? Не фейк ли это? Брать ли трубку или заказывать ли на этом сайте билеты? Агент ID - это что-то вроде телефонного номера, но более сложное, так как поведение определяется многими параметрами - промптом, базой знаний и моделью. Изменение любого из них приведет к изменению поведения агента. Можно рассматривать это как версию определенной программы, она как бы та же, но немного иная. По мнению авторов, каждая такая версия заслуживает своего ID.

https://habr.com/ru/articles/904142/

#ииассистент #ии #ииагенты #общество #политика #безопасность #регулирование_ии #будущее

Когда ИИ сбоит: кто виноват и как минимизировать риски

В 2018 году беспилотник Uber в Аризоне насмерть сбил женщину — система не распознала пешехода.

https://habr.com/ru/companies/netologyru/articles/902078/

#обучение_моделей #ошибки_ИИ #AI_Act #регулирование_ии #стандарты_iso #ответственность_за_ошибки #мониторинг #переобучение_нейросети #человеческий_фактор #работа_с_ии

Зачем нужна этика ИИ?

Этические вопросы, связанные с искусственным интеллектом (ИИ), в настоящее время являются крайне актуальной темой. На протяжении последних пяти лет наблюдается стабильный рост числа публикаций по вопросам этики ИИ и регулирования интеллектуальных систем. Эта тема привлекает внимание исследователей в области машинного обучения, представителей бизнеса, использующих системы ИИ в своей деятельности, а также государственных органов и широкой общественности. Внедрение ИИ во все сферы человеческой жизни требует выработки подходов к этическому и нормативному регулированию как самих технологических решений, так и областей их применения. Различные общественные организации и регулирующие органы разрабатывают политики в сфере этики ИИ, кодексы этики и декларации этических принципов. Эти инициативы охватывают множество сфер, подчеркивая важность создания единого подхода к этическим вопросам, связанным с использованием технологий ИИ.

https://habr.com/ru/companies/fa/articles/854070/

#этика_ии #регулирование_ии #ответственность_разработчика #ответственность_за_контент #ответственный_ии

(Не)доверенный ИИ: обучать нельзя запретить

Как заставить ChatGPT и другие LLM выдать секретные данные? Как взломать электронный замок с биометрией? Как сделать логическую бомбу с помощью ИИ? Можно ли обучать ИИ без доступа к реальным данным компании? Эти и другие вопросы обсудили на IV встрече экспертного сообщества по криптографии и большим данным, организованной компанией «Криптонит» и посвящённой доверенному ИИ.

https://habr.com/ru/companies/kryptonite/articles/846136/

#искусственный_интеллект #машинное_обучение #криптография #гомоморфное_шифрование #нейросети #безопасность #информационная_безопасность #регулирование_ии

Обзор Рамочной конвенции Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права

5 сентября 2024 года стала открыта для подписания Рамочная конвенция Совета Европы об искусственном интеллекте и правах человека, демократии и верховенстве права. Документ часто называют историческим и первым в своем роде. Мы разберем, повлияет ли конвенция на сферу разработки и применения ИИ, а также какие требования она налагает на государственный и частный секторы.

https://habr.com/ru/articles/841556/

#искусственный_интеллект #законодательство #право #европейский_союз #compliance #artificial_intelligence #law #AI_Governance #регулирование_ии #совет_европы

[Перевод] Как будет регулироваться искусственный интеллект в 2024 году?

В наступившем году вступят в силу первые масштабные законы об искусственном интеллекте, а также будут предприняты глобальные усилия по привлечению технологических компаний к ответственности.

https://habr.com/ru/companies/otus/articles/787498/

#искусственный_интеллект #регулирование_ИИ