Управление ИИ (AI Governance) в 2025: пять главных вызовов и пути их преодоления

По данным глобальных отчетов, уже 30% всех корпоративных решений в 2025 году принимаются с участием искусственного интеллекта (ИИ). Инструменты ИИ активно внедряются во все сферы: они используются для оптимизации операционных и бизнес-процессов, как самостоятельные или вспомогательные продукты, а все чаще – и как системы, принимающие решения. Однако в этой гонке за эффективностью вопросы управления рисками и этические предохранители нередко отходят на второй план. Между тем, именно сфера регулирования и этики ИИ является ключевым инструментом, позволяющим компаниям обеспечить безопасное использование AI-технологий как с технической точки зрения, так и в контексте соответствия требованиям контролирующих органов. Регуляторные и этические фреймворки, закрепленные на уровне законодательства и лучших отраслевых практик, в действительности определяют ландшафт внедрения новых технологий. С какими вызовами AI Governance сталкивается IT-индустрия сегодня? В этой статье мы разберем 5 ключевых проблем регулирования ИИ, алгоритмической предвзятости, безопасности нейросетей, их экологического следа и глобальной стандартизации AI. Это авторская статья создана специально для сайта habr.com будет полезна IT-специалистам, разработчикам, менеджерам проектов, юристам, а также всем, кто интересуется будущим искусственного интеллекта, его регулированием и этическими аспектами применения технологий.

https://habr.com/ru/articles/920386/

#ai_governance #Ethical_AI #AI_Ethics #explainable_ai #EU_AI_Act

"Amazon is selling books marketed at people seeking techniques to manage their ADHD that claim to offer expert advice yet appear to be authored by a chatbot such as ChatGPT." #AI_Ethics #Ai

https://www.theguardian.com/technology/2025/may/04/dangerous-nonsense-ai-authored-books-about-adhd-for-sale-on-amazon

"American police departments near the United States-Mexico border are paying hundreds of thousands of dollars for an unproven and secretive technology that uses AI-generated online personas designed to interact with and collect intelligence on “college protesters,” “radicalized” political activists, and suspected drug and human traffickers"

#AI #AI_Ethics

https://www.404media.co/this-college-protester-isnt-real-its-an-ai-powered-undercover-bot-for-cops/

Time to part ways with Slack, not only opt-out. I haven't used it for the last 2 years anyway!

https://www.engadget.com/yuck-slack-has-been-scanning-your-messages-to-train-its-ai-models-181918245.html

#AI_Ethics #AI_Alert #PrivacyMatters #DataProtector

the discourse on the "power of AI" focuses on outputs but disregards the process. This is why it fails at music, says Adam Neely:

https://youtu.be/N8NyEjB_XeA?feature=shared

#ai_ethics #aifail #aimusic

Wenns für KI-Firmen "unmöglich" ist, KIs zu trainieren ohne dabei copyrightgeschütztes Material zu verwenden, dann rollen alle Kunstschaffenden mit den Augen, die sich ständig was Neues aus den Fingern saugen müssen, ohne je ein Futzel von wem anders übernehmen zu dürfen:

https://arstechnica.com/information-technology/2024/01/openai-says-its-impossible-to-create-useful-ai-models-without-copyrighted-material/

Das wird noch spannend.

#ai_ethics #copyright