Инцидент с Unitree G1 — это не курьёз, а наглядная демонстрация системного риска киберфизических систем. Ошибка в софте, сенсорах или управлении в случае LLM остаётся на уровне текста; в случае роботизированной платформы она немедленно материализуется в силу, импульс и травму.

По мере масштабирования внедрения человекоподобных машин плотность таких инцидентов будет расти — это статистика, а не предположение. Следовательно, ключевой вектор — не «запретить», а ужесточить инженерные практики: fail-safe архитектуры, ограничение усилий (force limiting), безопасные режимы по умолчанию, стандарты сертификации и протоколы взаимодействия с человеком.

Иначе рынок получит не «умных помощников», а источник регулярных травм с предсказуемым репутационным и регуляторным откатом.

#роботы #искусственныйинтеллект #технобезопасность #Unitree #робототехника #AIриски #человекомашинное_взаимодействие #киберфизические_системы #автоматизация #инциденты #безопасность #технологии #будущее #LLM #AI #роботика #рискиИИ #humanrobotinteraction #safetyengineering #failures

https://bastyon.com/svalmon37?ref=PJ51iZCUEtcVrCj4Wof8Am7FbKLgbAJ7PS

847 alarms before the operator took off his jacket. 95% were known noise. A real chiller fault sat buried for 112 minutes.

We ran ISA-18.2 rationalization: 90%+ alarm reduction, response time from 180s to 45s, zero missed critical alarms in 6 months.

Stop blaming operators. Fix the system.

https://resistancezero.com/article-2.html

#AlarmFatigue #DataCenter #ISA182 #SafetyEngineering #CriticalInfrastructure

IECEx Certification Solutions for Global Market Access
Accelerate your IECEx approvals with expert documentation, testing, and compliance support for all Ex-rated products.
https://atex-iecex.com/iecex-certification/

#IECEx #ExplosionProof #GlobalCompliance #ExStandards #SafetyEngineering
IECEx Certification, Ex Compliance, Global Approvals, IEC 60079, Hazardous Area Safety

Through the upcoming #PapersInSystems discussion I discovered Nancy G. Leveson and her work on #SafetyEngineering and software safety through a systemic perspective

It is fascinating and feels very applicable to #cybersecurity

In their approach STAMP
(System-Theoretic Accident Model and Processes) safety is treated as a dynamic control problem rather than a failure prevention problem and especially takes emergent properties into account. (Emergent properties, are properties that are not in the summation of the individual components but "emerge” when the components interact)

There are a lot of touchpoints with security #ThreatModelling

Therfore cc @adamshostack
Maybe the event is interesting for you?

Discussion session: How to Perform Hazard Analysis on a "System-of-Systems" by Nancy Leveson
Monday, May 6th, 2024, 1 PM - 2 PM Eastern Time (US/Canada).

See @RuthMalan post https://mastodon.social/@RuthMalan/112248634077392391