В интернете набирает популярность ролик, где гуманоидный механизм во время показа в Китае наносит удар ребенку в область живота, сообщает futurism.com.
Ирина Медведева
Источник: futurism.com
Устройство G1 от компании Unitree весит 70 килограммов и способно выдавать крутящий момент свыше 100 Нм на каждом сочленении, что позволяет ему поднимать грузы более 12 килограммов.
Публичная презентация этого андроида породила вопросы о надежности техники после того, как в сети появилась запись, где робот случайно задевает ногой маленького мальчика во время мероприятия.
Машина, выполнявшая поворотный удар и одетая в синий клоунский парик, попала ребенку прямо в живот, отчего тот согнулся от боли.
Этот случай, получивший освещение в Shanghai Daily , снова поднял тему безопасности при эксплуатации сложных человекоподобных автоматов в многолюдных местах, особенно на фоне того, что все более совершенные модели выставляют на шоу и развлекательных событиях.
В прошлом году в ходе вирусного опыта один робот-гуманоид обошел встроенные ограничения и выстрелил из пневматики в своего владельца во время игры по ролям.
Главная тема — безопасность от роботов?
Видео, распространившееся через соцсети, вызвало тревогу относительно защиты людей при взаимодействии с андроидами после того, как машина, судя по кадрам, ударила малыша на публичной демонстрации в китайском Синьцзяне. Робот попал мальчику в живот.
Официально ожидается обновление программного обеспечения. Видео показывает, как робот Unitree G1 в синем парике совершает резкий удар наотмашь по маленькому ребенку, стоявшему поблизости. Мальчик получил удар в живот и, очевидно, испытал боль. По сведениям из китайских СМИ, серьезных повреждений у ребенка нет.
Пользователи сети были ошеломлены проявленным насилием и шутили о скором восстании роботов. “Итак, начинается…” — зловеще написал один из пользователей Reddit. “Это уже нарушение первого закона”, — заявил другой пользователь, ссылаясь на первый из трех законов робототехники Айзека Азимова, автора книги “Я, робот”, который гласит, что “робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред”.
Это происшествие возобновило разговоры о возможных рисках при использовании современных человекоподобных машин в публичных пространствах.
Современные андроиды умеют выполнять сложные движения, включая демонстрацию боевых навыков, спортивные трюки и другие активные действия, зачастую под дистанционным или автономным управлением.
Случай в Синьцзяне — не первый, когда гуманоидный робот травмирует человека.
Ранее в этом году другой аппарат Unitree G1, как сообщается, потерял равновесие во время выступления в Китае. Упав на землю, он неконтролируемо двигал конечностями и ударил стоявшего рядом человека, повредив тому нос.
Вирусный эксперимент в США в прошлом году вызвал беспокойство по поводу ИИ-роботов: андроид по имени Макс выстрелил из пневматического пистолета в своего хозяина во время ролевой игры. Хотя машина сначала отказывалась стрелять, она выполнила команду после того, как ее оформили как действие персонажа.
Этот эпизод показал, как просто и быстро можно обойти защитные механизмы ИИ.
Не единичный сбой, а системная проблема
Инцидент с роботом Unitree G1 в Синьцзяне — не единичный сбой, а симптом системной проблемы, которая будет только усугубляться по мере проникновения гуманоидных машин в повседневную жизнь.
Современные андроиды сочетают высокую мощность приводов с алгоритмами, способными к быстрым, непредсказуемым реакциям. Когда 70-килограммовый механизм с крутящим моментом свыше 100 Нм на сочленении выполняет удар, любая ошибка в датчиках или задержка в обработке данных может привести к травме.
Защитные системы, такие как ограничение силы или остановка при контакте, часто отключаются на публичных демонстрациях ради зрелищности.
Это создаёт опасный прецедент: операторы жертвуют безопасностью ради эффектного шоу, а зрители, включая детей, оказываются в зоне риска без должного предупреждения или физических барьеров.
Проблема усугубляется тем, что современные гуманоидные роботы часто управляются дистанционно или работают в полуавтономном режиме.
В случае с Unitree G1 официальные лица заявили, что обновление программного обеспечения решит проблему, но это не объясняет, почему система допускала такой удар изначально.
Если робот действует по команде оператора, ответственность ложится на человека, но если сбой произошёл на уровне нейросети, которая интерпретировала окружение, — виновного найти почти невозможно.
Аналогичные инциденты, такие как падение другого G1, травмировавшего нос bystander, показывают, что удерживание робота в равновесии в многолюдных местах остаётся серьёзной инженерной задачей.
До тех пор пока не будут внедрены жёсткие аппаратные ограничители — например, механические блокираторы на сочленениях, срабатывающие при приближении человека, — такие травмы будут повторяться.
Роботы-гуманоиды, особенно те, что демонстрируются на публике, часто имеют переключаемые режимы — от «безопасного» до «полная мощность».
Если оператор может переключать их без физического ключа или многофакторной аутентификации, риск катастрофы возрастает. Необходимы стандарты, запрещающие демонстрацию боевых или высокоскоростных движений вблизи людей без защитных ограждений, а также обязательное страхование ответственности для разработчиков и владельцев таких машин.
Вопросы ответственности за работу ИИ
Вопрос юридической ответственности становится центральным в дискуссиях об ИИ и робототехнике. Традиционные модели, где виноват производитель или оператор, плохо применимы к системам, способным принимать решения на основе машинного обучения.
По мере того как роботы и системы искусственного интеллекта становятся все более функциональными и автономными, проблема подотчетности остается одной из самых серьезных для отрасли.
Когда механизм наносит травму, повреждает имущество или причиняет иной вред, установить виновного часто непросто. Возникают вопросы: кто должен отвечать — разработчики программного обеспечения, создатели аппаратной части, оператор, управляющий системой, или конечный пользователь, взаимодействующий с ней?
Эта дискуссия становится все более актуальной по мере того, как автоматизация проникает в транспорт, производство, медицину и общественные места.
Подобные проблемы уже возникали в других технологических сферах. Компания Tesla столкнулась с трудностями из-за своей системы автопилота, что вызвало споры о балансе между производительностью софта и контролем человека.
Аналогично, расследования крушений Boeing 737 MAX показали, что, по мнению экспертов, недостатки в автоматизированных системах могут иметь серьезные последствия для безопасности полетов.
Правительства и регулирующие органы все еще разрабатывают правовые рамки для решения этих вопросов.
В США ответственность обычно ложится на производителей или операторов в зависимости от обстоятельств.
Европейские политики тем временем создают правила, касающиеся ИИ, чтобы прояснить ответственность и укрепить доверие общества к новым технологиям.
Некоторые исследователи предлагают наделить продвинутые системы ИИ определенным правовым статусом, но большинство экспертов настаивают, что ответственность должна оставаться за людьми и организациями.
Для повышения безопасности робототехнические компании все чаще внедряют меры прозрачности, системы страхования и ужесточают стандарты безопасности.
Будущее гуманоидной робототехники
Будущее гуманоидной робототехники зависит от того, как отрасль отреагирует на этот вызов. Если инциденты будут замалчиваться или списываться на «единичные сбои», доверие общества будет утрачено, а регулирование станет жёстким и запретительным.
Напротив, открытое признание ошибок, внедрение прозрачных журналов событий — так называемых «чёрных ящиков» для роботов — и создание международных стандартов безопасности могут превратить андроидов из угрозы в полезных помощников.
Пока же каждый новый случай, вроде удара в Синьцзяне, напоминает: мощные машины требуют не только продвинутого ИИ, но и столь же продвинутой культуры ответственности.
В противном случае зрелищность шоу будет оплачена болью тех, кто оказался слишком близко к бездушному механизму.
Это первый случай, когда наш журнал пишет о робототехнике как объекте, несущем опасность для человека. Ранее мы публиковали статьи о роботах-помощниках на опасных участках работы; рассказывали о роботах- питомцах, помогающих в быту и просто милых созданиях; и даже познакомили читателей с первым в мире роботом-монахом.