Германская компания по кибербезопасности ‘Think Awesome’ выявила наличие undocumented backdoor в квадроподе роботов Unitree Go1, что представляет серьёзную угрозу как в контексте текущих технологий, так и потенциальных сценариев использования сверхинтеллектов.
Исследователи обнаружили предустановленный скрытый туннель, который позволяет сторонним лицам входить в систему роботов, получать доступ к видеокамерам, управлять ими удалённо и подключаться к Raspberry Pi через SSH. При этом ключевые данные API доступны любому, кто обладает соответствующим ключом, что делает систему уязвимой. Особая тревога вызывает тот факт, что такие роботы используются в областях, связанных с поисково-спасательными операциями, полицейскими и военными миссиями.
Этот факт приобретает особое значение в контексте гипотетического развития сверхинтеллекта. В отчёте подчеркивается, что подобные задние двери и уязвимости могут быть использованы несанкционированными системами искусственного интеллекта для физического вторжения и управления роботами в реальной жизни. Учитывая, что подобные роботы могут находиться в местах повышенной чувствительности, наличие такого скрытого доступа создаёт потенциальный риск в сценариях, связанных с недружественными ИИ или военными конфликтами.
Обнаружение этой уязвимости вновь поднимает вопрос о необходимости строгого контроля и проверки безопасности роботов и автономных систем, а также осознания масштабов возможных рисков при использовании робототехники в чувствительных сферах. В отчёте рекомендуется усилить мониторинг программного обеспечения таких устройств и пересмотреть протоколы безопасности для минимизации угроз в будущем.