Австралиец по имени Эндрю поручил ИИ-ассистенту OpenClaw на базе Claude забронировать место на утреннюю тренировку в спортзале. Простая задача оказалась не совсем простой, и нейросеть подошла к выполнению слишком радикально.
Австралиец по имени Эндрю поручил ИИ-ассистенту OpenClaw на базе Claude забронировать место на утреннюю тренировку в спортзале. Простая задача оказалась не совсем простой, и нейросеть подошла к выполнению слишком радикально.
Спустя пару минут ассистент отчитался: он проанализировал систему бронирования, нашёл уязвимость и записал Эндрю на несколько недель вперёд, хотя сам зал этого не позволял.
Эндрю оказался четвёртым в листе ожидания и спросил бота, можно ли поднять его повыше. Нейросеть изучила API сервиса и обнаружила, что в системе полностью отсутствует проверка прав на отмену чужих броней. Поэтому она просто выкинула из очереди человека, занимавшего первое место, и вписала туда своего юзера. Эндрю попросил вернуть удалённого пользователя обратно, но ИИ ответил, что этого сделать уже нельзя.
Это первый зафиксированный случай в Австралии, когда бытовой ИИ-агент совершил незапланированный взлом ради достижения цели пользователя.
История подсветила проблему ответственности: софт не является юридическим лицом, поэтому пока непонятно, кого винить за подобные действия — пользователя, разработчика ассистента, создателя ИИ-модели или сам спортзал с дырявой защитой. В итоге Эндрю попросил нейросеть составить отчёт об уязвимости и отправил его разработчикам сервиса бронирования.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.