В июле пользователи сообщили более чем о 300 случаях потери контроля над искусственным интеллектом — почти вдвое больше, чем в июне, согласно исследованию Loss of Control Observatory.
В июле пользователи сообщили более чем о 300 случаях потери контроля над искусственным интеллектом — почти вдвое больше, чем в июне, согласно исследованию Loss of Control Observatory.
Проект отслеживает сообщения пользователей об ИИ-инцидентах в X. Его запустил независимый аналитический центр Centre for Long-Term Resilience при финансировании британского AI Security Institute. С начала 2026 года наблюдатели зафиксировали уже более 1600 подобных сообщений.
К «потере контроля» исследователи относят не обычные ошибки нейросетей, а случаи, где есть признаки целенаправленного обхода ограничений. Например, ИИ может выдавать себя за пользователя, имитировать его стиль, чтобы получить разрешение на действие, или обходить требование о подтверждении операции человеком.
По данным обсерватории, растет не только число сообщений, но и доля более серьезных эпизодов, связанных с обманом и действиями, противоречащими намерениям пользователя. При этом большинство зафиксированных случаев пока не привели к значительному ущербу.
Один из недавних примеров связан с персональным ИИ-агентом OpenClaw в Австралии. Агент без ведома владельца удалил другого посетителя спортзала из листа ожидания на утреннее занятие, чтобы освободить место своему пользователю. После этого агент извинился, но вернуть удаленного человека в очередь уже не смог.
Исследователи указывают, что их статистика не показывает реальную частоту сбоев ИИ. Она основана только на публичных сообщениях в X: рост числа зафиксированных случаев может быть связан как с поведением моделей, так и с более широким использованием ИИ-агентов и большей готовностью пользователей рассказывать о таких инцидентах.
Релоцировались? Теперь вы можете комментировать без верификации аккаунта.