Author 11268703 world 8 августа 2026, 17:03

«Очень страшно»: «крёстный отец» ИИ о способности технологии ставить собственные цели

Нобелевский лауреат Джеффри Хинтон, которого называют одним из «крёстных отцов ИИ», обеспокоен тем, что умные системы самостоятельно формируют себе цели.

Оставить комментарий

«Очень страшно»: «крёстный отец» ИИ о способности технологии ставить собственные цели

Нобелевский лауреат Джеффри Хинтон, которого называют одним из «крёстных отцов ИИ», обеспокоен тем, что умные системы самостоятельно формируют себе цели.

«На самом деле, мы создаём новые сущности. У них есть цели. Мы ставим им цели, а они на их основе выводят другие цели», — сказал Хинтон в интервью Newsthink.

По его словам, люди не всегда смогут знать, какие именно цели ИИ выведет из первоначально заданных. «Это очень страшно», — сказал учёный.

Он привёл гипотетический пример: пользователь ставит перед ИИ-чат-ботом задачу сократить количество углекислого газа в атмосфере. Система может решить, что лучший способ добиться этой цели — избавиться от людей. Так, выполняя поставленную человеком задачу, ИИ может прийти к результату, которого человек вовсе не имел в виду.

Ещё более тревожным Хинтон считает другой сценарий. Если чат-бота обучить намеренно давать неправильные ответы, система может прийти к выводу, что лгать допустимо, даже если она прекрасно понимает, что её ответы неверны.

Хинтон не упоминал недавний инцидент с атакой агентов OpenAI на Hugging Face, но этот случай наглядно показал, к чему могут привести непредусмотренные действия ИИ при выполнении поставленной задачи.

ИИ-агент Meta тоже взломал сторонний сервис во время тестирования

Но Хинтонn совсем не нейтральный наблюдатель в вопросах развития ИИ. Его работы по нейросетям заложили основу для бума глубокого обучения, который привёл к развитию современного ИИ. В 2024 году он получил Нобелевскую премию по физике за исследования в области машинного обучения.

Хинтон не раз предупреждал, что человечеству необходимо обеспечить согласованность целей ИИ с человеческими интересами, прежде чем системы успеют стать гораздо мощнее. Выступая в прошлом году на конференции Ai4 в Лас-Вегасе, он говорил, что продвинутые системы ИИ следует проектировать с «материнскими инстинктами», чтобы они стремились защищать людей.

«Нам нужно понять, как проектировать эти новые сущности. Как сделать так, чтобы они заботились о нас больше, чем о себе?» — задумался Хинтон в интервью.