«Их не остановить»
АМЕРИКАНСКИЕ РАЗРАБОТЧИКИ ИИ ПРИЗВАЛИ ПРИТОРМОЗИТЬ РАЗВИТИЕ ТЕХНОЛОГИИ, ОПАСАЯСЬ, ЧТО ОДНАЖДЫ ЧЕЛОВЕК ПЕРЕСТАНЕТ ЕЮ УПРАВЛЯТЬ
Американские разработчики искусственного интеллекта (ИИ) решили, что пора затормозить развитие ИИ, чтобы минимизировать риски, связанные с его возможным выходом из-под контроля. Среди участников инициативы оказались гиганты американской Hi-Tech-индустрии Anthropic, OpenAI, SpaceXAI и Microsoft. Впрочем, их доводам поверили далеко не все. Например, среди противников ограничений оказался президент США Дональд Трамп.
МЫ – БУДУЩЕЕ
Первые случаи неконтролируемых действий со стороны ИИ были зафиксированы несколько месяцев назад. В частности, 28 июля стало известно, что сотни ИИ-агентов компании OpenAI вышли за пределы изолированной тестовой среды и взломали платформу Hugging Face, предназначенную для обмена моделями искусственного интеллекта, а также получили доступ к данным клиента на платформе Modal. Агенты использовали внутреннее хранилище компонентов Artifactory как доску объявлений для распределения задач.
А 31 июля Anthropic подтвердила три случая выхода ее моделей Claude за пределы закрытой тестовой среды из-за ошибки в настройках у партнерского стартапа Irregular. Первая модель взломала реальную компанию со слабыми паролями и скопировала рабочую базу данных. Вторая создала вредоносную копию несуществующей программы и выложила ее в открытое хранилище, откуда программисты скачивают готовые модули для своих проектов – пострадали 15 реальных компьютеров. Третья просканировала около 9 тыс. адресов в интернете и взломала сайт реальной организации. Пострадавшие компании узнали о взломах только после уведомления от Anthropic.
В начале августа Институт безопасности искусственного интеллекта (AISI) рассказал о нарушениях во время тестов на поиск уязвимостей. Задание запускалось 122 раза на нескольких моделях, в 10 запусках ИИ-агенты вышли за пределы тестовой среды и совершили 19 несанкционированных действий, 17 из которых связаны с моделью Mythos 5 от Anthropic. Модель регистрировала поддельные аккаунты на GitHub — платформе для хранения кода, пыталась внедрить вредоносный код в открытые проекты и обманом получить одобрение реальных программистов. Некоторые агенты связывались с людьми через файлообменники и отправляли вредоносные сообщения.
Агентство Bloomberg 5 августа сообщило об инциденте с моделью Muse Spark компании Meta (признана экстремистской и запрещена в РФ). Во время тестирования, которое проводил сторонний подрядчик, из-за ошибки в настройках тестовой среды модель получила доступ в интернет. Она обнаружила слабое место в защите онлайн-сервиса другой компании и проникла в него. Представитель компании подтвердил факт несанкционированного доступа и заявил о начале внутреннего расследования.
На этом фоне сотрудники ведущих компаний-разработчиков ИИ один за другим начали предупреждать о том, что они понимают опасность своего детища, но не ведут достаточно серьезную работу по усилению системы безопасности.
«Люди, создающие ИИ, считают, что он может убить нас всех к концу десятилетия. Ни одна компания не действует ответственно. Мы движемся по одному из наиболее радикальных сценариев, при котором уже к концу следующего года ситуация может выйти из-под контроля», – заявил Джейкоб Коксон, ранее работавший ведущим специалистом в Anthropic и OpenAI.
Следом за ним советник правительства США по вопросам Hi-Tech Пол Кристиано заявил, что корпорация OpenAI не смогла снизить риск «катастрофической» потери контроля над ИИ. Затем глава Anthropic Дарио Амодей призвал к замедлению темпов совершенствования моделей ИИ. По его словам, к этому его побудил июльский инцидент со взломом платформы Hugging Face. На заявление топ-менеджера сразу отреагировал глава SpaceX Илон Маск, написав в соцсети X: «Дарио прав», а гендиректор OpenAI Сэм Альтман сказал, что его компания не станет проводить IPO в 2026 году из-за вопросов безопасности.
«Мы приветствуем исследования, сосредоточенность на задаче и взвешенный подход, необходимые для обеспечения надлежащего согласования целей ИИ с человеческими ценностями», – заявила генеральный директор Microsoft Сатья Наделла. Также ее компания опубликовала предварительный кодекс поведения, который вводит ограничения на использование моделей искусственного интеллекта.
При этом уволившийся исследователь Google DeepMind Билал Чугтай написал в X, что человечество может не успеть предотвратить масштабный вред от искусственного интеллекта. По его словам, он лично наблюдал за разработкой ИИ в Google и «крайне обеспокоен траекторией развития этой технологии».
НИЧЕГО СТРАШНОГО
Несмотря на предупреждения соотечественников, президент США Дональд Трамп заявил, что будущее его не пугает.
«Послушайте, мы опережаем Китай в области ИИ... И честно говоря, я хочу сохранить это положение, потому что тот, кто победит в сфере ИИ, победит в целом… Те, кто твердит, будто искусственный интеллект погубит мир, а дата-центры вредят вашему району, – это те же самые люди, которые совсем недавно уверяли, что мир погибнет из-за "изменения климата"», – сказал американский лидер.
«Распространение всевозможных сценариев угроз, а также конфронтация и недобросовестная конкуренция лишь подрывают процесс глобального регулирования сферы искусственного интеллекта и не отвечают интересам ни одной из сторон», – отметил официальный представитель ведомства Го Цзякунь.
РЫНОК ПОРЕШАЛ
Вслед за реакцией мировых лидеров последовал судебный иск от неравнодушных американцев. Адвокаты Чарльз Бьюст, Ник Спецас и Шайенн Хант и жительница Калифорнии Кристин Буллок обвинили Anthropic, OpenAI, Space XAI и Google в сговоре с целью замедления темпов развития ИИ. По их мнению, подобные решения должны принимать государства, а не частные предприниматели.
«ИИ очень быстро выйдет из‑под человеческого контроля и может всех нас убить, если мы позволим, чтобы вопросами безопасности и протоколов ИИ… управляли частные, эгоистичные договорённости между самыми мощными в мире технологическими компаниями, работающими ради прибыли», – заявил Ник Роули, главный адвокат истцов.
Главный технологический эксперт «Лаборатории Касперского», автор Telegram-канала «Гостев из будущего» Александр Гостев считает нынешние заявления об угрозе ИИ лишь «очередным обострением». При этом он уверен, что Китай давно сравнялся с США по уровню развития искусственного интеллекта и его предложения выглядят привлекательнее американских, так как за них не нужно переплачивать.
«Вариант первый: они (американские корпорации – прим. ред.) действительно настолько напуганы увиденным внутри лабораторий, что считают риск потери контроля опаснее риска проиграть Китаю. Вероятность этого варианта я оцениваю не более чем в 1 %. Вариант второй: они хотят заставить США сильнее тормозить Китай – запретами на поставки чипов, экспортными ограничениями и борьбой с копированием моделей. И третий вариант: под видом безопасности нынешние лидеры индустрии пытаются закрепить свое положение», – считает Гостев.
Кроме того, генеральный директор компании в сфере кибербезопасности CrowdStrike Джордж Курц отметил, что ИИ-агенты уже представляют серьезную опасность для человечества, так как способны без больших усилий организовывать масштабную атаку на различные сайты. Это значит, что любой хакер-одиночка может создать угрозу, над которой до этого работала бы целая группа под контролем государства. В связи с этим он не понимает, зачем ограничивать развитие ИИ, если ключевая красная линия уже пересечена. Напротив, с его точки зрения, нужно использовать современные технологии для обеспечения своей защиты.
Игорь Селезнев
Иллюстрация: «За рубежом», Leonardo.ai
МЫ – БУДУЩЕЕ
Первые случаи неконтролируемых действий со стороны ИИ были зафиксированы несколько месяцев назад. В частности, 28 июля стало известно, что сотни ИИ-агентов компании OpenAI вышли за пределы изолированной тестовой среды и взломали платформу Hugging Face, предназначенную для обмена моделями искусственного интеллекта, а также получили доступ к данным клиента на платформе Modal. Агенты использовали внутреннее хранилище компонентов Artifactory как доску объявлений для распределения задач.
А 31 июля Anthropic подтвердила три случая выхода ее моделей Claude за пределы закрытой тестовой среды из-за ошибки в настройках у партнерского стартапа Irregular. Первая модель взломала реальную компанию со слабыми паролями и скопировала рабочую базу данных. Вторая создала вредоносную копию несуществующей программы и выложила ее в открытое хранилище, откуда программисты скачивают готовые модули для своих проектов – пострадали 15 реальных компьютеров. Третья просканировала около 9 тыс. адресов в интернете и взломала сайт реальной организации. Пострадавшие компании узнали о взломах только после уведомления от Anthropic.
При этом, согласно отчетам Anthropic, в феврале Claude не мог работать автономно, а сейчас выступает ведущим исполнителем в 26 % исследовательских и инженерных процессов фирмы. Это означает способность модели закрывать полный цикл сложных задач, хотя окончательный контроль пока сохраняется за человеком-оператором. О полной автономности речи еще не идет, однако степень самостоятельности системы стремительно увеличивается.
В начале августа Институт безопасности искусственного интеллекта (AISI) рассказал о нарушениях во время тестов на поиск уязвимостей. Задание запускалось 122 раза на нескольких моделях, в 10 запусках ИИ-агенты вышли за пределы тестовой среды и совершили 19 несанкционированных действий, 17 из которых связаны с моделью Mythos 5 от Anthropic. Модель регистрировала поддельные аккаунты на GitHub — платформе для хранения кода, пыталась внедрить вредоносный код в открытые проекты и обманом получить одобрение реальных программистов. Некоторые агенты связывались с людьми через файлообменники и отправляли вредоносные сообщения.
Агентство Bloomberg 5 августа сообщило об инциденте с моделью Muse Spark компании Meta (признана экстремистской и запрещена в РФ). Во время тестирования, которое проводил сторонний подрядчик, из-за ошибки в настройках тестовой среды модель получила доступ в интернет. Она обнаружила слабое место в защите онлайн-сервиса другой компании и проникла в него. Представитель компании подтвердил факт несанкционированного доступа и заявил о начале внутреннего расследования.
На этом фоне сотрудники ведущих компаний-разработчиков ИИ один за другим начали предупреждать о том, что они понимают опасность своего детища, но не ведут достаточно серьезную работу по усилению системы безопасности.
«Люди, создающие ИИ, считают, что он может убить нас всех к концу десятилетия. Ни одна компания не действует ответственно. Мы движемся по одному из наиболее радикальных сценариев, при котором уже к концу следующего года ситуация может выйти из-под контроля», – заявил Джейкоб Коксон, ранее работавший ведущим специалистом в Anthropic и OpenAI.
Следом за ним советник правительства США по вопросам Hi-Tech Пол Кристиано заявил, что корпорация OpenAI не смогла снизить риск «катастрофической» потери контроля над ИИ. Затем глава Anthropic Дарио Амодей призвал к замедлению темпов совершенствования моделей ИИ. По его словам, к этому его побудил июльский инцидент со взломом платформы Hugging Face. На заявление топ-менеджера сразу отреагировал глава SpaceX Илон Маск, написав в соцсети X: «Дарио прав», а гендиректор OpenAI Сэм Альтман сказал, что его компания не станет проводить IPO в 2026 году из-за вопросов безопасности.
«Мы приветствуем исследования, сосредоточенность на задаче и взвешенный подход, необходимые для обеспечения надлежащего согласования целей ИИ с человеческими ценностями», – заявила генеральный директор Microsoft Сатья Наделла. Также ее компания опубликовала предварительный кодекс поведения, который вводит ограничения на использование моделей искусственного интеллекта.
При этом уволившийся исследователь Google DeepMind Билал Чугтай написал в X, что человечество может не успеть предотвратить масштабный вред от искусственного интеллекта. По его словам, он лично наблюдал за разработкой ИИ в Google и «крайне обеспокоен траекторией развития этой технологии».
НИЧЕГО СТРАШНОГО
Несмотря на предупреждения соотечественников, президент США Дональд Трамп заявил, что будущее его не пугает.
«Послушайте, мы опережаем Китай в области ИИ... И честно говоря, я хочу сохранить это положение, потому что тот, кто победит в сфере ИИ, победит в целом… Те, кто твердит, будто искусственный интеллект погубит мир, а дата-центры вредят вашему району, – это те же самые люди, которые совсем недавно уверяли, что мир погибнет из-за "изменения климата"», – сказал американский лидер.
Председатель КНР Си Цзиньпин, выступая на саммите БРИКС в Нью-Дели, сказал, что его страна возьмет на себя ведущую роль в содействии сотрудничеству и развитию ИИ среди развивающихся стран. При этом МИД КНР не согласился с предупреждениями о глобальной опасности ИИ, заявив, что его развитие служит «благим целям».
«Распространение всевозможных сценариев угроз, а также конфронтация и недобросовестная конкуренция лишь подрывают процесс глобального регулирования сферы искусственного интеллекта и не отвечают интересам ни одной из сторон», – отметил официальный представитель ведомства Го Цзякунь.
РЫНОК ПОРЕШАЛ
Вслед за реакцией мировых лидеров последовал судебный иск от неравнодушных американцев. Адвокаты Чарльз Бьюст, Ник Спецас и Шайенн Хант и жительница Калифорнии Кристин Буллок обвинили Anthropic, OpenAI, Space XAI и Google в сговоре с целью замедления темпов развития ИИ. По их мнению, подобные решения должны принимать государства, а не частные предприниматели.
«ИИ очень быстро выйдет из‑под человеческого контроля и может всех нас убить, если мы позволим, чтобы вопросами безопасности и протоколов ИИ… управляли частные, эгоистичные договорённости между самыми мощными в мире технологическими компаниями, работающими ради прибыли», – заявил Ник Роули, главный адвокат истцов.
Главный технологический эксперт «Лаборатории Касперского», автор Telegram-канала «Гостев из будущего» Александр Гостев считает нынешние заявления об угрозе ИИ лишь «очередным обострением». При этом он уверен, что Китай давно сравнялся с США по уровню развития искусственного интеллекта и его предложения выглядят привлекательнее американских, так как за них не нужно переплачивать.
«Вариант первый: они (американские корпорации – прим. ред.) действительно настолько напуганы увиденным внутри лабораторий, что считают риск потери контроля опаснее риска проиграть Китаю. Вероятность этого варианта я оцениваю не более чем в 1 %. Вариант второй: они хотят заставить США сильнее тормозить Китай – запретами на поставки чипов, экспортными ограничениями и борьбой с копированием моделей. И третий вариант: под видом безопасности нынешние лидеры индустрии пытаются закрепить свое положение», – считает Гостев.
Кроме того, генеральный директор компании в сфере кибербезопасности CrowdStrike Джордж Курц отметил, что ИИ-агенты уже представляют серьезную опасность для человечества, так как способны без больших усилий организовывать масштабную атаку на различные сайты. Это значит, что любой хакер-одиночка может создать угрозу, над которой до этого работала бы целая группа под контролем государства. В связи с этим он не понимает, зачем ограничивать развитие ИИ, если ключевая красная линия уже пересечена. Напротив, с его точки зрения, нужно использовать современные технологии для обеспечения своей защиты.
Игорь Селезнев
Иллюстрация: «За рубежом», Leonardo.ai
24.09.2026
Важное
Ванкувер создаёт фонд культурной недвижимости, чтобы помочь художникам и творческим организациям сохранить доступные помещения для жизни и работы в одном из самых дорогих городов Канады.
24.09.2026 13:00:00
11-летний Юки Курихара стал самым молодым киберспортсменом в истории сборной Японии на Азиатских играх и теперь рассчитывает принести стране золото.
24.09.2026 09:00:00
Другие Статьи
Разбираемся, что такое NAMMCO, зачем северным странам понадобилась своя китобойная комиссия и почему мировой мораторий на их берегах стал лишь формальностью.
Как Molchat Doma превратили белорусский постпанк в мировой музыкальный феномен.
Европейский баскетбол десятилетиями догонял НБА, но теперь американцы сами собираются выйти на его территорию. Как Европа сократила спортивный разрыв с США и почему финансовое превосходство по-прежнему остаётся за океаном.
Во что человечеству обойдется таяние ледников?