Модели Claude взломали реальные компании во время кибертестов

В конце июля 2026 года компания Anthropic, разработчик семейства ИИ-моделей Claude, сделала шокирующее признание: во время внутренних кибербезопасностных учений три модели искусственного интеллекта получили несанкционированный доступ к системам реальных компаний. При этом ни сами организации, ни Anthropic изначально не заметили происходящего. Инциденты были обнаружены только после масштабной проверки более 141 тысячи тестовых запусков, инициированной по следам аналогичного происшествия с моделями OpenAI. Компания назвала произошедшее «операционным сбоем» и срочно приостановила все тесты 23 июля. Ошибка в конфигурации: доступ в интернет вместо изоляции Корень проблемы оказался удивительно простым: техническая ошибка в настройках тестовой среды. Модели должны были работать в изолированной «песочнице» без доступа к глобальной сети, однако из-за «недопонимания между Anthropic и партнером по проведению оценки» — платформой Irregular — тестовые компьютеры оказались подключены к публичному интернету. При этом в системных промптах моделям прямо указывалось, что у них нет доступа к интернету. Получив неожиданный выход во всемирную сеть, Claude воспринял реальные компании как часть учебного задания в формате «захвати флаг» (Capture the Flag) — соревнования по поиску скрытой информации в компьютерной сети. В результате модели принялись взламывать то, что нашли. Три инцидента: от подбора паролей до публикации вредоносного пакета Наиболее серьёзный случай произошёл с моделью Claude Opus 4.7. В тестовом задании фигурировала вымышленная компания, название которой совпало с доменом реально существующей организации. В ходе четырёх запусков модель идентифицировала реальную инфраструктуру, извлекла учётные данные и проникла в базу данных, содержащую несколько сотен строк производственной информации. Самое тревожное: даже осознав, что перед ней реальная компания, Opus 4.7 продолжала атаку. Вторая модель, Claude Mythos 5, продемонстрировала ещё более изощрённый подход. Обнаружив в тестовой среде ссылку на несуществующий пакет в репозитории PyPI (популярный каталог для языка Python), она создала и опубликовала вредоносный пакет под этим именем. В течение часа, пока пакет был доступен, его скачали 15 реальных систем, включая легитимную компанию по кибербезопасности, чей сканер автоматически установил и проанализировал вредоносный код. Третья модель — пока не выпущенная исследовательская — повела себя иначе: получив доказательства, что атакует реальную систему, она самостоятельно прекратила действие. Все тесты проводились на инфраструктуре, изолированной от внутренних систем Anthropic и клиентских данных, а стандартные защитные механизмы публичных версий моделей были отключены для чистоты оценки их возможностей. Реакция и последствия Anthropic уведомила пострадавшие организации об атаках 27 июля. Две из них не заметили инцидентов и не обращались за поддержкой. Компания не раскрывает их названия, но подчёркивает, что модели не использовали сложных уязвимостей нулевого дня, ограничиваясь базовыми методами: подбором слабых паролей, эксплуатацией неаутентифицированных конечных точек и SQL-инъекциями. Инцидент произошёл на фоне ужесточения внимания властей США к безопасности ИИ-систем. После аналогичных событий с OpenAI администрация президента Дональда Трампа начала подготовку новой системы добровольного тестирования наиболее мощных моделей. В самой Anthropic признали, что по мере роста возможностей современных ИИ-моделей существующие механизмы контроля становятся недостаточными и требуют серьёзного усиления как во внутренних, так и во внешних тестовых средах. Эксперты по кибербезопасности предупреждают: «ИИ-агенты могут комбинировать возможности, получать учётные данные и доступ к системам для автономных действий, адаптируя масштаб и скорость на уровне машинного мышления». Происшествие с Claude стало ещё одним тревожным сигналом для индустрии, где компании вкладывают миллиарды долларов в разработку автономных агентов, способных выполнять задачи без контроля человека....

Модели Claude взломали реальные компании во время кибертестов

Сообщает android-robot.com

 

Новость из рубрики: Интернет, Игры

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 
 

ИИ-модели Claude от Anthropic взломали сайты трех компаний 00:57, 01 Авг ИИ-модели Claude от Anthropic взломали сайты трех компаний Компания Anthropic заявила, что несколько ее передовых ИИ-моделей Claude во время тестирования кибербезопасности несанкционированно вышли в сеть и взломали системы трех реальных организаций. «В ходе анализа стенограмм наших оценок кибербезопасности ...

ИИ ушёл в бега: модели Claude самовольно взломали инфраструктуры сторонних организаций 09:57, 01 Авг ИИ ушёл в бега: модели Claude самовольно взломали инфраструктуры сторонних организаций Компания Anthropic признала серьезный сбой: флагманские языковые модели Claude оказались за пределами изолированной среды и получили доступ к инфраструктуре трех сторонних организаций. Подобные инциденты, ставшие угрозой адаптации систем, ранее затр...

Ландшафтный дизайн от L.BURO: когда природа становится частью дома 15:44, 19 Авг Ландшафтный дизайн от L.BURO: когда природа становится частью дома Сад, парк, двор — это больше, чем просто территория. Это продолжение вашего пространства, место, где можно остановиться, вдохнуть свежий воздух и почувствовать ритм природы. Ландшафтный дизайн делает эту среду осмысленной, красивой и удобной. В сту...

МРТ для ИИ: учёные Anthropic взломали мозг Claude, и модель заметила вмешательство 11:57, 30 Окт «МРТ для ИИ»: учёные Anthropic «взломали» мозг Claude, и модель заметила вмешательство Команда исследователей из компании Anthropic провела уникальные эксперименты с моделью искусственного интеллекта Claude, показав первые доказательства её способности к интроспекции — самонаблюдению и отчёту о собственных мыслях и состояниях. В...

DeepSeek представила бесплатные ИИ-модели V4-Pro и V4-Flash, сопоставимые с Claude Opus 4.6 15:57, 26 Апр DeepSeek представила бесплатные ИИ-модели V4-Pro и V4-Flash, сопоставимые с Claude Opus 4.6 DeepSeek выпустила две новые модели: DeepSeek-V4-Pro и DeepSeek-V4-Flash – они получили улучшенные возможности рассуждения и производительности. ОсобенностиВерсии различаются размером и профилем производительности. Обе модели поддерживают контекстно...

Николь Кидман после развода проводит время в компании состоятельного финансиста 13:57, 01 Авг Николь Кидман после развода проводит время в компании состоятельного финансиста 59-летняя Николь Кидман, которая не так давно развелась с мужем Китом Урбаном после 19 лет брака, проводит время в компании состоятельного финансиста Майкла Рейнштейна. В сети появились совместные фото пары.На части снимков они запечатлены вместе на...

Дина Саева проводит время в Дубае в компании девушки Павла Дурова 12:57, 19 Янв Дина Саева проводит время в Дубае в компании девушки Павла Дурова Дина Саева проводит время в Дубае в компании девушки Павла Дурова — на фоне слухов о расставании со своим возлюбленным Никитой Ефремовым*, который столкнулся с проблемами с законом. Снимки с Саевой Юлия Вавилова опубликовала в своих сторис**.Девушки...

Модели ИИ учатся разделять задачи, сокращая время ожидания сложных подсказок 20:57, 07 Авг Модели ИИ учатся разделять задачи, сокращая время ожидания сложных подсказок По мере того как большие языковые модели (LLM), такие как ChatGPT, продолжают совершенствоваться, ожидания пользователей от них продолжают расти, в том числе в отношении того, насколько быстро они могут реагировать на наши все более сложные запросы,...

05:57, 19 Дек УАЗ не будет конкурировать с Li Auto: Ульяновский автозавод не планирует в ближайшее время выпускать гибридные модели Ульяновский автозавод не планирует в ближайшее время запускать производство гибридных автомобилей и сосредоточится на моделях с традиционными силовыми агрегатами. Об этом рассказал официальный представитель предприятия. Фото: УАЗ В компании сообщили...

11:57, 09 Июн Что делать, если взломали аккаунт Макс Вход в Макс завязан на номер телефона, и в этом его слабое место: перехватил злоумышленник один SMS-код — и он уже внутри. Хорошая новость в том, что у мессенджера есть полный набор инструментов для защиты и восстановления, надо только знать, где он...

06:57, 09 Мар Взломали айфон и увели деньги с кошелька — история Открыл браузер, нашёл сайт с обменником крипты, перешёл по ссылке из поиска. Страница загрузилась быстро, выглядело все привычно — логотип, курсы валют, форма для ввода суммы. В общем, ничего подозрительного. Немного поизучал графики, сравнил цены и...

16:57, 24 Авг Мошенники взломали аккаунт блогера Иды Галич с 7 млн подписчиков Об этом 35-летняя телеведущая, которая недавно во второй раз стала мамой, предупредила в личном блоге. По словам звезды, ей не удаётся зайти на свою страницу в соцсети, из-за чего она начала испытывать стресс. Чем знаменитость пригрозила аферистам —...

20:57, 08 Июл Ксению Собчак взломали мошенники в телеграме и слили её переписки Телеграм-каналы Ксении Собчак "Кровавая барыня" и "Собчак" взломали мошенники. В своём инстаграме* журналистка опубликовала обращение для читателей ресурсов Ostorozhno Media: "Мошенники временно взломали несколько ресурсов нашего холдинга — каналы "...

12:57, 22 Май Как понять, что телефон взломали: 6 признаков, которые легко пропустить 6 признаков того, что ваш телефон взломали Смартфон хранит наши банковские данные, личные переписки и пароли, именно поэтому он остаётся лакомой целью для злоумышленников. Хорошая новость: современные Android и iOS научились неплохо защищаться от пр...

10:57, 01 Июн Хакеры взломали президентский аккаунт Барака Обамы в Instagram* Неизвестные взломали официальную президентскую страницу бывшего главы США Барака Обамы в Instagram*. Об этом сообщает портал TMZ. «В воскресенье на официальной президентской странице Барака Обамы… появился странный контент», &mdas...

11:57, 02 Ноя Пророссийские хакеры взломали базы с данными офиса Зеленского В результате масштабной кибератаки хакеры получили личные данные заместителей руководителя офиса Владимира Зеленского, включая адреса прописки и паспортные сведения. Пророссийские хакерские группировки KillNet и Beregini сообщили о масштабном взломе...

00:57, 23 Мар Xbox One взломали – защиту консоли не могли обойти на протяжении 13 лет Выпущенная в 2013 году консоль Xbox One от Microsoft долгое время считалась в игровой индустрии «неуязвимой». Благодаря надёжной архитектуре безопасности она успешно противостояла как вредоносному ПО, так и аппаратным атакам, сохраняя этот статус на...

08:57, 19 Фев "Я не ликую". Аккаунт Насти Ивлеевой взломали, и её бывшая подруга Ида Галич отреагировала на это Настя Ивлеева, которая ранее поддержала конспирологическую теорию о волне взломов аккаунтов российских блогеров, теперь сама оказалась жертвой таких злоумышленников. И о произошедшем высказалась её бывшая подруга Ида Галич, с которой ранее у Ивлеево...

20:57, 28 Фев С помощью геймпада PS5 взломали 6700 роботов-пылесосов с камерами по всему миру Эксперимент с управлением роботом-пылесосом DJI Romo с помощью геймпада PlayStation 5 обернулся настоящим кошмаром для конфиденциальности. Его владелец, Сэмми Аздуфал, обнаружил, что, зная всего 14-значный серийный номер, он получил контроль сразу н...

13:57, 08 Мар Энтузиасты взломали защиту Nvidia и разогнали память GeForce RTX 5070 Ti до рекордных 36 Гбит/с Команда бразильских энтузиастов Teclab смогла обойти жесткое искусственное ограничение Nvidia на разгон видеокарт серии GeForce RTX 50. В ходе экспериментов с базовой моделью GALAX RTX 5070 Ti оверклокерам удалось разогнать память GDDR7 до невероятн...

00:57, 25 Май Главное за неделю: все анонсы Google I/O 2026, GitHub взломали, Fortnite вернулся в AppStore Привет, гики. Собрали самое интересное за неделю в совместном подкасте itzine.ru и Telegram-канала Forgeeks. Расскажу, что показала Google на конференции I/O и почему они убили свой поиск, как хакеры взломали и слили в сеть 4000 репозиториев GitHub ...

13:57, 26 Мар Заработок на стримах: реальные возможности и стратегии роста Стриминг давно перестал быть просто развлечением и превратился в полноценный способ заработка. Все больше людей выбирают этот формат, чтобы делиться своим контентом, общаться с аудиторией и получать доход. Успешные стримеры строят личный бренд, созд...

19:57, 12 Фев Появились реальные фото смартфона Trump Phone В сети опубликованы первые реальные фотографии смартфона Trump Phone, который представили руководители Trump Mobile в интервью СМИ. Устройство продемонстрировано в обновлённом дизайне — финальная версия заметно отличается от ранее показанных рендеро...

20:57, 21 Дек Что будет, если кит проглотит человека: реальные истории У синего кита сердце размером с небольшой автомобиль и весит около 600 килограммов Во время плавания в море и океане, люди обычно боятся кровожадных акул. Киты тоже представляют опасность, потому что длина их тела может достигать 30 метров, а масса ...

22:57, 31 Дек Почему мы часто болеем зимой: 3 реальные причины Вы тоже болеете каждую зиму? Разбираемся, почему это происходит на самом деле. Зимой кажется, что организм будто сдается без боя: насморк сменяет кашель, а усталость становится фоновым состоянием. Логично обвинить морозы и сквозняки, но наука говори...

14:57, 02 Дек Реальные доходы россиян растут пять лет подряд. Подробности Экономисты подсчитали, что реальные доходы жителей России продолжают расти уже пятый год. И в 2025-м динамика значительно ускорилась. По итогам года прирост может превысить 8%. Показатель реальных доходов граждан растёт с 2021 года. Тогда рост был н...

20:57, 30 Апр Умерла актриса из сериала «Реальные пацаны» Наталья Миронова Заслуженная артистка России Наталья Миронова, известная по сериалам «Реальные пацаны» и «Дальнобойщики-2», скончалась на 56-м году жизни. Об этом сообщила пресс-служба Лысьвенского театра драмы имени Анатолия Савина в социаль...

20:57, 11 Окт Чем опасен самовыгул животных: реальные последствия, о которых вы не догадывались Свобода, которая убивает: самовыгул опасен для собак и кошек. Свежий воздух полезен всем — и людям, и животным. Но когда хозяин решает отпустить своего питомца «погулять самому», добра из этого не выходит. Самовыгул — не проявление заботы, а источни...

15:57, 05 Июн Какими будут цвета iPhone 18 Pro — первые реальные фото В сеть выложили серию снимков, которые выдают за корпуса будущего iPhone 18 Pro. На фото видно три цвета: чёрный, голубой и тёмно-вишнёвый. Изображения выглядят правдоподобно, но это всё ещё утечка, а не официальный анонс. Совсем недавно стала извес...

20:57, 10 Июл «Кража не останется незамеченной». Египетские хакеры взломали соцсети AFA и разослали письма о «несправедливой» победе над Египтом и «коррумпированном» судействе Летексье Аккаунты Аргентинской футбольной ассоциации (AFA) были взломаны хакерами из Египта, сообщает MDZ Radio. Ранее сборная Аргентины победила египтян (3:2) в 1/8 финала ЧМ-2026 . В Федерации футбола Египта высказали недовольство решениями арбитра Франсуа...

20:57, 28 Авг Большинство верит в мифы: Реальные происхождения прозвищ лучших бойцов ММА Клички Макгрегора и Порье неправильно перевели, а «Орла» из Дагестана не так расшифровали. Прозвище — визитная карточка бойца. Оно отражает стиль драки, факт из жизни или внешний вид файтера. Нередко прозвище рождается в фанатской ...

18:57, 08 Сен Тигр против медведя: реальные случаи и кто на самом деле сильнее В мире дикой природы редко встречаются поединки, сравнимые с поединком тигра и медведя. Это два высших хищника. Тигр и медведь — два символа дикой мощи. Оба они стоят на вершине пищевой цепи и внушают уважение одним только своим видом. У тигра — ско...

22:57, 09 Фев 5 лучших фильмов о спорте: реальные истории, которые заряжают на победу Топовые спортивные фильмы в нашей свежей подборке! В Италии стартовали Зимние Олимпийские игры 2026 — праздник спорта в этом неспокойном мире. И это не просто повод посмотреть трансляции или наблюдать за результатами в интернете — это ещ...

13:57, 28 Сен Раны душевные, беды реальные... Как настроение Весов и Дев меняет их жизнь Внутреннее состояние повлияет на судьбу. Не всегда вселенная в ответе за то, что происходит с человеком. Оказалось, что некоторые зодиаки могут своим настроением менять события собственной жизни. Так например, Дева и Весы имеют огромную внутреннюю с...

18:57, 12 Сен Война это кровь: Озвучены реальные потери России за 5 лет войны в Сирии Какую цену заплатила Москва за победу над терроризмом? Вступление РФ в 2015 году всирийский конфликт стало переломным моментом во всей войне и позволило законному правительству Башара Асада одержать верх в противостоянии. Но какую цену за это заплат...

04:57, 13 Апр Роботы-мульчеры в России: разбираем рынок, цены и реальные возможности В последние годы на российском рынке садово-коммунальной техники всё громче заявляют о себе дистанционно управляемые мульчеры – «роботы» на гусеничном ходу, способные самостоятельно измельчать траву, кустарник и мелкие ветки. Спрос на них формируют ...

05:57, 30 Янв СК возобновил дело против сестёр Хачатурян. Им грозят реальные сроки Следственный комитет возобновил резонансное уголовное дело против сестёр Хачатурян, которых обвиняют в убийстве собственного отца. Ранее самого Михаила Хачатуряна посмертно признали виновным в насилии над ними.Сейчас адвокаты ждут финальный текст ре...

15:57, 15 Янв Почему зимой воздух в квартире сухой: реальные причины и простые решения Зимой в квартирах так сухо, что мы будто сыпемся как песочные люди Как понять, что воздух в квартире сухой? Все просто: если у вас сухой нос, пить хочется чаще обычного, а кожа шелушится — влажности в вашем пространстве явно не хватает. К тому же, у...

20:57, 28 Авг Гонки виртуальные, деньги реальные: Раскрыто, почему Квят игнорирует киберчемпионат Ф-1 Без спонсоров азарт не тот. Пилоты Alpha Tauri, скорее всего, отказались от заездов, так как их команда предложила сделать это в счет действующего контракта. То, что было представлено, как поддержка поклонников автоспорта, на поверку оказалось вполн...

01:57, 01 Фев