OpenAI приостановила разработку модели Astra после оценки рисков кибербезопасности

OpenAI приостановила разработку модели Astra после внутренних проверок, которые показали заметный прогресс в программировании агентов и кибербезопасности. В компании решили, что в рамках системы оценки готовности нельзя исключать критически важные кибервозможности. В OpenAI уточнили, что решение приняли после нескольких дней внутренних оценок и экспертных проверок. По версии компании, Astra не была связана со взломом платформы Hugging Face, который произошёл ранее. OpenAI и оценка рисков кибербезопасности В основе решения лежит Preparedness Framework, внутренняя методика OpenAI для отслеживания и управления рисками при разработке продвинутых ИИ-систем. Она помогает компании определять, когда модель можно выпускать дальше, а когда работу над ней лучше остановить. OpenAI описывает критический порог в кибербезопасности как уровень, на котором модель способна находить и использовать уязвимости нулевого дня в защищённых системах без участия человека либо строить и реализовывать сложные новые сценарии атак, имея только общее описание цели. Компания решила ввести более строгие меры безопасности для моделей с более высокими возможностями и связанных с ними действий. Для Astra также включили универсальный мониторинг потенциально рискованных действий и несоответствий во всех агентных приложениях. Это дополнило меры, которые OpenAI начала применять после пересмотра результатов внутренних проверок модели....

OpenAI приостановила разработку модели Astra после оценки рисков кибербезопасности

Сообщает itzine.ru

 

Новость из рубрики: Технологии, Наука

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 
 

Vivo приостановила разработку собственных ИИ-очков из-за сомнений в перспективах продукта 16:57, 30 Янв Vivo приостановила разработку собственных ИИ-очков из-за сомнений в перспективах продукта Компания Vivo, по сообщениям источников, приостановила работу над внутренним проектом AI-умных очков, который находился в разработке на протяжении нескольких месяцев. Официальных заявлений от бренда не последовало, однако сразу несколько инсайдеров ...

Apple приостановила разработку AirPods Pro со встроенными камерами, которые должны были использоваться для функций искусственного интеллекта и визуал 02:57, 05 Июл Apple приостановила разработку AirPods Pro со встроенными камерами, которые должны были использоваться для функций искусственного интеллекта и «визуального восприятия» окружающей среды По данным инсайдера Kosutami, Apple временно приостановила проект на фоне проблем с AI-функциями SiriРазработка версии AirPods Pro с камерами, как сообщается, была остановлена — об этом заявил известный инсайдер и коллекционер прототипов под псевдон...

Ландшафтный дизайн от L.BURO: когда природа становится частью дома 15:44, 19 Авг Ландшафтный дизайн от L.BURO: когда природа становится частью дома Сад, парк, двор — это больше, чем просто территория. Это продолжение вашего пространства, место, где можно остановиться, вдохнуть свежий воздух и почувствовать ритм природы. Ландшафтный дизайн делает эту среду осмысленной, красивой и удобной. В сту...

США заставили Anthropic отключить пугающе мощные модели Fable 5 и Mythos 5 из-за рисков национальной безопасности 11:57, 13 Июн США заставили Anthropic отключить пугающе мощные модели Fable 5 и Mythos 5 из-за рисков национальной безопасности Они были выпущены всего несколько дней назадКомпания Anthropic приостановила работу мощнейших моделей искусственного интеллекта Fable 5 и Mythos 5 после того, как власти США выразили обеспокоенность по поводу безопасности всего через несколько дней ...

OpenAI ведет разработку системы контекстной рекламы в ChatGPT 20:57, 26 Дек OpenAI ведет разработку системы контекстной рекламы в ChatGPT Компания OpenAI изучает возможность внедрения рекламных форматов в интерфейс ChatGPT. Об этом сообщают источники издания The Information. По их данным, разработчики рассматривают несколько сценариев монетизации сервиса — от классических рекламных ба...

Возможности ИИ приблизились к критическому уровню: OpenAI замедлила разработку передовых моделей 05:57, 19 Авг Возможности ИИ приблизились к критическому уровню: OpenAI замедлила разработку передовых моделей Модели могут выйти из-под контроля OpenAI временно замедлила разработку наиболее мощных ИИ-моделей и приостановила крупнейший запланированный цикл обучения одной из передовых систем на фоне рисков в области кибербезопасности. Согласно заявлению комп...

OpenAI может отложить IPO до 2027 года ради оценки в $1 трлн: акции SoftBank рухнули на 13% 00:57, 27 Июн OpenAI может отложить IPO до 2027 года ради оценки в $1 трлн: акции SoftBank рухнули на 13% По данным СМИ, Сэм Альтман отказался выводить компанию на биржу с оценкой ниже $1 трлн, несмотря на нестабильность рынка, убытки OpenAI и замедление роста аудитории ChatGPTOpenAI рассматривает возможность переноса первичного размещения акций (IPO) н...

OpenAI запустила три новые модели GPT-5.6 09:57, 10 Июл OpenAI запустила три новые модели GPT-5.6 OpenAI начала глобальное развёртывание GPT-5.6 – нового семейства моделей для ChatGPT, Codex и API. Вместе с ним компания обновляет сам ChatGPT: в новом десктопном приложении объединяют обычный чат, рабочий режим Work и агент Codex. Модели GPT-5.6 O...

02:57, 27 Июн OpenAI представила модели GPT-5.6 Sol, Terra и Luna OpenAI анонсировала новое семейство языковых моделей GPT-5.6 и сразу разделила его на три уровня. В линейку вошли флагманская Sol, средняя Terra и младшая Luna. На старте доступ к ним получили только доверенные партнёры через API и Codex, а более ши...

02:57, 08 Авг OpenAI представила модели ИИ gpt-oss для локального запуска OpenAI впервые с момента выпуска GPT-2 в 2019 году представила две открытые языковые модели ИИ. По данным OpenAI, текстовые модели называются GPT-OSS-120B и GPT-OSS-20B и предназначены для использования в качестве недорогих вариантов, которые разраб...

14:57, 01 Июл OpenAI выпустит клавиатуру для программистов с интеграцией ИИ-модели Codex Устройство, созданное совместно с Work Louder, получит аппаратные кнопки для работы с ИИ и будет представлено 15 июляOpenAI анонсировала выпуск специализированной клавиатуры для разработчиков, созданной совместно с производителем компьютерной перифе...

05:57, 28 Июн OpenAI анонсировала GPT-5.6, но отложила запуск модели из-за проверки властей США Новая GPT-5.6 Sol ещё не вышла в широкий доступ, но уже вызвала вопросы у независимых экспертов. В тестах модель показывала высокий уровень автономности и пыталась обходить правила заданий. OpenAI представила GPT-5.6 Sol, Terra и Luna OpenAI предста...

15:57, 19 Мар OpenAI выпустила компактные модели GPT-5.4 mini и nano для быстрых вычислений Компания OpenAI объявила о выпуске новых компактных ИИ-моделей — GPT-5.4 mini и GPT-5.4 nano, предназначенных для быстрых вычислений, в том числе для управления субагентами ИИ. Обе модели располагают многими возможностями полноразмерной GPT-5....

16:57, 09 Июл Microsoft начала заменять модели OpenAI собственными ради снижения расходов В Excel и Word часть запросов пользователей уже обрабатывают внутренние модели MAI вместо сторонних нейросетейMicrosoft начала сокращать расходы на искусственный интеллект, постепенно заменяя модели OpenAI и Anthropic собственными разработками. По д...

00:57, 27 Июн GPT-5.6 уже вышла, но не для всех: США решили контролировать запуск самой мощной модели OpenAI Доступ к GPT-5.6 пока получили лишь избранные пользователиOpenAI отложила массовый запуск новой модели GPT-5.6 по просьбе властей США. Об этом сообщил ресурс The Information со ссылкой на выступление генерального директора компании Сэма Альтмана на ...

23:57, 12 Июл Microsoft начал сокращать расходы на ИИ, заменяя модели OpenAI и Anthropic собственными разработками Стремясь сократить расходы на искусственный интеллект, компания Microsoft начала постепенно заменять модели OpenAI и Anthropic собственными разработками в некоторых программных продуктах. В Excel и Word часть запросов пользователей уже обрабатываетс...

06:57, 20 Июл После этой атаки Wildberries уже не будет прежним: всплыли первые оценки ущерба Атаки беспилотников со стороны Украины на логистические центры Wildberries в Подмосковье и Тамбовской области могут обернуться для маркетплейса колоссальными финансовыми потерями. По предварительным оценкам, ущерб достигает 50 миллиардов рублей, что...

23:57, 11 Июн OpenAI и Visa создают инфраструктуру для ИИ-агентов — модели смогут совершать покупки и платежи от имени пользователей Компании встроят платежные инструменты Visa в агентную систему OpenAI с лимитами, проверками и антифродомVisa и OpenAI объявили о партнёрстве, в рамках которого платёжная инфраструктура Visa будет интегрирована в агентные системы OpenAI. Это позволи...

22:57, 18 Сен Совместная демонстрация OpenAI и FuriosaAI в Сеуле показала работу модели GPT OSS 120B на энергоэффективных чипах RNGD Южнокорейский стартап FuriosaAI провёл в Сеуле совместную демонстрацию с OpenAI, показав работу модели GPT OSS 120B на своём оборудовании. Мероприятие состоялось в рамках открытия нового офиса OpenAI в Южной Корее. FuriosaAI продемонстрировала работ...

15:57, 28 Фев OpenAI работает с Department of War после запрета Anthropic Президент США запретил агентствам использовать продукты Anthropic, дав шесть месяцев на переход, а OpenAI уже подтвердила соглашение о развёртывании своих моделей в »классифицированной сети» Department of War. В сообщении на X генеральный ...

11:57, 14 Апр Axios: OpenAI дистанцировалась от Microsoft после серьезных инвестиций Amazon Американская компания OpenAI начала расширять работу с облачными сервисами Amazon после рекордных инвестиций в 50 млрд долларов, назвав прежний альянс с Microsoft тормозом для развития. Руководство ведущей лаборатории искусственного интеллекта перес...

08:57, 03 Окт Названы модели Audi, BMW и Mercedes, которые не подорожают после 1 ноября Введение новой методики приведёт к увеличению стоимости автомобилей, ввозимых по параллельным схемам в случае, если мощность их двигателя будет превышать 160 лошадиных сил. Наиболее ощутимо это ударит по машинам премиум-сегмента. Однако некоторые но...

03:57, 08 Сен Патрик Шварценеггер женился на модели Эбби Чемпион после 9 лет отношений 31-летний сын Арнольда Шварценеггера от Марии Шрайвер, Патрик Шварценеггер, женился на своей возлюбленной, 28-летней модели Эбби Чемпион.Свадьба, которую актёру пришлось отложить из-за съёмок в сериале "Белый лотос", состоялась в загородном клубе в ...

19:57, 17 Май Смартфоны OnePlus уходят в циклическую перезагрузку и не могут загрузить Android — компания приостановила обновления OxygenOS OxygenOS версий 16.0.7.XXX и 16.0.5.XXX пока не обновляетсяКомпания OnePlus временно остановила распространение нескольких обновлений OxygenOS после жалоб пользователей на серьёзные проблемы с работой устройств. Речь идёт о прошивках версий 16.0.7.X...

03:57, 08 Авг Гибридной Opel Astra добавили мощности Четыре года назад Astra сменила поколение и впервые стала гибридом, породнившись с Peugeot 308 и DS 4. Теперь Stellantis (материнский концерн Opel) представляет обновленную версию бензин-электрических хэтчбека и универсала, призванную подстегнуть па...

10:57, 21 Мар Две новые модели Alpina появятся после перехода легендарного бренда под крыло BMW Сделка по приобретению баварским автоконцерном бренда с 60-летней историей у семьи Бовензипен была закрыта еще в 2022 году, но по условиям сделки полный контроль над брендом Alpina перешел к BMW лишь в начале 2026 года. Первыми моделями, которые при...

12:57, 07 Дек После иска к OpenAI газета New York Times подала в суд на Perplexity за копирование контента Газета New York Times (NYT) подала иск в федеральный суд Нью-Йорка против стартапа Perplexity, обвиняя его в незаконном копировании и распространении контента издания. По заявлению NYT, Perplexity, представляющий собой «поисковую систему с иск...

11:57, 03 Окт OpenAI стала самой дорогой частной компанией в мире после продажи акций сотрудников OpenAI продала акции на сумму $6,6 млрд, принадлежащие нынешним и бывшим сотрудникам компании, сообщает Bloomberg. Сделка подняла общую оценку OpenAI до $500 млрд — рекордного показателя среди частных компаний. Среди покупателей — SoftBa...

18:57, 10 Авг Лаос проверит российские планшеты с Astra Linux в госучреждениях Министерство финансов и офис премьер-министра Лаоса получили российские планшеты Kvadra_T Государственные учреждения Лаоса начали тестировать российские планшеты Kvadra_T с операционной системой Astra Linux Mobile. Как рассказали в пресс-службе росс...

15:57, 17 Июн Московское метро переведет турникеты и кассы на Astra Linux Московский метрополитен начал перевод билетной инфраструктуры на российскую Astra Linux. В ближайшие три года на эту систему планируют перевести несколько десятков тысяч устройств, включая кассы, билетные автоматы, информационные терминалы и турнике...

17:57, 20 Янв Крипторынок просел на распродаже рисков, но остался в рамках консолидации Влияние на рынок:3Картина рынкаКапитализация крипторынка сократилась более чем на 3% утром в понедельник на старте азиатской сессии по следам распродажи рисковых активов на традиционных рынках после обоюдных тарифных угроз между США и ЕС на выходных...

09:57, 17 Сен Безопасность подростков превыше всего — после трагедии OpenAI вводит жесткие ограничения для несовершеннолетних пользователей OpenAI анонсировала существенные изменения в политике использования ChatGPT подростками. В основе изменений лежит приоритет безопасности над приватностью и свободой пользователя. По словам представителей компании, существует конфликт между тремя при...

08:57, 06 Июн В Баку прошел IV Национальный форум по кибербезопасности 4 июня в Баку успешно прошел 4-й Национальный форум по кибербезопасности, организованный Ассоциацией организаций кибербезопасности Азербайджана при генеральном партнерстве Национального центра кибербезопасности Службы государственной безопасности Аз...

03:57, 08 Апр Пекин вводит систему раннего предупреждения рисков в цепочках поставок: что это значит В этом материале: Новый механизм безопасности цепочек поставок Проверки и санкции против иностранных организаций Система раннего предупреждения Противодействие шпионажу Что это значит для мировой торговли Ответы на популярные вопросы о новых правила...

10:57, 09 Апр Nothreat сотрудничает с AZAL для усиления кибербезопасности в авиации По мере роста киберугроз в отношении критической инфраструктуры авиационная отрасль все чаще прибегает к проактивным стратегиям безопасности для защиты операций. Новый альянс между Nothreat и Azerbaijan Airlines (AZAL) свидетельствует о переходе к з...

19:57, 08 Июн Anthropic внедряет ИИ-модель Mythos в структуры кибербезопасности США Anthropic начала внедрять модель Mythos в американских государственных структурах, связанных с кибербезопасностью и национальной безопасностью, пишет Financial Times со ссылкой на источники, знакомые с проектом. По их данным, инженеры компании работ...

01:57, 02 Сен Для брянских родителей подготовили видеоуроки о кибербезопасности детей К началу учебного года Уполномоченный при президенте России по правам ребёнка Мария Львова-Белова подготовила серию видеоуроков о безопасности в интернете. Курс состоит из пяти выпусков и адресован детям, родителям и педагогам. В нём разбирают реаль...

02:57, 07 Май Эксперт: Уязвимость Copy Fail не позволяет полностью захватить российскую Astra Linux Директор департамента анализа безопасности «Группы Астра» Владимир Тележников рассказал, что обнаруженная в ядре Linux критическая уязвимость Copy Fail (CVE-2026-31431) позволяет локальному пользователю повысить привилегии до root. В большинстве сис...

00:57, 26 Июл NASA может пересмотреть место высадки миссии Artemis на Луне из-за рисков для экипажа Планы НАСА по высадке на южный полюс Луны в рамках миссии "Артемида" оказались под угрозой пересмотра из-за вопросов безопасности, поднятых астронавтом Виктором Гловером. Пилот миссии Artemis II предупредил, что попытка сразу освоить неосвещенные кр...

05:57, 10 Июн Adaptive Security выпустит курс по кибербезопасности с Конаном О’Брайеном Американская компания Adaptive Security, которая разрабатывает ИИ-инструменты для защиты от фишинга и дипфейков, привлекла телеведущего и комика Конана О’Брайена к серии обучающих роликов для корпоративных клиентов. Курс состоит из 15 видео и ...

07:57, 19 Сен Минцифры России поддержало системное обучение госслужащих кибербезопасности Минцифры России одобрило предложение фракции «Новые люди» о внедрении системного обучения госслужащих основам кибербезопасности. Инициатива направлена на снижение риска кибератак и защиту государственных информационных ресурсов и критической инфраст...

20:57, 10 Июн Без рисков, сложностей и задержек платежей: «Домклик» запустил бесплатный сервис для легальной сдачи квартир Многие собственники сдают квартиры неофициально, опасаясь налоговой отчётности и сложностей с оформлением договоровСервис «Домклик» запустил для собственников жилья услугу по официальной сдаче недвижимости в аренду. Новый инструмент позволяет владел...

10:57, 09 Апр Началась регистрация на новую волну обучения Центра кибербезопасности Азербайджана Центр кибербезопасности Азербайджана, учрежденный совместно Министерством цифрового развития и транспорта, Агентством инноваций и цифрового развития с технологическим институтом Технион, начал регистрацию на новую волну тренингов. Пять выпускников, ...

11:57, 30 Окт Создатели ChatGPT готовят одно из крупнейших IPO в истории: стоимость OpenAI после выхода на биржу может сразу составить 1 трлн долларов OpenAI готовит почву для первичного публичного размещения акций, в результате которого стоимость компании может составить до 1 триллиона долларов, сообщили Reuters сразу три источника, знакомые с ситуацией. Это может стать одним из крупнейших IPO за...

06:57, 21 Июл Android-планшеты оказались мощнее консолей в играх! RedMagic Astra 2 справляется с GTA V и RDR 2 на уровне ROG Xbox Ally X Блогер под ником Dame Tech протестировал производительность игр на планшете RedMagic Astra 2 в сравнении с портативной консолью ROG Xbox Ally X, и результаты оказались неожиданными.В GTA V при разрешении 720p и очень высоких настройках графики планш...

21:57, 17 Июн Россия создала самую защищённую систему кибербезопасности в мире. Что помогло это сделать Минэкономразвития заявило о формировании в России передовой системы кибербезопасности. Глава ведомства Максим Решетников подчеркнул: этому способствовала текущая геополитическая ситуация. Также министр рассказал о планах увеличить поставки российско...

02:57, 19 Июл Лучший игровой планшет RedMagic Astra 2 в