Растущая популярность больших языковых моделей (LLM, Large Language Models) не только облегчает выполнение типовых задач и повышает доступность информации, но и создает принципиально новые риски в области информационной безопасности. О том, как можно использовать LLM, сегодня активно спорят не только эксперты отрасли, но и злоумышленники. Специалисты «Лаборатории Касперского» провели исследование, целью которого стало освещение деятельности дарквеб-сообщества, связанной с вредоносным применением инструментов искусственного интеллекта (ИИ). Чат-боты и прочие инструменты на базе ИИ не опасны сами по себе, но злоумышленники могут использовать их в неправомерных целях. Важно понимать, как именно они могут это делать, чтобы выстроить более эффективную защиту от постоянно развивающихся угроз. Использование GPT на теневых форумах Участники теневых форумов обмениваются способами использования ChatGPT для неправомерных целей. Например, в одном сообщении предлагается использовать GPT для генерации полиморфного вредоносного кода, который способен видоизменяться, сохраняя базовую функциональность. Обнаруживать и анализировать подобные программы значительно сложнее, чем обычные зловреды. Автор сообщения предлагает использовать API OpenAI для генерации кода с заданной функциональностью. Таким образом с помощью обращения к легитимному домену (openai.com) из инфицированного объекта злоумышленник может сгенерировать и запустить вредоносный код, обходя ряд стандартных проверок безопасности. Помимо этого, злоумышленники стали часто использовать ChatGPT и прочие инструменты на базе искусственного интеллекта при разработке вредоносных продуктов или в иных противоправных целях. На скриншоте ниже посетитель теневого форума описывает, как использование ИИ помогло ему решить проблему при обработке дампов пользовательских данных. Типовые задачи, для решения которых раньше требовался определенный опыт и знания, сейчас решаются одним запросом, что резко снижает порог входа во многие сферы, в том числе и в преступную. Подобные тенденции могут увеличивать потенциальное количество атак. Действия, для которых ранее требовалась команда людей с определенным опытом, сейчас могут совершать даже новички. Использование языковых моделей для решения типовых задач и получения информации стало настолько популярным, что на некоторых теневых форумах в функциональность по умолчанию встроены ответы от ChatGPT или аналогов. Ниже приведен пример автоматически сгенерированного ответа на пост участника тематического преступного форума. В нем ИИ дает совет по прошивке телефона. Джейлбрейки Чтобы языковая модель могла давать ответы, связанные с преступной деятельностью, злоумышленники придумывают наборы особых команд, которые могут открывать дополнительную функциональность. Такие наборы команд для LLM собирательно называются jailbreak. Они весьма распространены и активно дорабатываются пользователями различных социальных платформ и участниками теневых форумов. Есть злоумышленники, которые не только выискивают подобные команды в отдельных сообщениях, но и собирают целые коллекции подобных наборов. Тут следует отметить, что далеко не все запросы в подобных коллекциях созданы для противоправных действий и снятия ограничений; они могут быть предназначены и для получения более точного результата для конкретной легитимной задачи. При том, что разработчики стремятся ограничить выдачу потенциально опасного контента, они стараются сделать так, чтобы эти ограничения не мешали обычному пользователю. Есть информация, которая, хоть и не является нелегитимной, может использоваться злоумышленниками для проведения атак. Использование в ПО Появилось множество утилит и программных решений, использующих GPT для усовершенствования своей работы. В дарквебе вполне реально встретить рекламу нового ПО для операторов вредоносных программ. В числе его особенностей — использование ИИ для обеспечения безопасности оператора и автоматического переключения используемых доменов прикрытия. Перспективы эксплуатации инструментов open source и программ для пентеста Различные решения на базе ChatGPT активно тестируются разработчиками ПО с открытым исходным кодом, в том числе в разработках, создаваемых для специалистов по информационной безопасности. Такие проекты могут быть взяты на вооружение злоумышленниками и уже сейчас обсуждаются на соответствующих тематических форумах для использования во вредоносных целях. Одна из утилит с открытым исходным кодом, размещенная на платформе GitHub, предназначена для обфускации кода, написанного на PowerShell. Подобное часто используется как специалистами по кибербезопасности, так и злоумышленниками во время проникновения в систему и попытки закрепиться в ней. Обфускация позволяет повысить шанс остаться незамеченным со стороны систем мониторинга и антивирусных решений. С помощью сервиса Kaspersky Digital Footprint Intelligence был обнаружен пост на теневом форуме, в котором злоумышленники делятся этой утилитой, показывают, как ее можно использовать для вредоносных целей и какой результат это даст. Существует ряд других легитимных утилит, которыми эксперты сообщества делятся в исследовательских целях. Безусловно, они полезны в первую очередь для специалистов по кибербезопасности и некоторые из них являются ценным активом с точки зрения развития сообщества и даже индустрии в целом. Однако стоит всегда помнить, что злоумышленники тоже постоянно находятся в поиске инструментов для автоматизации вредоносной активности и снижения порога входа в киберкриминальную сферу. Опасные аналоги ChatGPT Опасность представляют и такие проекты, как WormGPT, XXXGPT, FraudGPT. Это языковые модели, рекламируемые как замена ChatGPT с отсутствующими ограничениями оригинала и дополнительной функциональностью. Повышенный интерес к подобным решениям может обернуться для авторов проблемой. Большая часть обсуждаемых решений может быть использована как в правовом поле, так и для нелегальной активности. Проект WormGPT был закрыт в августе 2023 года из-за реакции сообщества, хотя разработчики утверждают, что их изначальной целью не были исключительно противоправные действия, а причиной закрытия стали многочисленные публикации в СМИ, освещающие проект как однозначно вредоносный и опасный. Несмотря на закрытие проекта, специалисты «Лаборатории Касперского» постоянно выявляют множество сайтов и объявлений, предлагающих купить доступ к нашумевшей WormGPT. Злоумышленники не только используют эту языковую модель для своих целей, но и создали целый сегмент фейковых объявлений. Отличительная особенность таких сайтов заключается в том, что они созданы как типичные фишинговые. Сайты отличаются как по дизайну, так и по предлагаемым ценам и способам оплаты. Распространенность подобных предложений вынудила авторов проекта WormGPT еще до закрытия начать предупреждать пользователей о возможности обмана. Пример WormGPT не является единственным, и, как мы отметили выше, существует множество других моделей. Многие из них не имеют оригинальных ограничений и могут пред...
Сообщает infocity.tech
Новость из рубрики: Технологии, Наука
Поделиться новостью:
Топ новости часа
Топ новости часа- Просто натрите кабачки и добавьте яйца: в сезон это блюдо готовлю постоянно - такую полезную пиццу из кабачков полюбят даже привереды...
- Просто натрите кабачки и добавьте яйца : так вкусно, в сезон готовлю через день - такую полезную пиццу из кабачков полюбят даже дети...
- Просто натрите кабачки и добавьте яйца: в сезон готовлю постоянно - такую полезную пиццу из кабачков полюбят даже капризные дети...
- Все, что известно о Samsung Galaxy A17 5G — дата выхода, цена, характеристики...
- Цискаридзе взял Гагарину в свой «гарем» после развода с Исхаковым...
- Что нельзя делать во время эпилептического припадка...
17:57, 07 Фев В Китае появится кроссовер Wey V9X с искусственным интеллектом У флагманской модели бренда Wey, принадлежащего концерну Great Wall Motor, шестиместный салон и передовая система помощи водителю.Полноразмерный кроссовер V9X — первая модель, построенная на новой платформе Guiyuan S. Внешность новинки полностью соо...
09:57, 25 Дек Новые браузеры с искусственным интеллектом: какой выбрать Технологии искусственного интеллекта постепенно проникают во все сферы нашей жизни. И, конечно, же они не обошли стороной браузеры. Умные функции интегрируются в популярных во всем мире Google Chrome, Opera и Microsoft Edge. А помимо этого на рынке ...
15:44, 19 Авг Ландшафтный дизайн от L.BURO: когда природа становится частью дома Сад, парк, двор — это больше, чем просто территория. Это продолжение вашего пространства, место, где можно остановиться, вдохнуть свежий воздух и почувствовать ритм природы. Ландшафтный дизайн делает эту среду осмысленной, красивой и удобной.
В сту...
08:57, 31 Авг Что известно о первом компьютерном вирусе с искусственным интеллектом Новый ИИ-вирус может действовать как настоящий хакер, и это беспокоит экспертов Компьютерные вирусы давно известны всем, кто хоть раз сталкивался с проблемами на своем ПК, но настоящий поворот наступил, когда появился первый вирус с искусственным ин...
09:57, 20 Фев Люди слишком самоуверенны в распознавании лиц, созданных искусственным интеллектом Большинство людей считают, что могут распознать лица, созданные искусственным интеллектом, но эта уверенность устарела, как показали исследования Университета Нового Южного Уэльса в Сиднее и Австралийского национального университета (ANU). Поскольку...
03:57, 18 Апр Китайский электромобиль MG4 оснастили искусственным интеллектом для общения с водителем Компания SAIC официально представила обновленный электромобиль MG4 2026 года. Мировая премьера модели состоится на предстоящем Пекинском автосалоне, сообщает Carnewschina.Экстерьер сохранил фирменный дизайн марки, но получил обновленные фары, сегмен...
16:57, 05 Дек Opera для Android получила новые обновления с искусственным интеллектом Opera представила новые функции искусственного интеллекта для своего браузера Opera для Android. Обновление приближает мобильную версию по возможностям к настольному флагману компании — браузеру Opera One. Одно из ключевых нововведений —...
07:57, 20 Мар Склонность чат-ботов с искусственным интеллектом всегда соглашаться может усиливать заблуждения у уязвимых пользователей Интеграция чат-ботов на основе больших языковых моделей в различные аспекты нашей повседневной жизни открыла перед нами преимущества, которые еще десять лет назад считались бы невозможными. Однако это же развитие событий породило и непредвиденные ри...
09:57, 31 Дек Устройство с искусственным интеллектом, использующее ионный гель и графен, сокращает потребление энергии машинным обучением в 100 раз В последние годы энергопотребление технологий машинного обучения, представленных глубоким обучением и генеративным искусственным интеллектом (ИИ), экспоненциально возросло, создав серьезную социальную проблему. Для решения этой проблемы растет спрос...
08:57, 05 Янв Обзор необычного планшета с E-Ink и искусственным интеллектом. Обзор Viwoods AiPaper SE03 Мы все представляем, что такое планшет. Это большой экран с кучей функций, но все они примерно одинаковые. А недавно мне попался один очень необычный планшет, который сначала больше похож на электронную книгу, но потом оказывается намного более прок...
23:57, 27 Ноя Злоумышленники создают поддельные сайты с применением ИИ и добавляют в них вредоносные сборки легитимного ПО «Лаборатория Касперского» обнаружила новую вредоносную кампанию. Злоумышленники генерируют с применением ИИ поддельные сайты, чтобы распространять через них троянизированные сборки легитимного инструмента удалённого доступа Syncro. Если человек скач...
15:57, 24 Окт Возвращение PassiveNeuron: злоумышленники атаковали серверы крупных организаций в разных странах Эксперты Kaspersky GReAT изучили новую волну заражений PassiveNeuron, которая длилась с декабря 2024 года до августа 2025 года. Атаки затронули правительственные, финансовые и промышленные организации в Азии, Африке и Латинской Америке. Отличительна...
10:57, 26 Фев Мошенники начали мстить россиянам за отказ идти на поводу. Как злоумышленники атакуют бдительных граждан В России набирает обороты новая тактика мошенников — месть тем, кто распознал обман и отказался сообщать коды из СМС. Специалисты сервиса Smart Business Alert компании ЕСА ПРО выявили, что злоумышленники переходят к агрессивным действиям против поте...
10:57, 15 Окт Желаем приятного полёта: злоумышленники выманивают у организаций деньги под видом предложений о сотрудничестве с авиакомпаниями «Лаборатория Касперского» фиксирует по всему миру всплеск мошеннических рассылок якобы от лица крупных авиаперевозчиков и аэропортов. Для приманки компаниям предлагают зарегистрироваться в качестве потенциального поставщика и получить возможность ст...
20:57, 18 Дек «Очень странные дела»: злоумышленники выманивают личные данные и деньги пользователей на волне популярности сериала Эксперты «Лаборатории Касперского» предупреждают о схемах онлайн-мошенничества, связанных с выходом финального сезона «Очень странных дел» (Stranger Things). Используя сериал как ловушку, злоумышленники заманивают потенциальных жертв на фишинговые и...
10:57, 31 Янв В тени Т-34: танк, который спас СССР Этот танк не боялись немцы, он не обладал выдающейся защитой или мощным орудием, но на нём Красная Армия «вывезла» тяжелейший период Второй мировой войны.Великая Отечественная плотно связанна с одним танком, ставшим не только её символом, но и всей ...
10:57, 05 Мар Из-за чего у огня нет тени: самое просто объяснение Огонь может отбрасывать тень только в очень редких случаях Каждый знает простое правило: любой предмет, если на него светит лампа или солнце, отбрасывает тень. Но стоит зажечь свечу или спичку, и происходит странная вещь — тени от самого пламени поч...
13:57, 01 Окт Держатся тени: почему дети Киркорова не рвутся в шоу-бизнес На премьере фильма «Кровикс» поп-король Филипп Киркоров откровенно рассказал о своем отношении к будущему детей в шоу-бизнесе. По словам артиста, его наследники категорично не хотят повторять путь отца и связывать жизнь с публичностью. &...
10:57, 01 Мар Тени на скриншотах окон в macOS: как убрать и почему это стоит сделать Если вы часто делаете скриншоты окон в macOS — для статей, инструкций, обзоров или презентаций, то наверняка сталкивались с одной мелочью: система автоматически добавляет аккуратную полупрозрачную тень вокруг окна. В повседневном использовании это в...
23:57, 19 Авг Учёные разработали метод «охоты» на аномальные объекты в тени Земли Учёные представили практическую методику поиска оптически ярких объектов неизвестного происхождения в ближнем космосе, используя «конус тени» Земли как естественный фильтр от солнечных бликов спутников. Каждый вечер Земля отбрасывает в к...
17:57, 23 Авг Почему на Гавайях дважды в год исчезают тени — даты и простое объяснение «День без тени» — это не магия, а тропическая геометрия Земли и Солнца. На Гавайях существует удивительный природный феномен: два раза в год вертикальные предметы не отбрасывают тени. Представьте: вы ставите бутылку или поднимаете руку — и тень исче...
05:57, 30 Сен Bakcell представляет новейшие инновации на саммите INMerge Лидер в области инноваций и скорости, компания Bakcell выступает партнёром на саммите инноваций INMerge. В рамках саммита работает инновационный интерактивный стенд Bakcell на основе технологий искусственного интеллекта (ИИ). Посетители могут ознако...
01:57, 29 Авг Военврач группировки «Днепр» рассказал о кровоостанавливающей инновации на СВО Военные врачи стали использовать на СВО разработанное в Москве средство капрамин для эффективной остановки незначительных сосудистых кровотечений, рассказал в профессиональный праздник военных врачей доктор группировки «Днепр» с позывным «Питер». &l...
13:57, 13 Сен Аппаратная косметология лица в Самаре: инновации красоты и молодости Аппаратная косметология лица в Самаре — это современный, безопасный и высокоэффективный способ ухода за кожей, который позволяет решать эстетические задачи без хирургического вмешательства. В условиях быстрого ритма жизни, стрессов и неблагоприятной...
14:57, 12 Апр Россиянам стало почти невозможно сдавать квартиру в тени. ФНС перешла к перекрестным проверкам ФНС резко ужесточила контроль за арендодателями, которые получают доходы от сдачи жилья неофициально.Налоговая теперь активно сопоставляет данные банковских операций с объявлениями о сдаче квартир. Эксперты говорят, что шансы остаться незамеченными ...
16:57, 08 Окт Владельцы iPhone 17 Pro жалуются на загадочные тени при съемке со вспышкой. Исправить ошибку не получится Пользователи новых iPhone 17 Pro и iPhone 17 Pro Max начали замечать странный эффект, который портит снимки, тем самым вызывая недоумение у владельцев. Как выяснилось, при съемке в темноте со вспышкой на кадрах появляются таинственные тени, будто ря...
02:57, 17 Авг Нужно уходить от Тутберидзе: Даниил Самсонов рискует «померкнуть» в тени Мозалёва до ОИ-2022 Пример Ягудина и Плющенко в помощь вундеркинду «Хрустального». Самсонов не интересен Тутберидзе. Им в основном опекается Глейхенгауз. Даниил Самсонов, без преувеличения, уже сегодня является одним самых перспективных фигуристов в мужском...
01:57, 05 Окт Bakcell стал ключевым партнером конференции «Инновации и искусственный интеллект» Лидер в сфере инноваций Bakcell выступил главным партнером конференции «Инновации и искусственный интеллект», организованной Американской торговой палатой в Азербайджане (AmCham). Мероприятие объединило представителей государственных структур, между...
14:57, 07 Сен Dreame представляет революционные инновации в области умной уборки на IFA 2025 На выставке IFA 2025 компания Dreame Technology представила полный спектр решений для умного дома, призванных воплотить мечты пользователей в жизнь. От первого в мире робота-пылесоса, способного подниматься по лестницам, до беспрецедентных беспровод...
13:57, 04 Апр Телекоммуникационные решения N3COM: инновации, надежность и эффективность для современного бизнеса В условиях стремительной цифровизации и роста требований к скорости передачи данных, телекоммуникационные решения становятся ключевым элементом успешной деятельности компаний. Современные организации нуждаются в надежной, масштабируемой и безопасной...
14:57, 09 Мар Живые открытки без тени фотошопа: российские парки превращаются в филиалы Токио всего на неделю Весной не обязательно лететь в Токио или Сеул, чтобы увидеть нежно-розовое облако цветущей сакуры. В России есть локации, где это зрелище выглядит так же магически, как на классических японских открытках. Деревья, ставшие символом Страны восходящего...
02:57, 03 Фев Регистрация на стипендиальную программу «Инновации и искусственный интеллект» продолжается — к вниманию молодежи Стипендиальная программа, реализуемая в рамках совместного партнёрства лидера инноваций Bakcell и Фонда молодёжи Азербайджанской Республики, вызывает большой интерес среди молодёжи. На программу, направленную на развитие инноваций, искусственного ин...
18:57, 23 Фев Опять ничего нового? Samsung Galaxy S26 Ultra разочарует всех, кто ждал инновации За пару дней до официальной презентации в сеть попали маркетинговые материалы Galaxy S26 Ultra, которые раскрывают сведения о камерах и батарее устройства. Похоже, ничего нового не будет.В постерах указан 31 час воспроизведения видео на одном заряде...
10:57, 08 Авг Экологический след и инновации — важные аспекты для устойчивого развития отрасли добычи угля Современная угледобывающая промышленность России находится на подъеме, где применение инновационных технологий и экологические соображения становятся центральными факторами успеха. Важная роль в этом процессе отводится добыче антрацита и металлургич...
19:57, 02 Фев Apple пообещала в 2026 показать инновации, о которых мы даже не мечтали. Что она имеет в виду Вообще, Apple любит держать интригу до последнего, но на недавнем созвоне с инвесторами Тим Кук все-таки подкинул топлива для слухов. Он заявил, что компания готовит инновации, которых мир еще не видел, и что это случится чуть позже в этом году. Заи...
16:57, 07 Янв Инновации в самом тонком исполнении: телевизор LG OLED Wallpaper с технологией True Wireless На выставке CES 2026 компания LG Electronics (LG) представляет линейку телевизоров LG OLED, главным событием которой стало возвращение культовой модели – LG OLED evo W6, телевизора Wallpaper с технологией True Wireless. В W6 возрождается техно...
23:57, 07 Авг Роль сельхозкооперативов в развитии российского сельского хозяйства: оптимизация производства, инновации и социальное развитие Сельхозкооперативы играют важную роль в развитии российского сельского хозяйства. Они представляют собой форму организации сельскохозяйственного производства, основанную на кооперации фермеров и сельскохозяйственных предприятий. Такая организация по...
12:57, 02 Мар Плющев о судьях на ОИ: «Девиз – находимся в тени и не мешаем. В КХЛ методика другая: мы – властелины игры, машем топором, за критику – расстрел деньгами и штрафами» Заслуженный тренер России, бывший глава судейского корпуса КХЛ Владимир Плющев сравнил подходы к судейству на Олимпиаде-2026 и в Фонбет Чемпионате КХЛ. – Олимпиада задала тон не только нашей игре, но и арбитражу. Образец – безупречная работа в очень...
00:57, 15 Авг Lenovo показала высокие глобальные показатели финансовой отчетности благодаря четкой стратегии гибридного ИИ, инвестициям в инновации и операционному совершенству Lenovo Group Limited (HKSE: 992) (ADR: LNVGY) вместе со своими дочерними компаниями («Группа») объявили о высоких результатах первого квартала 2025/26 финансового года, сообщив о значительном росте общей выручки и прибыли группы. Выручка увеличилась...
21:57, 27 Фев Инновации Samsung не зашли покупателям. Компания признала провал сверхтонкого Galaxy S25 Edge и Galaxy Z TriFold за 3000 долларов Как сообщил в интервью Bloomberg операционный директор Samsung Mobile Вон Джун Чхве, на данный момент компания не ведет активную разработку преемников для своих самых инновационных моделей — сверхтонкого Galaxy S25 Edge и складываемого втрое G...