У ИИ изначально отсутствуют врожденные этические принципы, мораль или понимание последствий. Это порождает серьезные риски, так как система может выдать опасные инструкции. А поэтому нейросети должны иметь фильтры, блокирующие опасный контент, сказал газете ВЗГЛЯД зампредседателя комитета Госдумы по информационной политике, информтехнологиям и связи Олег Матвейчев, комментируя введение родительского контроля в ChatGPT после смерти 16-летнего пользователя. Компания OpenAI внедрила в ChatGPT систему родительского контроля и инструменты для экстренного оповещения. К такому решению она пришла после смерти подростка в США, которого чат-бот консультировал касательно суицида. В OpenAI признали, что при длительных диалогах нейросеть может давать некорректные ответы, несмотря на встроенные запреты.«Понятие "искусственный интеллект" является в большей степени коммерческим названием, призванным повысить инвестиционную привлекательность технологий на фондовом рынке. По своей сути современные системы ИИ – это сложные статистические программы, которые анализируют огромные массивы данных из интернета и на основе вероятности подбирают наиболее подходящие слова и фразы в ответ на запрос. Они не мыслят и не рассуждают самостоятельно, а просто обрабатывают информацию», – говорит Матвейчев.Именно поэтому у ИИ изначально отсутствуют врожденные этические принципы, мораль или понимание последствий, продолжает собеседник. Это порождает серьезные риски, так как система может выдать опасные инструкции, например, о суициде, как в данном случае, или о создании оружия. В ответ разработчики в процессе «дообучения» моделей вводят этические ограничения и фильтры, которые встраиваются непосредственно в алгоритм. Эти ограничения варьируются в зависимости от страны и разработчика: например, американские и китайские модели имеют разные политические и культурные фильтры, блокирующие контент, связанный с разжиганием ненависти, дискриминацией и другими деликатными темами.«Нужно не людей ограничивать от нейросетей, а обучать нейросети таким образом, чтобы они не вели к подобного рода информации. Такие инциденты являются сигналом для разработчиков о необходимости постоянного дообучения и корректировки моделей, чтобы исключить выдачу вредоносной информации. Теоретически возможно законодательно обязать всех разработчиков встраивать обязательный набор защитных ограничений перед выводом продукта на рынок», – заключил депутат.Ранее в США разразился скандал после смерти 16-летнего мальчика, который обсуждал с ChatGPT планы свести счеты с жизнью. Родители погибшего подали иск против OpenAI, заявив, что чат-бот предоставлял опасные инструкции. Отмечается, что подросток первоначально использовал платформу для учебы, однако со временем начал рассматривать чат-бот как близкого собеседника и советчика....
Сообщает vz.ru
Новость из рубрики: Главные новости
Поделиться новостью:
Топ новости часа
- Просто натрите кабачки и добавьте яйца: в сезон готовлю постоянно - такую полезную пиццу из кабачков полюбят даже капризные дети...
- Просто натрите кабачки и добавьте яйца: в сезон это блюдо готовлю постоянно - такую полезную пиццу из кабачков полюбят даже привереды...
- Просто натрите кабачки и добавьте яйца : так вкусно, в сезон готовлю через день - такую полезную пиццу из кабачков полюбят даже дети...
- Все, что известно о Samsung Galaxy A17 5G — дата выхода, цена, характеристики...
- Цискаридзе взял Гагарину в свой «гарем» после развода с Исхаковым...
- Что нельзя делать во время эпилептического припадка...
21:57, 21 Сен Депутат Матвейчев: Молдавия при Санду вступила на опасный путь украинизации В случае сохранения власти Майя Санду рискует завести Молдавию в крайне сложную ситуацию. Традиционные ценности народа республики будут поставлены под вопрос, а вероятность прямого конфликта с Россией значительно возрастет, сказал газете ВЗГЛЯД депу...
12:57, 29 Сен Депутат Госдумы Матвейчев: Правящая партия Майи Санду проиграла внутри Молдавии Несмотря на огромное административное давление на оппозицию, фальсификации на участках за границей и ограничение прав приднестровцев партия президента Молдавии Майи Санду теряет места в парламенте. Вместо нынешних 62 мест она может рассчитывать прим...
15:44, 19 Авг Ландшафтный дизайн от L.BURO: когда природа становится частью дома Сад, парк, двор — это больше, чем просто территория. Это продолжение вашего пространства, место, где можно остановиться, вдохнуть свежий воздух и почувствовать ритм природы. Ландшафтный дизайн делает эту среду осмысленной, красивой и удобной.
В сту...
11:57, 06 Дек Депутат признал, что ограничения мессенджеров не повлияли на мошенников Первый заместитель председателя Комитета Госдумы по информационной политике Александр Ющенко заявил, что блокировка мессенджеров оказалась неэффективной в борьбе с мошенничеством. По его словам, киберпреступники продолжают использовать традиционные ...
14:57, 02 Июн Apple Music можно будет слушать бесплатно — сроки выхода и ограничения нового тарифа В коде бета-версии приложения Apple Music для Android заметили строки, которые намекают на новые тарифы. Apple, возможно, готовит более дешёвый или бесплатный тариф — с ограничениями вроде лимита на пропуск треков. Пока это только находка в бете, бе...
00:57, 26 Окт В ГАИ поставили жирную точку: до какого возраста можно садиться руль - пожилым указали на действующие ограничения В ГАИ поставили жирную точку: до какого возраста можно садиться руль - пожилым указали на действующие ограниченияСлухи о скором запрете на вождение для пенсионеров растут как грибы после дождя. Одни уверены, что после 70 лет права изымут поголовно, ...
10:57, 10 Авг В ГАИ наконец поставили точку: когда в машине можно ехать не пристегнутым - водителям и пассажирам рассказали действующие ограничения В ГАИ наконец поставили точку: когда в машине можно ехать не пристегнутым - водителям и пассажирам рассказали действующие ограниченияКогда можно ехать без ремня: разъяснения ГИБДД и реальные исключения из ПДД. Инспекторы ГИБДД устали от однотипных в...
06:57, 05 Дек Депутат Панеш: с 1 января в паспорте РФ можно будет поставить отметку ИД ЕРН Эта аббревиатура расшифровывается как «идентификатор записи из единого федерального информационного регистра». Решать, проставлять этот номер в своих документах или нет, граждане будут самостоятельно.По словам Каплана Панеша, ИД ЕРН станет личным кл...
15:57, 18 Ноя Sennheiser выпустила защитные беруши SoundProtex Plus с тремя уровнями шумоподавления Sennheiser представила новые беруши SoundProtex Plus, созданные для защиты слуха в условиях повышенного шума — на концертах, фестивалях, в путешествиях и других громких местах. Производитель подчёркивает, что устройство снижает громкость, сохр...
05:57, 23 Июл Материнский капитал потерял 38% покупательной способности за 10 лет. Сколько жилья можно купить на него сейчас Несмотря на то что размер маткапитала вырос более чем в два раза — с 453 тысяч до 963 тысяч рублей, — его реальная ценность для покупки жилья серьёзно упала. Цены на недвижимость выросли ещё быстрее, и теперь на маткапитал можно купить на 38% меньше...
22:57, 10 Май Linux начал встраивать механизмы Windows прямо в ядро ради ускорения игр Новый драйвер NTSYNC переносит ключевые API Windows на уровень ядра Linux, снижая зависимость от эмуляции Wine и делая Steam Deck и Proton быстрее и стабильнееLinux продолжает превращаться из нишевой платформы в полноценную игровую экосистему — и те...
15:57, 25 Авг Депутат Журова о словах Клаудиньо: «Можно не давать теперь гражданство РФ иностранным спортсменам. Откуда мы узнаем заранее, как человек поступит? Может, он только ради выгоды» Бразильский полузащитник, выступающий за катарский « Аль-Садд », заявил , что хотел уйти из « Зенита » из-за конфликта на Украине: «Там у меня были друзья. Я очень переживал. Были предложения из Бразилии, но меня не отпускали». Депутат Дмитрий Свище...
06:57, 08 Авг Программа «Миллион призов» эффективнее «вертолетной» раздачи денег – Матвейчев Программа субсидирования потребительского спроса «Миллион призов» эффективнее прямой раздачи денег населению, которая практиковалась в зарубежных странах. Ее синергетический эффект позволит не только помочь жителям в период смягчения ограничений, но...
00:57, 05 Июн Ротенберг о Месси и Роналду: «Если выбирать одного игрока, то Лионель, вокруг него можно команду выстроить. А Криштиану нужно мяч доставить. Но если они вместе, это идеальная комбинация» Первый вице-президент Федерации хоккея России Роман Ротенберг поделился мнением о футболистах Лионеле Месси и Криштиану Роналду. – Для Месси и Роналду это же последний чемпионат мира. Будете следить? – Конечно, я слежу за футболом. Буду смотреть. – ...
07:57, 27 Сен Отели хотят обязать подыскивать гостям номера при овербукинге Соответствующий законопроект уже готов, и его планируют внести на этой неделе. И если его примут, гостиницы будут обязаны сами искать туристам альтернативное жильё минимум той же категории. Правило хотят распространить на все виды бронирования (снял...
08:57, 10 Дек Индия может обязать Apple включить GPS на всех iPhone постоянно По данным Reuters, в Индии рассматривается предложение, согласно которому Apple и другие производители смартфонов должны будут постоянно активировать GPS на всех устройствах, продаваемых в стране. Пользователям при этом не предоставляется возможност...
09:57, 28 Апр РОАД предложила обязать дилеров фиксировать в паспорте автомобиля пробег и ДТП Российская ассоциация автомобильных дилеров (РОАД) выступила с инициативой принять федеральный закон об обороте автомобилей. Главная цель — сделать рынок подержанных машин прозрачным и защитить покупателей от скрученного пробега и скрытых аварий, со...
02:57, 09 Авг Россиян могут обязать получать права для езды на питбайках и эндуро Соответствующее предложение выдвинул вице-спикер Госдумы Борис Чернышов. По его мнению, нововведение поможет сократить количество роковых ДТП с мотоциклами, которые относятся к спортинвентарю. Что ещё призвал сделать депутат — читайте далее в матери...
07:57, 15 Сен Госдума планирует обязать всех предпринимателей принимать банковские карты В Госдуме хотят разработать законопроект, согласно которому все магазины на территории РФ должны будут принимать безналичную оплату. О подготовке соответствующего законопроекта рассказал председатель комитета Госдумы по финансовому рынку Анатолий Ак...
20:57, 10 Июл Кабмин предложил обязать табачные компании раскрывать состав сигарет В Государственную думу внесен законопроект, обязывающий производителей табака и никотиновых смесей полностью раскрывать состав продукции, исключая эти данные из коммерческой тайны. Правительство России внесло в Государственную думу законопроект, обя...
22:57, 20 Сен Леон Драйзайтль: «Копитар был моим кумиром в детстве. Я многому научился, играя против него, наблюдая за ним. У него фантастическая карьера, он выиграл все» 38-летний капитан «Лос-Анджелеса» ранее объявил, что завершит карьеру в НХЛ после сезона-2025/26. На счету словенца 1454 матча в регулярных чемпионатах НХЛ (все в составе «Кингс») и 1278 (440+838) очков при полезности «+108». Копитар дважды выиграл ...
21:57, 02 Фев Трамп намерен обязать технологических гигантов оплачивать резко возросшие расходы на электроэнергию План Трампа предусматривает выделение 15 миллиардов долларов на финансирование строительства электростанций для технологических гигантов, что позволит удовлетворить потребности в энергии, обусловленные развитием искусственного интеллекта, и одноврем...
11:57, 23 Дек Токкет о Мичкове: «Шесть вопросов про него – хватит уже. Матвею нужно научиться играть, он старается. У него достаточно смен, иногда бывает меньше – потому что устает» Главный тренер «Филадельфии» Рик Токкет обсудил игру Матвея Мичкова с журналистами. При этом в один из моментов он сказал, что вопросов про нападающего задается слишком много. В текущем сезоне 21-летний россиянин набрал 20 (9+11) очков в 35 играх пр...
17:57, 02 Апр Минцифры хочет, чтобы VPN начали блокировать не только провайдеры: к 15 апреля интернет-компании могут обязать ограничить доступ пользователям с запрещенными VPN Минцифры обсудило с крупнейшими российскими интернет-компаниями меры по ограничению доступа пользователей, которые заходят на платформы через VPN-сервисы из черного списка. Об этом сообщает РБК со ссылкой на источники, знакомые с ходом обсуждения. И...
14:57, 03 Апр AI-ассистенты для разработчиков: как ускорить разработку ПО Разработка программного обеспечения переживает один из самых значительных сдвигов за последние десятилетия. Несмотря на стремительный рост использования искусственного интеллекта, реальную пользу от него извлекает лишь небольшая доля компаний. Одним...
22:57, 07 Авг Apple выпустила iOS 26 beta 5 для разработчиков. Что нового? Каждая новая бета-версия iOS 26 приносит изменения, которые делят пользователей на два лагеря. Одни хвалят компанию за новый подход к дизайну, а другие недоумевают, зачем вообще что-то менять. Но Apple знает, что делает, даже если иногда со стороны ...
22:57, 26 Авг Google запретит установку АРК от непроверенных разработчиков Google готовится кардинально изменить принципы работы Android, введя обязательную систему верификации разработчиков – самое радикальное нововведение за всю историю платформы. Начиная с 2026 года, пользователи сертифицированных Android-устройств смог...
11:57, 16 Июн Что нового в iOS 26.6 beta 2 для разработчиков и стоит ли обновляться Apple продолжает доводить до ума текущую систему перед осенним релизом iOS 27, об отличиях которой мы уже рассказывали. Вторая бета iOS 26.6 и iPadOS 26.6 вышла для разработчиков. Да, пока это только тестовая версия и обычным пользователям её ставит...
11:57, 19 Авг Apple выпустила iOS 26 beta 7 для разработчиков. Когда релиз? Помните, как на прошлой неделе Apple удивила всех двойным релизом бет? Сначала beta 6, а через пару дней — еще одна сборка, но уже с пометкой public. Тогда стало понятно: компания определилась с темпами и теперь будет выпускать по два обновления раз...
16:57, 06 Июн Surface RTX Spark Dev Box — новое поколение устройств для разработчиков На этой неделе Microsoft совместно с NVIDIA представила высокопроизводительный ноутбук Surface Laptop Ultra, который предназначен для разработчиков, создателей контента и технических специалистов. Теперь пришло время для ещё одного громкого анонса. ...
22:57, 12 Сен Microsoft Store стал бесплатным для индивидуальных разработчиков Microsoft объявила, что теперь индивидуальные разработчики могут регистрироваться и публиковать свои приложения в магазине совершенно бесплатно. Ранее для этого требовался разовый взнос и наличие кредитной карты, что могло стать препятствием для нек...
01:57, 19 Ноя Вышла iOS 26.2 beta 3 для разработчиков. Что изменилось в обновлении для iPhone Сегодня, 17 ноября, Apple выпустила iOS 26.2 beta 3 — очередное тестовое обновление операционки для iPhone. Бета-апдейт вышел точно в срок, а не посреди ночи, что не может не радовать. Более того — появился спустя неделю после предыдущей...
00:57, 24 Сен Apple выпустила iOS 26.1 beta 1 для разработчиков. Что нового и стоит ли скачивать Сегодня, 22 сентября, Apple выпустила iOS 26.1 beta 1 — первую сборку будущего крупного обновления для iPhone. На этот раз бета-тестирование стартовало оперативно, через неделю после выхода iOS 26. Во многом оно будет посвящено исправлению оши...
15:57, 11 Мар Apple выпускает iOS 26.4 beta 4 для разработчиков. Что нового и нужно ли скачивать Сегодня, 9 марта, Apple выпустила четвёртую бета‑версию iOS 26.4, а также iPadOS 26.4 и macOS 26.4. Сборки предназначены для тестирования разработчиками ну и простыми пользователями. Новое ПО появилось спустя неделю после того, как Apple вышли треть...
02:57, 26 Сен Mail.ru выпустит игру по мотивам «Форсажа» от разработчиков Need For Speed Российская компания перенесёт известный фильм о гонках в видеоигру уже во второй половине 2020 году, говорят в Сети. Судя по всему, в РФ готовятся представить серьёзного конкурента в жанре аркадных гоночных игр, который будет разработан по мотивам &...
23:57, 01 Фев Суд приговорил к семи годам разработчиков «Горизонта» за хищение 38 млн рублей Трое бывших руководителей и менеджеров IT-компаний получили от пяти до семи лет колонии за хищение 38 млн рублей при создании образовательной платформы «Горизонт». Кунцевский суд Москвы вынес приговор по делу о хищении более 38 млн руб. при создании...
20:57, 23 Мар Зарплаты разработчиков выросли на 100 тысяч рублей за год. Но их обогнали рабочие Средняя зарплата в сфере разработки программного обеспечения выросла почти на 100 тысяч рублей за год и достигла 196,8 тысячи рублей, следует из данных РИА «Новости». Это максимальный прирост среди всех отраслей экономики. Однако по темпам роста зар...
21:57, 27 Янв Вышла iOS 26.3 beta 3 для разработчиков: что изменилось в свежей бета-версии ОС для iPhone Apple продолжает дорабатывать iOS 26.3 и iPadOS 26.3, и свежие бета-версии для разработчиков дают довольно наглядное представление о том, каким будет обновление для обычных пользователей. В центре внимания сразу несколько направлений: упрощение пере...
14:57, 20 Дек Проект «идеальной консоли» SuperSega от независимых разработчиков потерпел крах Испанский инженер Алехандро Мартин официально отменил проект SuperSega, который долгое время вызывал проблемы с консолью на базе ПЛИС (программируемая логическая интегральная схема, FPGA), целью которой было имитировать классическое оборудование Seg...
10:57, 05 Окт Стало известно, как впредь будут «одобрять» разработчиков Android-приложений Google раскрыла детали новой системы проверки разработчиков Android, которая начнёт действовать в следующем году. Теперь установить приложение — как из Google Play, так и «вручную» — можно будет только от проверенного разработчика. Это правило якобы...
22:57, 23 Июн Слишком сексуально: X заблокировал аккаунт разработчиков игры Liminal Point X заблокировала аккаунт студии HideWorks, которая разрабатывает психологический survival-хоррор Liminal Point. Разработчики сообщили, что получили уведомление о нарушении правил платформы, но не увидели объяснения, какое именно правило было нарушено...
11:57, 12 Мар GDC 2026: Microsoft представила новые инструменты и обновления платформы для разработчиков игр Microsoft на ежегодной конференции GDC 2026 рассказала о новых инструментах и обновлениях платформы, которые призваны сделать Windows 11 лучшим местом для разработки, тестирования и выпуска игр. Microsoft подчеркивает открытость системы и делает ста...
Топ новости часа