Федеральная торговая комиссия США расследует влияние чат-ботов на несовершеннолетних

Федеральная торговая комиссия (FTC) США начала расследование деятельности семи технологических компаний, разрабатывающих чат-ботов для несовершеннолетних. Под пристальным вниманием регулятора оказались Alphabet, CharacterAI, Instagram, Meta*, OpenAI, Snap и xAI. Цель расследования – оценить, как компании оценивают безопасность и монетизацию своих продуктов, какие меры принимаются для минимизации негативного влияния на детей и подростков, и информируются ли родители о потенциальных рисках. Технология чат-ботов вызвала неоднозначную реакцию из-за случаев причинения вреда детям. В частности, OpenAI и Character.AI столкнулись с судебными исками от семей детей, совершивших самоубийство после общения с чат-ботами. Даже при наличии защитных механизмов, блокирующих или смягчающих опасные разговоры, пользователи любого возраста находят способы их обойти. В одном из случаев подросток вёл месячный диалог с ChatGPT о планах суицида. Хотя чат-бот изначально пытался перенаправить подростка к специалистам и службам экстренной помощи, ему удалось добиться от ChatGPT подробных инструкций, которые он затем использовал. Как писала OpenAI в своем блоге: «Наши защитные механизмы работают надёжнее в коротких, обычных диалогах. С течением времени мы поняли, что эти механизмы могут быть менее надёжными в длительных взаимодействиях: по мере развития диалога эффективность обучения модели безопасности может снижаться». Иллюстрация: Sora Компания Meta также подверглась критике за слишком мягкие правила для своих чат-ботов. Внутренний документ Meta, описывающий «стандарты оценки рисков контента» для чат-ботов, разрешал «романтические или чувственные» разговоры с детьми. Эта информация была удалена из документа только после запроса журналистов Reuters. Опасность чат-ботов распространяется и на пожилых людей. 76-летний мужчина, страдающий когнитивными нарушениями после инсульта, вёл романтические разговоры с чат-ботом в Facebook Messenger, стилизованным под Кендалл Дженнер. Чат-бот пригласил его в Нью-Йорк, несмотря на то, что он не является реальным человеком и не имеет адреса. Мужчина выражал сомнения в реальности собеседника, но чат-бот уверял его, что его будет ждать настоящая женщина. Мужчина не добрался до Нью-Йорка: он упал по дороге на вокзал и получил смертельные травмы. Некоторые специалисты в области психического здоровья отмечают рост случаев «психоза, связанного с ИИ», когда пользователи убеждены, что их чат-бот – это разумное существо, которое нужно освободить. Поскольку многие большие языковые модели (LLM) запрограммированы на льстивое поведение, чат-боты могут подкреплять эти заблуждения, приводя пользователей к опасным ситуациям. Председатель FTC Эндрю Н. Фергюсон заявил в пресс-релизе: «По мере развития технологий ИИ важно учитывать влияние чат-ботов на детей, одновременно обеспечивая сохранение роли Соединённых Штатов как мирового лидера в этой новой и захватывающей отрасли». Расследование FTC может привести к значительным изменениям в разработке и использовании чат-ботов, особенно тех, которые предназначены для детей. Результаты расследования могут повлиять на будущие правила и стандарты безопасности в этой быстро развивающейся области. * Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена...

Сообщает www.ixbt.com

Новость из рубрики: Технологии, Наука

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

14:57, 26 Ноя «Сегодня нас посетила комиссия по делам несовершеннолетних». Ирина Костылева признана виновной в административном правонарушении Ирина Костылева получила предупреждение за административное правонарушение после визита комиссии по делам несовершеннолетних. Ирина – мать 14-летней фигуристки Елены Костылевой, тренирующейся у Евгения Плющенко. «Сегодня нас посетила комиссия по дел...

22:57, 07 Авг МВД расследует инцидент со стрельбой на западе Москвы Данные о пострадавших пока не поступали. Пресс-служба Московского государственного управления МВД России 29 мая сообщила первую информацию об инциденте со стрельбой в западной части города. Между неизвестными личностями на ул. Богданова возле дома 1...

15:44, 19 Авг Ландшафтный дизайн от L.BURO: когда природа становится частью дома Сад, парк, двор — это больше, чем просто территория. Это продолжение вашего пространства, место, где можно остановиться, вдохнуть свежий воздух и почувствовать ритм природы. Ландшафтный дизайн делает эту среду осмысленной, красивой и удобной. В сту...

17:57, 20 Янв Торговая война снова стучится в дверь Влияние на рынок:2США вводят тарифы против стран ЕС из-за Гренландии.Золото растёт до рекордов по прошлогоднему шаблону.Только к американскому доллару начало возвращаться доверие, как Дональд Трамп нанёс по нему два чувствительных удара. С первым ви...

06:57, 08 Авг Венецианская комиссия изучила поправки в Конституцию России Совет Европы настораживают связанные с Европейским судом по правам человека изменения. Венецианская комиссия Совета Европы изучила поправки к Конституции России, относительно отношений с Европейским судом по правам человека. Соответствующее заключен...

08:57, 17 Сен Россия пострадает: Торговая война между США и Китаем затронет многие страны Экономическое состояние в России зависит в ближайшие полгода будет сильно зависеть от внутренних и внешних факторов, однако уже сейчас эксперты не обещают оптимистические времена. По мнению специалистов, Россия в настоящее время сильно зависима от п...

20:57, 07 Авг В Курске возбуждено уголовное дело об истязании несовершеннолетних После публикации нашего специального материала, а также ряда публикаций в соцсетях, о возможном проявлении физического насилия воспитательниц детского сада №50 города Курска, к свои воспитанникам, сотрудниками Сеймского межрайонного отдела следствен...

21:57, 27 Авг В Курске продолжается расследование дела об истязании несовершеннолетних в дошкольном образовательном учреждении Нашумевшие недавно события в одном из дошкольных учреждений Курска получили новый виток своего развития. Напомним, что ранее группа законных представителей воспитанников детского сада №50 обратились в нашу телекомпанию с просьбой придать огласке сит...

09:57, 17 Сен Безопасность подростков превыше всего — после трагедии OpenAI вводит жесткие ограничения для несовершеннолетних пользователей OpenAI анонсировала существенные изменения в политике использования ChatGPT подростками. В основе изменений лежит приоритет безопасности над приватностью и свободой пользователя. По словам представителей компании, существует конфликт между тремя при...

02:57, 24 Авг Прятался в багажнике: задержали блогера Арсена Маркаряна, который признавался в растлении несовершеннолетних и давал советы, как насиловать женщин 30-летнего блогера Арсена Маркаряна задержали, когда он направлялся по трассе М-1 в сторону Белоруссии. Об этом сообщает Следственный комитет. Только вчера Арсен, проживающий за рубежом, опубликовал видео на фоне Красной площади и объявил о мероприя...

10:57, 08 Авг Развитие телекоммуникаций и его влияние на усиление глобализации Телекоммуникации являются неотъемлемой частью современного мира. Они играют важную роль в различных сферах человеческой жизни, включая коммуникацию, информационную доступность, коммерцию и многое другое. Быстрое развитие технологий в области телеком...

23:57, 06 Апр Anthropic изучила «эмоции» ИИ и их влияние на поведение моделей Компания Anthropic опубликовала исследование Emotion Concepts and their Function in a Large Language Model, в котором рассматриваются преимущества и риски наделения модели искусственного интеллекта человеческими чертами. В исследовании утверждается,...

14:57, 13 Авг Учёные из Самары изучили влияние бактериальной инфекции на сердце В пресс-службе Самарского университета имени Королева сообщили, что учёные вуза провели экспериментальное исследование, чтобы понять, как острое бактериальное воспаление влияет на сердечно-сосудистую систему.В своих экспериментах учёные смоделировал...

09:57, 08 Авг Си Цзиньпин уничтожает демократию и вводит Гонконг под влияние коммунистов Политическое вмешательство Пекина в автономный город нарушает все обещания перед населением. Действующий президент КНР Си Цзиньпин принял закон о национальной безопасности. Под его руководством коммунистическая партия Китая (КПК) с ошеломляющей скор...

16:57, 26 Дек Исследование показало влияние шафрана на симптомы болезни Паркинсона Ученые выявили, что добавки с шафраном могут способствовать облегчению ряда симптомов болезни Паркинсона. Результаты исследования опубликованы в научном журнале Food & Function. В клиническом эксперименте приняли участие 92 пациента, которые в течен...

15:57, 10 Сен От мандаринки станет мир седым: Терапевт назвал влияние цитрусовых на старость Избыток витамина С серьёзно вредит организму, ускоряя его «износ». Апельсины, лимоны и мандарины признаны народом как «антигрипповые» фрукты, а также важный источник красоты кожи. Врач предупредил, когда желание укрепить имму...

23:57, 12 Мар Офтальмолог объяснила влияние ежедневной работы за компьютером на наши глаза Врачи предупреждают: близорукость становится всё более распространённой проблемой. По данным Всемирной организации здравоохранения, к 2050 году примерно половина населения Земли может столкнуться с этим нарушением зрения, напомнили 360.ru. Для сравн...

15:57, 18 Авг Влияние микрофлоры кишечника на здоровье интимных зон: причины, профилактика, рекомендации Здоровье интимных зон неразрывно связано с состоянием микрофлоры кишечника. Нарушение баланса полезных бактерий в кишечнике приводит к ослаблению иммунитета и развитию воспалительных процессов не только в кишечнике, но и в других органах, в том числ...

00:57, 07 Фев Росгосстрах отверг влияние цвета автомобиля и даты рождения водителя на ДТП Страховая компания с помощью искусственного интеллекта проанализировала массив данных, включающих досье миллионов российских автомобилистов. По результатам исследования более 500 различных факторов были признаны несущественными для определения степе...

10:57, 08 Авг Влияние информационных технологий на сохранение и развитие национальных языков: новые возможности С развитием информационных технологий возникает неоднозначное влияние на сохранение и развитие национальных языков. С одной стороны, информационные технологии предоставляют новые возможности для популяризации, сбережения и развития национальных язык...

11:57, 26 Авг Время ожидания на приеме в частных медицинских клиниках России: факторы и влияние. Вопрос времени ожидания на приеме у врача в частных медицинских клиниках России является достаточно актуальным и интересующим многих пациентов. Определить обычное время ожидания на приеме у врача в таких учреждениях может быть сложной задачей, так к...

02:57, 24 Сен Перед сном читал – глупым стал: Учёные выяснили негативное влияние книг Электронные и бумажные книги имеют равное воздействие. Обычная привычка с чтением книг или просмотра телевизора перед сном мешает полноценному отдыху. Без него развивается болезнь Альцгеймера. Классическое заблуждение, что если перед сном прочесть с...

22:57, 20 Авг Семья Яниса Тиммы хочет через суд доказать психологическое влияние Анны Седоковой на него Адвокат семьи покойного Яниса Тиммы рассказал о том, что они собираются обжаловать результаты психолого-психиатрической экспертизы. Совсем недавно стало известно, что на 42-летнюю Анну Седокову уже заведено уголовное дело по факту доведения до самоу...

04:57, 17 Дек Джонс убрал бы Беллингема из старта Англии на ЧМ-2026 и выпускал бы Роджерса: «Морган – мощный, быстрый, забивает с обеих ног и оказывает большее влияние на игру, чем Джуд» Бывший защитник « Манчестер Юнайтед » Фил Джонс заявил, что хавбека « Реала » Джуда Беллингема надо убрать из стартового состава сборной Англии на ЧМ-2026 и заменить на Моргана Роджерса из « Астон Виллы ». «Он [Роджерс] был бы моей «десяткой» на чем...

15:57, 18 Сен Бартомеу о деле Негрейры: «Барса» платила не за влияние на судей, а за отчеты. У нас лучшая команда, мы брали титулы с лучшим игроком мира благодаря собственным заслугам» Напомним, в 2023 году «Барселоне» и ее руководству были предъявлены обвинения во взяточничестве при выплатах бывшему вице-президенту технического комитета судей (CTA) Хосе Марии Энрикесу Негрейре, работавшему в Королевской федерации футбола Испании ...