Федеральная торговая комиссия США расследует влияние чат-ботов на несовершеннолетних

Федеральная торговая комиссия (FTC) США начала расследование деятельности семи технологических компаний, разрабатывающих чат-ботов для несовершеннолетних. Под пристальным вниманием регулятора оказались Alphabet, CharacterAI, Instagram, Meta*, OpenAI, Snap и xAI. Цель расследования – оценить, как компании оценивают безопасность и монетизацию своих продуктов, какие меры принимаются для минимизации негативного влияния на детей и подростков, и информируются ли родители о потенциальных рисках. Технология чат-ботов вызвала неоднозначную реакцию из-за случаев причинения вреда детям. В частности, OpenAI и Character.AI столкнулись с судебными исками от семей детей, совершивших самоубийство после общения с чат-ботами. Даже при наличии защитных механизмов, блокирующих или смягчающих опасные разговоры, пользователи любого возраста находят способы их обойти. В одном из случаев подросток вёл месячный диалог с ChatGPT о планах суицида. Хотя чат-бот изначально пытался перенаправить подростка к специалистам и службам экстренной помощи, ему удалось добиться от ChatGPT подробных инструкций, которые он затем использовал. Как писала OpenAI в своем блоге: «Наши защитные механизмы работают надёжнее в коротких, обычных диалогах. С течением времени мы поняли, что эти механизмы могут быть менее надёжными в длительных взаимодействиях: по мере развития диалога эффективность обучения модели безопасности может снижаться». Иллюстрация: Sora Компания Meta также подверглась критике за слишком мягкие правила для своих чат-ботов. Внутренний документ Meta, описывающий «стандарты оценки рисков контента» для чат-ботов, разрешал «романтические или чувственные» разговоры с детьми. Эта информация была удалена из документа только после запроса журналистов Reuters. Опасность чат-ботов распространяется и на пожилых людей. 76-летний мужчина, страдающий когнитивными нарушениями после инсульта, вёл романтические разговоры с чат-ботом в Facebook Messenger, стилизованным под Кендалл Дженнер. Чат-бот пригласил его в Нью-Йорк, несмотря на то, что он не является реальным человеком и не имеет адреса. Мужчина выражал сомнения в реальности собеседника, но чат-бот уверял его, что его будет ждать настоящая женщина. Мужчина не добрался до Нью-Йорка: он упал по дороге на вокзал и получил смертельные травмы. Некоторые специалисты в области психического здоровья отмечают рост случаев «психоза, связанного с ИИ», когда пользователи убеждены, что их чат-бот – это разумное существо, которое нужно освободить. Поскольку многие большие языковые модели (LLM) запрограммированы на льстивое поведение, чат-боты могут подкреплять эти заблуждения, приводя пользователей к опасным ситуациям. Председатель FTC Эндрю Н. Фергюсон заявил в пресс-релизе: «По мере развития технологий ИИ важно учитывать влияние чат-ботов на детей, одновременно обеспечивая сохранение роли Соединённых Штатов как мирового лидера в этой новой и захватывающей отрасли». Расследование FTC может привести к значительным изменениям в разработке и использовании чат-ботов, особенно тех, которые предназначены для детей. Результаты расследования могут повлиять на будущие правила и стандарты безопасности в этой быстро развивающейся области. * Компания Meta (Facebook и Instagram) признана в России экстремистской и запрещена...

Федеральная торговая комиссия США расследует влияние чат-ботов на несовершеннолетних

Сообщает www.ixbt.com

 

Новость из рубрики: Технологии, Наука

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 

Топ новости часа Топ новости часа

 

Сегодня нас посетила комиссия по делам несовершеннолетних. Ирина Костылева признана виновной в административном правонарушении 14:57, 26 Ноя «Сегодня нас посетила комиссия по делам несовершеннолетних». Ирина Костылева признана виновной в административном правонарушении Ирина Костылева получила предупреждение за административное правонарушение после визита комиссии по делам несовершеннолетних. Ирина – мать 14-летней фигуристки Елены Костылевой, тренирующейся у Евгения Плющенко. «Сегодня нас посетила комиссия по дел...

Торговая война снова стучится в дверь 17:57, 20 Янв Торговая война снова стучится в дверь Влияние на рынок:2США вводят тарифы против стран ЕС из-за Гренландии.Золото растёт до рекордов по прошлогоднему шаблону.Только к американскому доллару начало возвращаться доверие, как Дональд Трамп нанёс по нему два чувствительных удара. С первым ви...

Ландшафтный дизайн от L.BURO: когда природа становится частью дома 15:44, 19 Авг Ландшафтный дизайн от L.BURO: когда природа становится частью дома Сад, парк, двор — это больше, чем просто территория. Это продолжение вашего пространства, место, где можно остановиться, вдохнуть свежий воздух и почувствовать ритм природы. Ландшафтный дизайн делает эту среду осмысленной, красивой и удобной. В сту...

МВД расследует инцидент со стрельбой на западе Москвы 22:57, 07 Авг МВД расследует инцидент со стрельбой на западе Москвы Данные о пострадавших пока не поступали. Пресс-служба Московского государственного управления МВД России 29 мая сообщила первую информацию об инциденте со стрельбой в западной части города. Между неизвестными личностями на ул. Богданова возле дома 1...

Венецианская комиссия изучила поправки в Конституцию России 06:57, 08 Авг Венецианская комиссия изучила поправки в Конституцию России Совет Европы настораживают связанные с Европейским судом по правам человека изменения. Венецианская комиссия Совета Европы изучила поправки к Конституции России, относительно отношений с Европейским судом по правам человека. Соответствующее заключен...

Россия пострадает: Торговая война между США и Китаем затронет многие страны 08:57, 17 Сен Россия пострадает: Торговая война между США и Китаем затронет многие страны Экономическое состояние в России зависит в ближайшие полгода будет сильно зависеть от внутренних и внешних факторов, однако уже сейчас эксперты не обещают оптимистические времена. По мнению специалистов, Россия в настоящее время сильно зависима от п...

Полиция расследует новое дело о недостойноном поведении бывшего принца Эндрю 05:57, 02 Июн Полиция расследует новое дело о "недостойноном поведении" бывшего принца Эндрю Полиция расследует обстоятельства инцидента почти 25-летней давности с бывшим принцем Эндрю, который сейчас находится под следствием из-за связи с покойным миллиардером-педофилом Джеффри Эпштейном.Речь идёт о некоем эпизоде с женщиной, который произ...

Полиция расследует инцидент между экс-принцем Эндрю и женщиной на скачках Royal Ascot 14:57, 01 Июн Полиция расследует инцидент между экс-принцем Эндрю и женщиной на скачках Royal Ascot Полиция расследует обстоятельства инцидента почти четвертьвековой давности с бывшим принцем Эндрю, который сейчас находится под следствием из-за связи с покойным миллиардером-педофилом Джеффри Эпштейном.Речь идёт о некоем эпизоде с женщиной, который...

19:57, 07 Май Кирсти Ковентри: «Мы не объединяем вопрос восстановления ОКР с антидопинговыми расследованиями. Правовая комиссия продолжает изучать ОКР» Международный олимпийский комитет (МОК) не объединяет вопросы восстановления статуса Олимпийского комитета России (ОКР) и расследования Всемирного антидопингового агентства (WADA) в отношении Российского антидопингового агентства. Об этом заявила гл...

14:57, 29 Июл Джареда Лето обвинили в изнасилованиях несовершеннолетних Четыре девушки обвинили 54-летнего певца Джареда Лето в сексуализированном насилии. По их словам, певец насиловал и домогался их, когда они ещё были несовершеннолетними. Эти заявления стали продолжением целой серии признаний о насилии и груминге со ...

20:57, 07 Авг В Курске возбуждено уголовное дело об истязании несовершеннолетних После публикации нашего специального материала, а также ряда публикаций в соцсетях, о возможном проявлении физического насилия воспитательниц детского сада №50 города Курска, к свои воспитанникам, сотрудниками Сеймского межрайонного отдела следствен...

08:57, 26 Июл Подозреваемый в наезде на людей в Берлине в мае вышел из тюрьмы для несовершеннолетних Абдул Б., 2005 года рождения, подозреваемый в наезде на группу людей в районе парка Тиргартен в центре Берлина, в мае текущего года вышел из-под ювенального ареста. Об этом сообщили журналисты немецкой газеты Die Welt, по их данным, до этого момента...

21:57, 27 Авг В Курске продолжается расследование дела об истязании несовершеннолетних в дошкольном образовательном учреждении Нашумевшие недавно события в одном из дошкольных учреждений Курска получили новый виток своего развития. Напомним, что ранее группа законных представителей воспитанников детского сада №50 обратились в нашу телекомпанию с просьбой придать огласке сит...

21:57, 30 Июл "Да, это культ". В сети обсуждают закрытый остров Джареда Лето, которого обвиняют в изнасилованиях несовершеннолетних СМИ на фоне новых обвинений против Джареда Лето в сексуализированном насилии в отношении несовершеннолетних вновь вспомнили о том, что ранее его также обвиняли в руководстве "культом". Материал об этом публикует PageSix.Семь лет назад, в августе 202...

23:57, 16 Июн "Хвалит человека, который домогался несовершеннолетних". В сети критикуют Ксению Собчак за поддержку Гоши Рубчинского В сети раскритиковали Ксению Собчак, которая восхищённо отозвалась о показе новой коллекции Гоши Рубчинского, которого ранее обвиняли в якобы домогательствах несовершеннолетних. В комментариях под публикациями журналистки пользователи выразили недоу...

09:57, 17 Сен Безопасность подростков превыше всего — после трагедии OpenAI вводит жесткие ограничения для несовершеннолетних пользователей OpenAI анонсировала существенные изменения в политике использования ChatGPT подростками. В основе изменений лежит приоритет безопасности над приватностью и свободой пользователя. По словам представителей компании, существует конфликт между тремя при...

10:57, 08 Авг Развитие телекоммуникаций и его влияние на усиление глобализации Телекоммуникации являются неотъемлемой частью современного мира. Они играют важную роль в различных сферах человеческой жизни, включая коммуникацию, информационную доступность, коммерцию и многое другое. Быстрое развитие технологий в области телеком...

23:57, 06 Апр Anthropic изучила «эмоции» ИИ и их влияние на поведение моделей Компания Anthropic опубликовала исследование Emotion Concepts and their Function in a Large Language Model, в котором рассматриваются преимущества и риски наделения модели искусственного интеллекта человеческими чертами. В исследовании утверждается,...

02:57, 24 Авг Прятался в багажнике: задержали блогера Арсена Маркаряна, который признавался в растлении несовершеннолетних и давал советы, как насиловать женщин 30-летнего блогера Арсена Маркаряна задержали, когда он направлялся по трассе М-1 в сторону Белоруссии. Об этом сообщает Следственный комитет. Только вчера Арсен, проживающий за рубежом, опубликовал видео на фоне Красной площади и объявил о мероприя...

14:57, 13 Авг Учёные из Самары изучили влияние бактериальной инфекции на сердце В пресс-службе Самарского университета имени Королева сообщили, что учёные вуза провели экспериментальное исследование, чтобы понять, как острое бактериальное воспаление влияет на сердечно-сосудистую систему.В своих экспериментах учёные смоделировал...

08:57, 01 Май Российские ученые изучили влияние наночастиц серебра на клетки В Минобрнауки РФ сообщили, что ученые Томского политехнического университета (ТПУ) совместно с мексиканскими коллегами изучили действие наночастиц серебра на клетки. Оказалось, что в здоровых клетках кожи они усиливают выработку защитных белков и по...

09:57, 08 Авг Си Цзиньпин уничтожает демократию и вводит Гонконг под влияние коммунистов Политическое вмешательство Пекина в автономный город нарушает все обещания перед населением. Действующий президент КНР Си Цзиньпин принял закон о национальной безопасности. Под его руководством коммунистическая партия Китая (КПК) с ошеломляющей скор...

16:57, 26 Дек Исследование показало влияние шафрана на симптомы болезни Паркинсона Ученые выявили, что добавки с шафраном могут способствовать облегчению ряда симптомов болезни Паркинсона. Результаты исследования опубликованы в научном журнале Food & Function. В клиническом эксперименте приняли участие 92 пациента, которые в течен...

00:57, 07 Фев Росгосстрах отверг влияние цвета автомобиля и даты рождения водителя на ДТП Страховая компания с помощью искусственного интеллекта проанализировала массив данных, включающих досье миллионов российских автомобилистов. По результатам исследования более 500 различных факторов были признаны несущественными для определения степе...

23:57, 12 Мар Офтальмолог объяснила влияние ежедневной работы за компьютером на наши глаза Врачи предупреждают: близорукость становится всё более распространённой проблемой. По данным Всемирной организации здравоохранения, к 2050 году примерно половина населения Земли может столкнуться с этим нарушением зрения, напомнили 360.ru. Для сравн...

15:57, 18 Авг Влияние микрофлоры кишечника на здоровье интимных зон: причины, профилактика, рекомендации Здоровье интимных зон неразрывно связано с состоянием микрофлоры кишечника. Нарушение баланса полезных бактерий в кишечнике приводит к ослаблению иммунитета и развитию воспалительных процессов не только в кишечнике, но и в других органах, в том числ...

15:57, 10 Сен От мандаринки станет мир седым: Терапевт назвал влияние цитрусовых на старость Избыток витамина С серьёзно вредит организму, ускоряя его «износ». Апельсины, лимоны и мандарины признаны народом как «антигрипповые» фрукты, а также важный источник красоты кожи. Врач предупредил, когда желание укрепить имму...

06:57, 02 Июн В Курске, в преддверии Дня подразделений по делам несовершеннолетних и Дня защиты детей, сотрудники профильного правоохранительного ведомства оригинально напомнили о важности своей работы В Курске, в преддверии Дня подразделений по делам несовершеннолетних и Дня защиты детей, сотрудники профильного правоохранительного ведомства оригинально напомнили о важности своей работы. Именно 31 мая стражи порядка, работающие с детьми и их родит...

11:57, 26 Авг Время ожидания на приеме в частных медицинских клиниках России: факторы и влияние. Вопрос времени ожидания на приеме у врача в частных медицинских клиниках России является достаточно актуальным и интересующим многих пациентов. Определить обычное время ожидания на приеме у врача в таких учреждениях может быть сложной задачей, так к...

20:57, 03 Июл ЦБ не может оценить влияние роста цен на топливо на инфляцию. Недельных данных недостаточно Центробанк сможет оценить влияние роста цен на топливо на инфляцию только после получения полных данных за июнь. Об этом 3 июля заявил заместитель председателя ЦБ Алексей Заботкин в кулуарах Финансового конгресса в Москве. По его словам, недельных п...

10:57, 08 Авг Влияние информационных технологий на сохранение и развитие национальных языков: новые возможности С развитием информационных технологий возникает неоднозначное влияние на сохранение и развитие национальных языков. С одной стороны, информационные технологии предоставляют новые возможности для популяризации, сбережения и развития национальных язык...

15:57, 12 Авг Эксперты оценили влияние будущего повышения МРОТ на доходы россиян и малый бизнес Минимальный размер оплаты труда в России к 2027 году может преодолеть отметку в 32 тысячи рублей. Прогноз экспертов опирается на устойчивую динамику роста средних зарплат в промышленности и ритейле, которая неизбежно тянет за собой государственные с...

02:57, 24 Сен Перед сном читал – глупым стал: Учёные выяснили негативное влияние книг Электронные и бумажные книги имеют равное воздействие. Обычная привычка с чтением книг или просмотра телевизора перед сном мешает полноценному отдыху. Без него развивается болезнь Альцгеймера. Классическое заблуждение, что если перед сном прочесть с...

01:57, 23 Июн Bloomberg: Джон Тернус собирается вернуть былое влияние дизайнеров Apple на продукты компании Будущий глава Apple Джон Тернус (John Ternus) собирается увеличить влияние дизайнеров на стратегию развития продуктов компании. Об этом сообщил журналист Bloomberg Марк Гурман, со ссылкой на данные протокола встречи Тернуса с сотрудниками дизайнерск...

22:57, 20 Авг Семья Яниса Тиммы хочет через суд доказать психологическое влияние Анны Седоковой на него Адвокат семьи покойного Яниса Тиммы рассказал о том, что они собираются обжаловать результаты психолого-психиатрической экспертизы. Совсем недавно стало известно, что на 42-летнюю Анну Седокову уже заведено уголовное дело по факту доведения до самоу...

15:57, 18 Сен Бартомеу о деле Негрейры: «Барса» платила не за влияние на судей, а за отчеты. У нас лучшая команда, мы брали титулы с лучшим игроком мира благодаря собственным заслугам» Напомним, в 2023 году «Барселоне» и ее руководству были предъявлены обвинения во взяточничестве при выплатах бывшему вице-президенту технического комитета судей (CTA) Хосе Марии Энрикесу Негрейре, работавшему в Королевской федерации футбола Испании ...

04:57, 17 Дек Джонс убрал бы Беллингема из старта Англии на ЧМ-2026 и выпускал бы Роджерса: «Морган – мощный, быстрый, забивает с обеих ног и оказывает большее влияние на игру, чем Джуд» Бывший защитник « Манчестер Юнайтед » Фил Джонс заявил, что хавбека « Реала » Джуда Беллингема надо убрать из стартового состава сборной Англии на ЧМ-2026 и заменить на Моргана Роджерса из « Астон Виллы ». «Он [Роджерс] был бы моей «десяткой» на чем...