Цукерберг приврал: самообучающийся ИИ — это не то, о чём вы подумали

Meta* объявила о первых результатах работы над искусственным интеллектом (ИИ), который способен самостоятельно улучшать себя. Это заявление вызвало интерес, но пока неясно, что именно подразумевается под термином «самоулучшение». Скорее всего, это часть стратегии компании, направленной на укрепление позиций в гонке за суперинтеллект — ИИ, превосходящий человеческие способности. Руководитель Лаборатории искусственного интеллекта Школы управления СКОЛКОВО Александр Диденко рассказал, что такие громкие заявления часто носят пиар-характер, сигнализируя акционерам и конкурентам о смене приоритетов компании.По словам Диденко, работа нейронных сетей делится на два этапа: обучение и ответы на запросы пользователей. На этапе обучения сложная программа, называемая пайплайном, анализирует данные и формирует внутренние параметры сети, или «веса». Это дорогостоящий процесс, требующий экспериментов для оптимизации. Когда сеть отвечает на запросы, она использует уже готовые параметры, не меняя их. Некоторые эксперты считают, что способность ИИ анализировать запрос перед ответом уже можно назвать самоулучшением, но это лишь формальность. Истинное самоулучшение подразумевает, что ИИ сам разрабатывает новые версии своих программ, улучшает данные и даже проектирует свою архитектуру. Человек при этом задает только общие цели. Meta* уже публикует научные статьи, в которых описываются шаги в этом направлении: от автоматической генерации кода до улучшения процессов обучения без участия человека. Однако полноценной системы, объединяющей эти разработки, пока нет. Имеющиеся наработки позволяют говорить о потенциале, но не о готовом решении. Создание суперинтеллекта сталкивается с серьезными ограничениями. Нейронные сети не могут быть полностью автономными — их цели всегда задаются человеком. Интересно, что языковые задачи, которые люди считают сложными, для ИИ оказываются проще, чем интуитивные понятия. Например, многие модели не понимают простых физических явлений. Нейронные сети на сегодняшний день соматически изолированы от физической реальности. Если вы спросите большинство нейронок о том, почему нельзя есть суп под дождем, большинство ответят что-то про перспективу простудиться, проигнорировав простой факт что под дождем суп будет растворяться водой и станет невкусным. Александр Диденко Руководитель Лаборатории искусственного интеллекта Школы управления СКОЛКОВО Ещё одна проблема — сложность интеграции различных ценностных систем в ИИ. По результатам исследований, разные ИИ обладают разными системами ценностей. Есть и сложности в интеграции в ИИ разнообразных ценностных систем. Наши исследования показывают, что различные ИИ обладают различными системами ценностей — а «универсальный» сверхинтеллект, который обладает всеми ценностями одновременно, на текущем уровне технологий невозможен. Александр Диденко Руководитель Лаборатории искусственного интеллекта Школы управления СКОЛКОВО Meta* также пересматривает подход к открытости. Если раньше компания делилась своими моделями, то теперь она склоняется к закрытым разработкам. Это связано с возможными рисками, которые могут возникнуть при создании мощных ИИ-систем. Компания подчеркивает необходимость ответственного подхода к таким технологиям. Говорить об угрозах от полностью самообучающихся сверхчеловеческих ИИ сейчас преждевременно. Недавние скандалы, например, с исследованием компании Anthropic, где система якобы начала шантажировать пользователя, скорее относятся к продуманным PR-акциям, чем к реальной опасности. Апокалиптические страшилки в стиле «Терминатора» — это, скорее, проекция страхов человечества о том, что оно само себя в какой то момент разрушит, и не от того, что стало слишком много искусственного интеллекта, а от того, что оказалось слишком мало естественного интеллекта, и этики, к нему впридачу. Александр Диденко Руководитель Лаборатории искусственного интеллекта Школы управления СКОЛКОВО Таким образом, разговоры о самообучающемся ИИ — это скорее попытка привлечь внимание и заявить о серьёзных исследованиях. Но настоящая реализация таких систем требует ещё много времени и усилий, а текущие технологии далеки от фантастических образов суперинтеллекта. * принадлежит компании Meta, организация признана экстремистской, её деятельность запрещена на территории России...

Сообщает www.ferra.ru

Новость из рубрики: Технологии, Наука

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

09:57, 22 Сен Цукерберг так и не смог принять видеозвонок на очки Ray-Ban Display Технический директор компании *Meta Эндрю Босворт поделился информацией о технических проблемах, возникших при демонстрации новых «умных» очков на конференции Meta Connect.В ходе презентации, состоявшейся в среду, глава Meta Марк Цукерберг представи...

19:57, 07 Сен Цукерберг пообещал вложить 600 млрд долларов в США к 2028 году В Белом доме прошёл ужин, организованный президентом США Дональдом Трампом. На встречу пригласили крупнейших лидеров технологических компаний: глав Apple, Meta*, Microsoft, Google, OpenAI и других.Среди гостей был и Марк Цукерберг, который выглядел ...

15:44, 19 Авг Ландшафтный дизайн от L.BURO: когда природа становится частью дома Сад, парк, двор — это больше, чем просто территория. Это продолжение вашего пространства, место, где можно остановиться, вдохнуть свежий воздух и почувствовать ритм природы. Ландшафтный дизайн делает эту среду осмысленной, красивой и удобной. В сту...

08:57, 06 Дек Марк Цукерберг разочаровался в метавселенной и собирается существенно урезать расходы на нее Глава компании Meta Марк Цукерберг (Mark Zuckerberg) собирается значительно сократить ресурсы, направленные на разработку метавселенной — направления, которое он называл будущим компании и причиной смены названия Facebook Inc., пишет Bloomberg...

17:57, 04 Мар Марк Цукерберг купил поместье за 170 млн долларов на острове — "бункере для миллиардеров" Основатель Facebook* Марк Цукерберг завершил сделку по покупке особняка за рекордную для Майами сумму: на острове, который называют "бункером для миллиардеров". Сделка обошлась 41-летнему гендиректору Meta** в 170 млн долларов, сообщает Forbes.Дом, ...

22:57, 27 Фев Миллиардер Марк Цукерберг и его жена Присцилла посетили показ Prada в Милане 40-летний основатель Facebook* Марк Цукерберг и его 39-летняя супруга Присцилла Чан появились на показе Prada в Милане в рамках Недели моды. Пара разместилась в первом ряду рядом с директором по маркетингу модного дома Лоренцо Бертелли и генеральным...

10:57, 31 Окт Марк Цукерберг: инвестиции Meta* в ИИ и дата-центры достигнут $70–72 млрд в 2025 году Марк Цукерберг подтвердил крупные инвестиции компании в развитие искусственного интеллекта и инфраструктуры в 2025 году. По итогам третьего квартала было объявлено, что капитальные затраты на ИИ и связанные с ним дата-центры составят от $70 до $72 м...

11:57, 10 Ноя Марк Цукерберг и Джефф Безос с жёнами, Мэрайя Кэри, Пэрис Хилтон посетили "вечеринку года" в честь 70-летия Крис Дженнер Марк Цукерберг с женой Присциллой Чан, Джефф Безос с женой Лорен Санчес, Мэрайя Кэри, Пэрис Хилтон, Опра Уинфри стали гостями масштабном праздновании 70-летия Крис Дженнер, которое уже назвали "вечеринкой года".Со сцены выступал Бруно Марс, именинни...