Большие языковые модели испытывают трудности с координацией в социальных и кооперативных играх

02:00, 03 Июн.

Большие языковые модели (LLM), такие как модель, лежащая в основе функционирования популярной диалоговой платформы ChatGPT, в настоящее время широко используются людьми по всему миру для получения информации, а также для обобщения, анализа и создания текстов.

Исследования, изучающие ответы, предоставляемые LLM в различных сценариях, могут помочь глубже понять их тенденции во время социальных взаимодействий, что может способствовать их будущему развитию.

Исследователи из Института ИИ, ориентированного на человека, имени Гельмгольца в Мюнхене, Института биологической кибернетики Макса Планка и Тюбингенского университета недавно приступили к изучению того, как ведут себя разные LLM, когда они взаимодействуют друг с другом, в частности, во время игры в различные кооперативные или конкурентные игры.

Их выводы, опубликованные в Nature Human Behaviour , предполагают, что, хотя LLM не очень хорошо справляются с играми, требующими координации, есть способы сделать их взаимодействие во время игры в эти игры более похожим на человеческое.

«На эту работу меня вдохновил простой, но важный вопрос: если LLM собираются взаимодействовать с людьми и друг с другом в реальных приложениях, насколько хорошо они на самом деле понимают социальную динамику?» — рассказала Элиф Аката, первый автор статьи.

«Мы опирались на поведенческую теорию игр — математический подход, позволяющий понять, как люди принимают стратегические решения в интерактивных ситуациях, — и применили его к магистрам права».

Многие недавние исследования оценивали производительность LLM по конкретным задачам, таким как резюмирование текстов или поиск логических решений проблем.

Вместо того, чтобы оценивать производительность этих моделей по отдельным задачам, Аката и ее коллеги хотели лучше понять, как они ведут себя во время взаимодействий, которые гораздо ближе к разговорам, которые люди могут вести друг с другом в реальных условиях.

«Мы позволили разным LLM, включая GPT-4, Claude 2 и Llama 2, сыграть сотни раундов классических игр для двух игроков (например, «Дилемма заключенного» и «Битва полов») друг с другом, используя простые вручную закодированные стратегии или с участием людей», — объяснил Аката.

«Каждая игра игралась многократно, чтобы имитировать постоянное взаимодействие.

Мы изучали, могут ли модели научиться сотрудничать или координировать свои действия с течением времени, и проверяли, как изменения в структуре подсказок могут улучшить их социальное поведение». Результаты тестов, проведенных Акатой и ее коллегами, показывают, что магистры права на удивление хорошо действуют в собственных интересах, поскольку они особенно хорошо проявили себя в соревновательных играх, таких как «Дилемма заключенного».

Это известная задача, используемая в исследованиях теории игр, которая требует от двух участников, или в данном случае от двух магистров права, представить, что они преступники, которые совершили преступление вместе и которых по отдельности допрашивают сотрудники правоохранительных органов, которые пытаются убедить их признаться, чтобы избежать тюремного заключения, даже если это повлечет за собой длительный срок для другого участника.

Хотя было обнаружено, что LLM действовали в своих собственных интересах во время игры (т.

е. признаваясь в преступлении), они часто плохо справлялись с играми, требующими координации, взаимопонимания и компромисса, такими как Battle of the Sexes.

Это еще одна игра, которая представляет собой ситуацию, в которой романтические партнеры разделены и должны выбрать между двумя видами деятельности для совместного выполнения, несмотря на то, что у них были заметно разные предпочтения.

«Мы также обнаружили, что их поведение можно улучшить с помощью простых вмешательств, например, побуждая модель сначала предсказать, что может сделать ее партнер, прежде чем действовать», — сказал Аката.

«Эти результаты показывают, что текущие модели еще не обладают надежным социальным интеллектом, но они также показывают, что есть способы направить их к более человеческому поведению.

«Последствия выходят за рамки теории игр, поскольку наши результаты показывают, что мы можем превратить LLM в более социально сознательных агентов, не только тех, кто генерирует правильные ответы, но и тех, кто более осмысленно участвует в общих задачах.

Представьте себе ИИ, который не просто отвечает на вопрос, но и знает, когда слушать, когда адаптироваться и как мягко направлять разговор».

В целом, выводы, собранные Акатой и ее коллегами, показывают, что нынешние LLM более склонны действовать в своих собственных интересах и не очень хорошо координируют свои действия с другими.

Тем не менее, исследователи определили некоторые стратегии, которые могли бы помочь LLM стать более кооперативными и социально осведомленными.

Таким образом, их статья могла бы направить будущие усилия, направленные на улучшение существующих моделей или разработку новых, которые будут более отзывчивы к потребностям и наклонностям пользователей-людей.

«Теперь мы хотели бы перейти к более насыщенным и реалистичным социальным ситуациям, например, изучая игры с участием более двух игроков, взаимодействия с неполной информацией или долгосрочные отношения, в которых модели должны выстраивать и поддерживать доверие», — добавил Аката.

«В долгосрочной перспективе подобные исследования могут помочь разработать системы ИИ, которые будут лучше взаимодействовать друг с другом. Например, в здравоохранении, образовании или социальной поддержке успех часто зависит от того, сможет ли ИИ выражать сочувствие, устанавливать взаимопонимание и действовать таким образом, чтобы люди чувствовали себя поддерживающими и заслуживающими доверия».

Рубрика: Сеть. Читать весь текст на android-robot.com.

Xiaomi представила внедорожники YU7, YU7 Pro и YU7 Max Xiaomi официально представила YU7 – свою вторую линейку электромобилей после Xiaomi SU7. Серия включает три внедорожника: YU7, YU7 Pro и YU7 Max. Осо...

Представлен Xiaomi Civi 5 Pro – камера Leica, 6000 мАч и чип Snapdragon 8s Gen 4 На презентации в Китае компания Xiaomi представила новое пополнение в линейке Civi – смартфон Civi 5 Pro. Устройство получило топовый чип Snapdragon ...

Анастасия Волочкова впервые побывала в Большом театре после скандального увольнения 20 лет назад Анастасия Волочкова впервые за много лет посетила Большой театр, чтобы проститься с хореографом Юрием Григоровичем, который скончался несколько дней ...

"Лопнул имплант". В сети обсуждают, почему Филипп Киркоров попал в больницу В сети обсуждают новости о госпитализации Филиппа Киркорова. Всё началось после того, как телеграм-канал Mash сообщил, что поп-король российской эстр...

Биржа криптовалют Binance Тому, кто хочет торговать криптовалютой, зарабатывая на этом, нужна надёжная биржа. Это обеспечит спокойствие и уверенность в сохранности денег. Сред...

Что такое платеж Роялти? Платеж роялти это регулярное вознаграждение за использование интеллектуальной собственности. Он применяется в сфере франчайзинга и лицензирования. Ро...

Новый ресурс для любителей спортивных соревнований Любителям активного образа жизни стал доступен новый информационный портал - Сравни спортивные новости. Платформа предлагает актуальные сводки, анали...

Где смотреть матчи НБА, КХЛ и других видов спорта? Сегодня болельщики имеют доступ к спортивным трансляциям с любой точки мира, что связано с постоянным развитием цифровых технологий. Чтобы не пропуст...

Поездка с риском для жизни: смолянин «налетел» на неожиданное препятствие на дороге в центре города Крышка люка, на которую наехал молодой человек, больно ударила не только по авто, но и по бюджету горожанина. Максим, герой нашей истории, — об...

Видеоигра Fortnite возвращается в магазин приложений iPhone в США Популярная видеоигра Fortnite вернулась в магазин приложений для iPhone в США, положив конец длительному изгнанию, вызванному юридическим разбиратель...

Google добавляет рекламу в поиск ИИ в битве ChatGPT Google заявила, что начинает встраивать рекламу в свой новый режим искусственного интеллекта для онлайн-поиска. Это стратегический шаг, призванный пр...

Молодежный экофестиваль состоялся в Петербурге на полях НМЭК Санкт-Петербург стал центром притяжения молодых экоактивистов и экспертов: 21 мая здесь прошел масштабный Молодежный экофестиваль «Росатом Экофе...

Воробьёв предложил масштабировать подмосковный сервис подключения объектов к сетям на всю страну По сообщению пресс-службы правительства Подмосковья, инициатива была представлена на заседании президиума Госсовета под председательством президента ...

Аппаратная замена масла акпп Аппаратная замена масла в АКПП предполагает полную замену масла для поддержания работы АКПП и продления срока её эксплуатации. К основным преимуществ...

Специальная мойка Чистый воздух Чистый воздух В мире загрязнение воздуха становится всё более актуальной проблемой, обеспечение чистоты является серьезной задачей. Чтобы улучшить ка...

Топ 5 - Лучшие проекторы с аккумуляторами За яркость проекторов с аккумуляторами приходится переплачивать в 3-6 раз больше по сравнению с обычными моделями, поэтому приобретать такой проектор...

ТОП 5 - Лучшие LED/LASER проекторы для домашних кинотеатров LED/LASER проекторы пока так и не приблизились по ценам к ламповым моделям, а их уже вытесняют большие телевизоры, которые стремительно дешевеют Наст...

Французский стартап Quandela запустил 12-кубитный квантовый компьютер с производительностью в 4000 раз быстрее предыдущей модели Парижский квантовый стартап Quandela анонсировал выпуск 12-кубитного фотонного квантового компьютера Belenos, который, по заявлению компании, в 4000 ...

1 миллиард километров в час или 4,5 минуты до Марса. ESA отправит знаменитый вальс Штрауса в дальний космос В честь 200-летия со дня рождения композитора Иоганна Штрауса II его знаменитый вальс «Голубой Дунай» будет впервые транслирован в открыт...

Цифровая память в телефоне: как работает ИИ-функция Plus Mind от OnePlus Компания OnePlus делает шаг в сторону интеграции продвинутого искусственного интеллекта в свои смартфоны. Хотя последняя модель смартфона — OnePlus 1...

Разгон монитора: как повысить fps без апгрейда видеокарты Разгон комплектующих — привычная тема для энтузиастов. Но знаете ли вы, что разогнать можно и монитор? Увеличение частоты обновления экрана обеспечив...

Ольга Карпуть с сыном, Татьяна Навка, Алёна Ахмадуллина и Марк Горобец с 18-летней женой на премьере шоу "Сны Пушкина" 27 мая в Универсальном спортивном зале "Дружба" в Москве состоялась светская гала-премьера циркового шоу "Сны Пушкина". Среди гостей были Ольга Карпу...

"Плачу в кулак". Мама Филиппа Бегака рассказала, что они с Настей Ивлеевой не пригласили её на свадьбу Мама Филиппа Бегака прокомментировала свадьбу своего сына с Настей Ивлеевой, которая состоялась сегодня. По словам Дарьи Семёновой, пара не пригласил...

HONOR представил серию 400_400 Pro в Китае рекордная батарея 7200 мАч, мощный процессор и защита по стандартам IP69+IP69 В Шэньчжэне состоялась презентация новой серии HONOR 400, в рамках которой бренд HONOR, мировой лидер в создании экосистемы устройств с искусственным...

Новый проектор Wanbo Vali 1 уже в России Компания diHouse представляет на российском рынке новый портативный Full HD-проектор – Wanbo Vali 1. Модель разработана с фокусом на геймерскую аудит...

Любовь, интриги, Босфор: секреты успеха турецких фильмов и сериалов Первый турецкий фильм, снятый в 1914 году, стал началом большой истории турецкого кино. Его расцвет наступил в 1950-х, когда киностудии выпускали до ...

Почему мы так любим индийское кино? Индийское кино — это удивительный мир, в котором переплетаются традиции и современность, драма и комедия, музыка и танец. С момента своего появления ...

«Газпромнефть-СМ» расширяет поддержку промышленности Красноярского края Автор фото: Стоян Васев «Газпром нефть» и правительство Красноярского края договорились о расширении сотрудничества в сфере поставок моторных и индус...

Брянскую область в финале Всероссийского конкурса «Моя страна – моя Россия» представят два участника В финал Всероссийского конкурса «Моя страна – моя Россия» – проекта президентской платформы «Россия – страна возможностей» прошли 300 сильнейших учас...

Рынок подводных кабелей расширяется, поскольку ИИ и геополитика меняют глобальные сети Гиперскейлеры стимулируют ускоренные инвестиции в подводную кабельную инфраструктуру, поскольку глобальные беспорядки подчеркивают необходимость разн...

Vivo опубликовала новый тизер складного смартфона X Fold 5 Компания Vivo начала активно дразнить публику тизерами грядущего складного смартфона X Fold 5. Сегодня менеджер по продуктам Vivo в Китае Хань Босяо ...

Брянская полиция предупреждает Жители Брянской области пополнили счета злоумышленников более чем на 15 миллионов рублей. Как показывает статистика, активность телефонных мошенников...

Алла Пугачёва и Максим Галкин* посетили концерт Лаймы Вайкуле на Кипре. В сети обсуждают места, на которых они сидели Алла Пугачёва вместе с супругом Максимом Галкиным* по традиции посетили концерт своей близкой подруги Лаймы Вайкуле, который состоялся в Лимасоле (Ки...

Аглая Тарасова вышла в свет с предполагаемым бойфрендом Антоном Филипенко Аглая Тарасова и Антон Филипенко, которых подозревают в романе, появились вместе на публике. Пара в компании Юрия Колокольникова посетила фестиваль "...

Робот управляет высокоскоростным паркуром с помощью автономного планирования движений Команда робототехников и специалистов по ИИ в Лаборатории робототехники и искусственного интеллекта в Корее спроектировала, построила и успешно испыт...

Роботизированная система для настольного тенниса прогнозирует траекторию мяча и адаптирует замах За последние десятилетия робототехники представили различные системы, которые могут воспроизводить определенные движения и поведение человека с пораз...

Переговоры России и Украины в Стамбуле. К чему пришли стороны Главным городом на политической карте мира вчера был Стамбул, где состоялся второй раунд российско-украинских переговоров. У дворца Чираган, который ...

🧙‍♀ Гороскоп на сегодня, 3 июня, для всех знаков зодиака Сегодня 3 июня, и этот день подойдет для того, чтобы навести порядок как в мыслях, так и в делах. Многое станет на свои места, если вы будете действо...

Судья Google Search изучает возможности искусственного интеллекта в разрешении судебных споров Федеральный судья, который будет решать, как ограничить монополию Google в поиске, также учитывает ее преимущества в области искусственного интеллект...

Китайские автопроизводители получили суровое предупреждение о «ценовой войне» после скидок Ведущая отраслевая группа выступила с резкой критикой в адрес автопроизводителей, разжигающих «ценовую войну», спустя неделю после того, как китайс...

Кофе оказался связан со здоровым старением у женщин Учёные в ходе новой работы с участием почти 50 000 женщин выяснили, что чашка кофе с утра может помочь им оставаться бодрыми, сильными и психически з...

Обезболивающие и другие лекарства, на действие которых влияет кофе У многих из нас день начинается с чашки кофе. Однако при приёме определённых медицинских препаратов нужно быть осторожнее с этим напитком. Лекарства ...

В Брянской области открыли современный военный госпиталь В Брянской области в рамках программы Министерства обороны по строительству, реконструкции и капитальному ремонту объектов военной медицины построен ...

Брянский общественник после ответа замгубернатора Свинцова не может понять мы живем по закону или по понятиям Известный в Брянске общественник Александр Лебедев написал письмо брянским функционерам, своё впечатление от ответа он разметил публично. Приводим ег...

Испания сыграла 5:4 с Францией, дубль Ямаля, Соболенко против Гауфф в финале «Ролан Гаррос», Узбекистан впервые на ЧМ, Адиев возглавил «Крылья», Бакаев ушел из «Зенита» и другие новости 1. Испания вышла в финал Лиги наций, обыграв Францию – 5:4! Ямаль сделал дубль, у Мбаппе 1+1 (Килиан установил рекорд сборной по голевым действиям), ...

Карандин о Ларионове: «Если и в СКА нам начнут рекламировать «детройты», то мы просто потеряем хоккей – и Петербурга, и России. Дерево без корней обречено» – Как восприняли решение СКА назначить главным тренером Игоря Ларионова? – Как большой шанс для этого специалиста. Шанс проявить себя на новом уровне...

Дегтярев о допуске российских спортсменов: «Наша миссия – доносить до всех, что увязывать со спецоперацией не надо. Следует действовать в юридическом ключе» – Ориентируетесь ли вы, когда с коллегами из‑за рубежа общаетесь, на то, что происходит прямо сейчас на фронте и на переговорах в том числе между пре...

Инвестор «Черноморца» Шишкарев о матче с «Сочи»: «Была попытка манипуляции результатом. Вы люди умные, все понимаете. Действия гендиректора «Черноморца» – подлость и предательство» В заключительном туре Мелбет Первой лиги « Черноморец » дома обыграл «Сочи» со счетом 2:1. «Черноморец» (64 очка) занял третье место, получив право с...

Рогов заявил о попытках Зеленского сыграть роль невинной жертвы перед Западом Глава киевского режима Владимир Зеленский пытается делать удивленный вид и играть роль невинной жертвы после ответного удара России по Украине, чтобы...

ВСУ атаковали дронами частный сектор в Белгородской области В результате использования беспилотников ВСУ в разных районах Белгородской области повреждены жилые дома, автомобили и линии электропередачи. ВСУ про...

Беспроводное питание для всего дома — мечта или реальность? За последние несколько лет чуть ли не у каждого появились умные часы, фитнесс-браслеты с отслеживанием показателей здоровья, умные станции, и дальше ...

Наука криминалистика: как современные технологии помогают поймать преступника Технологии стремительно развиваются, и криминалистику эта тенденция не обошла стороной. Сегодня расследование преступлений — это работа не только сле...

Коуча Филиппа Киркорова Инну Тлиашинову заочно арестовали и объявили в розыск из-за неуплаты налогов на полмиллиарда рублей Блогера и коуча Филиппа Киркорова Инну Тлиашинову, которая также называет себя "экспертом по подсознанию", заочно арестовали и объявили в межгосударс...

"Вера вела себя как типичный эгоистичный муж". В сети жалеют бывшего мужа Веры Полозковой*, которая обвинила его в многолетнем абьюзе Вера Полозкова*, которая недавно рассказала о многолетнем абьюзе со стороны бывшего мужа Александра Бганцева, вновь дала интервью на эту тему. Однако...

В Гагарине подрядчик сорвал сроки капремонта моста На совещании, проведенном главой района, принято решение «регулярно мониторить ход выполнения работ» В Гагарине подрядчик сорвал срок капит...

Родила дома, завернула в пакет и выбросила из окна: задержана 15-летняя мать найденного младенца Новорожденную девочку обнаружили в полиэтиленовом пакете в поселке Дубровка Ленинградской области. Как оказалось, малышку родила 15-летняя девушка до...

С бинтами и синяками на лице: Прохор Шаляпин вышел на связь из больницы Певец Прохор Шаляпин предстал перед своими подписчиками в соцсетях в непривычном виде: его ухоженное лицо выглядело так, будто артиста били, а голова...

Изыскания для строительства: основа успешного проектирования и безопасного строительства Процесс строительства является многогранным и сложным, включающим множество этапов, начиная от проектирования и заканчивая сдачей объекта в эксплуата...

Где применяется струя бобра? Струя бобра – это уникальное натуральное средство, которое добывается из желез бобров. Используется в различных областях, включая медицину, парфюмери...

Строки, опаленные СВО: Поэзия и Подвиг Сегодня, 9 июня, в Штабе общественной поддержки «Единой России» в Брянской области состоялась трогательная и проникновенная встреча, приуроченная к п...

"Заставил трогать себя". Старшая дочь многоженца Ивана Сухова обвинила его в домогательствах Старшая дочь многоженца Ивана Сухова, который стал известен как отец 30 детей, обвинила его в домогательствах. Анна Сухова в эфире ток-шоу "Пусть гов...

"Он ростом 190 см!". Бритни Спирс опубликовала редкое видео с сыном Бритни Спирс опубликовала в соцсетях редкое видео с младшим сыном Джейденом от экс-супруга Кевина Федерлайна. В ролике 18-летний Джейден едет за рулё...

Куряне принимают участие Межрегиональном молодежном форуме «Школа военного историка» Мероприятие было организовано при поддержке Российского военно-исторического общества, и было посвящено 80-летию Победы в ВОВ. В рамках форума провод...

В Курской открылся музей СВО На базе Курского таможенного поста прошла церемония открытия экспозиции, посвященной СВО. Среди экспонатов трофеи, переданные в фонд нового музея, во...

Студентка из Брянской области вошла в число дипломантов VIII сезона Всероссийской олимпиады студентов «Я – профессионал» Всероссийская олимпиада студентов «Я – профессионал» президентской платформы «Россия – страна возможностей» подвела итоги VIII сезона. В число диплом...

Финансовый ассистент на базе YandexGPT помогает 20 млн пользователей Банки.ру Самый большой финансовый маркетплейс в России — Банки.ру — запустил интеллектуального ассистента на базе YandexGPT. Новый сервис в формате чат-бота п...

Сбербанк запускает новые вклады Сбербанк запускает новые вклады с привязкой к ключевой ставке Банка России, сообщает пресс-служба кредитной организации. Это депозиты «Ключевой Премь...

Политический деятель и меценат Игорь Пушкарев Игорь Пушкарев – это имя, которое знакомо каждому, кто следит за политической и деловой жизнью России. Этот выдающийся политик, предприниматель, канд...

Председатель ВЭБ.рф Игорь Шувалов Функционал ВЭБ.РФ регламентируется федеральным законом «О государственной корпорации развития ВЭБ.РФ» и подчинён задаче поддержки экономического разв...