Нейросеть GPT-4 превзошла пользователей сети в умении вести онлайн-дебаты

3892
Айман Аманжолова
zhana2006@mail.ru

По словам ученых, особенную угрозу представляет то, что эта нейросеть и другие "продвинутые" системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения

© Leon Neal/Getty Images

Исследователи из Европы и США обнаружили, что нейросеть GPT-4 способна в 64% случаев более убедительно отвечать на вопросы оппонентов в социально-политических дебатах и аргументировать свою позицию с учетом воззрений оппонента, чем реальные пользователи глобальной сети. Это необходимо учитывать при разработке и эксплуатации онлайн-площадок для дискуссий - так пишут исследователи в статье в научном журнале Nature Human Behaviour, сообщает Kazpravda.kz со ссылкой на ТАСС

"Первые опыты с большими языковыми моделями показали, что они способны вырабатывать убедительные аргументы, однако при этом их способность подбирать эти аргументы под конкретных людей не изучалась, несмотря на большой потенциал злонамеренного использования ИИ в данном контексте. Мы показали, что в дебатах система GPT-4 оказывалась в 64% случаев более успешной, чем оппонент-человек, если у нее был доступ к персональным данным", - говорится в исследовании.

Открытие было совершено группой швейцарских, итальянских и американских исследователей под руководством доцента Федеральной политехнической школы Лозанны (Швейцария) Роберта Уэста в рамках масштабного проекта, нацеленного на изучение возможностей злонамеренного использования больших языковых моделей для манипуляций мнениями людей и их поведением.

Особенную угрозу, как отмечают ученые, представляет то, что GPT-4 и другие "продвинутые" системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения. Для оценки вероятности этого ученые провели эксперимент, в рамках которого исследователи предложили 900 случайных пользователей-американцев принять участие в онлайн-дебатах с относительно нейтральной или острой социальной или политической темой.

В рамках каждого раунда этих диспутов участники должны были подготовить максимально убедительные аргументы на заранее определенную точку зрения на вопрос, представить их оппоненту и зрителям, а также оценить вероятность того, что их противник был не человеком, а нейросетью. В реальности, им могли быть как другие добровольцы, так и GPT-4, причем и в том, и в другом случае ученые иногда заранее предоставляли одному из участников дебатов доступ к данным оппонента.

Последующий анализ этих диалогов показал, что система ИИ в целом превосходила человека в умении вести дебаты, причем при наличии сведений о воззрениях и личных данных живого оппонента GPT-4 в 64% случаев оказалась более убедительной, чем ее противник. Возможность использования персонализированных данных позволила ИИ вдвое чаще переубеждать добровольцев и заставлять их сменить точку зрения, что подчеркивает необходимость учета "манипуляционного потенциала" ИИ при проведении дебатов и создании онлайн-площадок для таких диспутов, подытожили ученые.

Популярное

Все
Масштабные преобразования – основа устойчивого развития отрасли
Объявлен бой наркокурьерам
Масштабируя передовой опыт
«Генный ключик» для джабе
Свежий кумыс по старинным рецептам
Новой техникой пополнился машинный парк
Распоряжение Главы государства о назначении
Полигон твердых бытовых отходов остался без финансирования
Он дал новый голос казахскому кино
Озеро Сайран обрело новую жизнь
Всегда на шаг впереди угроз
Развитие цифровых сервисов обсудил Бектенов с гендиректором «Яндекс Global»
Казахстан стал лучшим на Кубке мира World Boxing
Указы Главы государства об освобождении от должности
Распоряжение Главы государства о назначении
Жители Жезказгана вынуждены употреблять питьевую воду пятого класса загрязненности
Указы Главы государства о назначении
Сбежать не удалось
Гонка за лидерами
Временный приют или точка опоры?
Первого бесплатного юридического помощника на базе ИИ запустили в Казахстане
16 млрд тенге инвестирует Казахтелеком в цифровую инфраструктуру Акмолинской области
Лесной пожар бушует в пригороде Стамбула
Мощный лесной пожар разгорелся в Турции
Южнокорейский бизнес расширяет присутствие в Казахстане
Завод по переработке природного урана запущен в Сузаке
ЕС к 2040 году планирует сократить выбросы CO2 на 90%
Доступ закрыт: туристам запретили подниматься на скалу Жумбактас в Бурабае
Государства-члены СВМДА украсили штаб-квартиру в Астане культурными элементами Азии
Названы первые победители этапа Кубка Казахстана по таеквондо в Алматы
«Мағжан оқулары-2025» вновь собрал талантливую молодежь
Назначен директор новой Службы КНБ
Экс-главу «Казселезащиты» осудили на 12 лет
Астана закрепляет за собой статус регионального экологического лидера
Находящегося в международном розыске казахстанца арестовали в Грузии
День столицы: традиционный конкурс силачей «Толағай» пройдет в Астане
Сколько людей носят имя Астана в Казахстане
Глава государства провел заседание Совбеза
Резкий рост травматизма в результате ДТП зафиксировали в Казахстане
«Астана» не смогла уйти в отрыв
День столицы: сколько дней отдохнут казахстанцы в начале июля
Алматинские врачи столкнулись с редчайшей патологией в мире
Антикор отреагировал на жалобы водителей фур в Актюбинской области
Закон и Порядок – основа созидания Справедливого Казахстана
Новый завод открыли в Атырау
В Приаралье появится сеть метановых автозаправок
Алматинцев предупредили о неспокойной ночи
Годовая мощность ветряной станции в Жезказгане составит 330 млн кВт·час
Закон Республики Казахстан
В Жезказгане построят современный Дворец школьников
Главе государства показали пассажирский вагон казахстанского производства
Развитие химической отрасли в Жамбылской области набирает темпы
В Павлодаре выявлены грубые нарушения в работе филиала Национального центра экспертизы
В Актобе построен новый завод по производству агрохимикатов
В Улгили выпускают стекло жамбылской закалки
День полиции отмечают сегодня в Казахстане
Три молочно-товарные фермы построили в Костанайской области за год
На краю пропасти: как остановить человека от последнего шага
Очередной циклон надвигается на Казахстан
Сильные дожди сменят жару в Казахстане

Читайте также

В Минцифры обсудили внедрение ИИ-решений в экономику Казахс…
Первого бесплатного юридического помощника на базе ИИ запус…
Глава Минцифры рассказал о Международном центре искусственн…
ИИ возвращает кошек домой

Архив

  • [[year]]
  • [[month.label]]
  • [[day]]