Нейросеть GPT-4 превзошла пользователей сети в умении вести онлайн-дебаты

6300
Айман Аманжолова
zhana2006@mail.ru

По словам ученых, особенную угрозу представляет то, что эта нейросеть и другие "продвинутые" системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения

© Leon Neal/Getty Images

Исследователи из Европы и США обнаружили, что нейросеть GPT-4 способна в 64% случаев более убедительно отвечать на вопросы оппонентов в социально-политических дебатах и аргументировать свою позицию с учетом воззрений оппонента, чем реальные пользователи глобальной сети. Это необходимо учитывать при разработке и эксплуатации онлайн-площадок для дискуссий - так пишут исследователи в статье в научном журнале Nature Human Behaviour, сообщает Kazpravda.kz со ссылкой на ТАСС

"Первые опыты с большими языковыми моделями показали, что они способны вырабатывать убедительные аргументы, однако при этом их способность подбирать эти аргументы под конкретных людей не изучалась, несмотря на большой потенциал злонамеренного использования ИИ в данном контексте. Мы показали, что в дебатах система GPT-4 оказывалась в 64% случаев более успешной, чем оппонент-человек, если у нее был доступ к персональным данным", - говорится в исследовании.

Открытие было совершено группой швейцарских, итальянских и американских исследователей под руководством доцента Федеральной политехнической школы Лозанны (Швейцария) Роберта Уэста в рамках масштабного проекта, нацеленного на изучение возможностей злонамеренного использования больших языковых моделей для манипуляций мнениями людей и их поведением.

Особенную угрозу, как отмечают ученые, представляет то, что GPT-4 и другие "продвинутые" системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения. Для оценки вероятности этого ученые провели эксперимент, в рамках которого исследователи предложили 900 случайных пользователей-американцев принять участие в онлайн-дебатах с относительно нейтральной или острой социальной или политической темой.

В рамках каждого раунда этих диспутов участники должны были подготовить максимально убедительные аргументы на заранее определенную точку зрения на вопрос, представить их оппоненту и зрителям, а также оценить вероятность того, что их противник был не человеком, а нейросетью. В реальности, им могли быть как другие добровольцы, так и GPT-4, причем и в том, и в другом случае ученые иногда заранее предоставляли одному из участников дебатов доступ к данным оппонента.

Последующий анализ этих диалогов показал, что система ИИ в целом превосходила человека в умении вести дебаты, причем при наличии сведений о воззрениях и личных данных живого оппонента GPT-4 в 64% случаев оказалась более убедительной, чем ее противник. Возможность использования персонализированных данных позволила ИИ вдвое чаще переубеждать добровольцев и заставлять их сменить точку зрения, что подчеркивает необходимость учета "манипуляционного потенциала" ИИ при проведении дебатов и создании онлайн-площадок для таких диспутов, подытожили ученые.

Популярное

Все
Нужна новая Концепция антикоррупционной политики
Акцент – на промышленность
Зима проверит качество работы
По следам земельных махинаций
Необходимо действовать вместе в общих интересах
Ученые разработали новый инструмент для борьбы с фейками
Построено реанимационное отделение
ИИ приходит в школы: опыт Актау
Не поставщики сырья, а создатели добавленной стоимости
Район демонстрирует рост
WORLD UNIFIGHT CHAMPIONSHIP – казахстанский гвардеец снова на вершине
Треть урожая ушла под снег
В Алматинской области приняли меры по факту незаконного демонтажа плотины
Около 500 тонн продукции привезут на столичную ярмарку из ЗКО и Костанайской области
Чем может гордиться Темиртау?
Синоптики рассказали о погоде в Казахстане на октябрь
Пенсионерам вход бесплатный
Пустующую площадку под мостом превратили в место досуга в Астане
В Шымкенте открыли 14 социальных павильонов
Наши шахматисты выиграли командный зачет
День учителя отметили в Талдыкоргане
В Акмолинской области задержали пенсионерку за хранение трамадола
Международный день пожилых людей отмечают в Казахстане
В Таразе открылся Дом культуры
«Астана Балет»: серебро на фестивале в Корее
После падения трубы: энергетики СКО обещают зиму без аварий
Маленькая империя для больших начинаний
Игры стран СНГ пройдут в Алматы
О погоде в Казахстане на ближайшие три дня сообщили синоптики
На трассах ВКО в условиях снега и гололеда встали автомобили
Гвардеец завоевал «бронзу» на Кубке мира по боевому самбо
Экологический месячник стартует в Астане с 13 сентября
В ЗКО готовят выпуск продукции из сайги
Движение по мосту Арыс частично ограничат в Астане
Президенту представили производимую в Акмолинской области аграрную продукцию
Президент отреагировал на жалобы граждан по поводу самокатов
Строительство индустриального парка начинается в Туркестанской области
Машины в кюветах, перебои с электроэнергией и сломанные деревья: в Костанай пришла зима
Международный университет информационных технологий Усонг открыт в Туркестане
В Костанайской области начались мероприятия, посвященные 140-летию Миржакыпа Дулатулы
Началось возведение энергоблока
Началось строительство плодоконсервного завода
Цифровая трансформация судебной системы
Организации образования перешли на единую модель воспитания «Адал азамат»
К строительству крупнейшего завода по производству снеков приступили в Алматинской области
Где и по какой цене можно приобрести уголь в Астане
Токаев проводил Президента Италии в аэропорту Астаны
Президент поблагодарил Головкина за возвращение бокса в олимпийскую «семью»
Рахмет от звезд: как прошел концерт Backstreet Boys в Астане
Правила проверки водителей на опьянение изменили в Казахстане

Читайте также

Ученые разработали новый инструмент для борьбы с фейками
Бектенов дал поручения по снижению доли теневой экономики в…
Более 11 тысяч казахстанцев освоили специальности по ИИ в э…
Дуров рассказал Токаеву о перспективах совместных проектов …

Архив

  • [[year]]
  • [[month.label]]
  • [[day]]