Нейросеть GPT-4 превзошла пользователей сети в умении вести онлайн-дебаты

4982
Айман Аманжолова
zhana2006@mail.ru

По словам ученых, особенную угрозу представляет то, что эта нейросеть и другие "продвинутые" системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения

© Leon Neal/Getty Images

Исследователи из Европы и США обнаружили, что нейросеть GPT-4 способна в 64% случаев более убедительно отвечать на вопросы оппонентов в социально-политических дебатах и аргументировать свою позицию с учетом воззрений оппонента, чем реальные пользователи глобальной сети. Это необходимо учитывать при разработке и эксплуатации онлайн-площадок для дискуссий - так пишут исследователи в статье в научном журнале Nature Human Behaviour, сообщает Kazpravda.kz со ссылкой на ТАСС

"Первые опыты с большими языковыми моделями показали, что они способны вырабатывать убедительные аргументы, однако при этом их способность подбирать эти аргументы под конкретных людей не изучалась, несмотря на большой потенциал злонамеренного использования ИИ в данном контексте. Мы показали, что в дебатах система GPT-4 оказывалась в 64% случаев более успешной, чем оппонент-человек, если у нее был доступ к персональным данным", - говорится в исследовании.

Открытие было совершено группой швейцарских, итальянских и американских исследователей под руководством доцента Федеральной политехнической школы Лозанны (Швейцария) Роберта Уэста в рамках масштабного проекта, нацеленного на изучение возможностей злонамеренного использования больших языковых моделей для манипуляций мнениями людей и их поведением.

Особенную угрозу, как отмечают ученые, представляет то, что GPT-4 и другие "продвинутые" системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения. Для оценки вероятности этого ученые провели эксперимент, в рамках которого исследователи предложили 900 случайных пользователей-американцев принять участие в онлайн-дебатах с относительно нейтральной или острой социальной или политической темой.

В рамках каждого раунда этих диспутов участники должны были подготовить максимально убедительные аргументы на заранее определенную точку зрения на вопрос, представить их оппоненту и зрителям, а также оценить вероятность того, что их противник был не человеком, а нейросетью. В реальности, им могли быть как другие добровольцы, так и GPT-4, причем и в том, и в другом случае ученые иногда заранее предоставляли одному из участников дебатов доступ к данным оппонента.

Последующий анализ этих диалогов показал, что система ИИ в целом превосходила человека в умении вести дебаты, причем при наличии сведений о воззрениях и личных данных живого оппонента GPT-4 в 64% случаев оказалась более убедительной, чем ее противник. Возможность использования персонализированных данных позволила ИИ вдвое чаще переубеждать добровольцев и заставлять их сменить точку зрения, что подчеркивает необходимость учета "манипуляционного потенциала" ИИ при проведении дебатов и создании онлайн-площадок для таких диспутов, подытожили ученые.

Популярное

Все
В теплицах спеет урожай
Найдены личные вещи членов экипажа пропавшего на Сорбулаке вертолета
Славный сын величественного Алтая
Дроппер за все заплатит
Яблоневый сад на радость людям
Мурал в подарок городу
Запустят пять заводов
Помогают собраться в школу
Что предлагает виртуальный бокс
«Промелькнула жизнь, как выстрел...»
Полицентризм – не просто модный тренд
Город, где живет история
Цветение лотоса в устье реки Кигач
Радоваться самой и вдохновлять других
Казахстан – Турция: стратегическое партнерство выходит на новый уровень
Талдыкорган – Ушарал: новый газопровод для 66 населенных пунктов
Слово, возвращенное из прошлого
Первый в мире магазин роботов формата 6S открылся в Шэньчжэне
Миллиард тенге выделили на водоснабжение посевных площадей в Кызылординской области
Комфортная и безопасная среда
Жезказган – Кызылорда: уложены первые километры асфальта
Десять человек погибли за два дня на трассах Казахстана
Сильные дожди накроют Казахстан
Сильные дожди сменят жару в Казахстане
В Павлодарской области масштабно отметили 125-летие Исы Байзакова
Родители потратили благотворительную помощь на лечение сына: возбуждено дело
Актау – культурная столица тюркского мира
В Туркестане построят восточную объездную дорогу
В Джакарте откроют showroom казахстанского экспорта
Юрий Дудь заочно арестован в России
Втрое увеличилось количество центров поддержки семьи
Скрытый патруль против лихачей
Вопрос передачи сайгаков Узбекистану будет решаться на межгосударственном уровне — Минэкологии
Звонили «из банка» – ответила полиция
Видео с розовым озером оценили в Казнете
Находившегося в международном розыске казахстанца задержали в Египте
Казахстанский таеквондист завоевал вторую медаль на Универсиаде-2025 в Германии
Как платность дорог влияет на стоимость товаров, проверят в Костанайской области
Казахстанский режиссер – кавалер французского ордена
Определены соперники «Кайрата», «Актобе» и «Астаны»
В Караганде подорожает проезд в автобусе
Три молочно-товарные фермы построили в Костанайской области за год
Очередной циклон надвигается на Казахстан
Закон Республики Казахстан О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам совершенствования правоохранительной службы, жилищного обеспечения и социальной защиты сотрудников правоохранительных, специальных государственных органов, органов гражданской защиты и военнослужащих, а также исключения излишней законодательной регламентации в сфере деятельности органов внутренних дел
Первого бесплатного юридического помощника на базе ИИ запустили в Казахстане
Распоряжение Главы государства о назначении
Лесной пожар бушует в пригороде Стамбула
Глава государства ознакомился с деятельностью первой очереди ТЭЦ-3 Астаны
Закон Республики Казахстан О внесении изменений и дополнений в Кодекс Республики Казахстан «О налогах и других обязательных платежах в бюджет» (Налоговый кодекс) и законы Республики Казахстан          по вопросам введения его в действие
Назначен директор новой Службы КНБ
В Астане сгорел рынок «Big Шанхай»
На Зеленом базаре арендаторы в очередной раз устроили демарш
Асфальтобетонный завод строят в Сатпаеве
Амангельды Нугманов: Защита прав человека – ключевой ориентир в работе полиции
Завод по переработке природного урана запущен в Сузаке
Сенатор Амангельды Нугманов ознакомился с инициативами в сфере высшего образования в Актобе
Более полумиллиарда тенге выделили на ремонт столетней дороги в ВКО
21 предприниматель оштрафован в этом году в Костанае за превышение торговой надбавки
Сенаторы обсудили с военными Жетысу реализацию закона о территориальной обороне
​​​​​​​Закон Республики Казахстан О внесении изменений и дополнений в некоторые законодательные акты Республики Казахстан по вопросам оптимизации уголовного законодательства Республики Казахстан

Читайте также

В Казахстане начали использовать ИИ для передачи показаний …
В Минздраве обсудили цифровые решения с использованием ИИ
Бектенов провел заседание Комиссии по вопросам цифровизации
Завоеватель тысячелетия: ИИ-фильм «Чингис-Хан» покоряет каз…

Архив

  • [[year]]
  • [[month.label]]
  • [[day]]