Нейросеть GPT-4 превзошла пользователей сети в умении вести онлайн-дебаты

6569
Айман Аманжолова
корреспондент

По словам ученых, особенную угрозу представляет то, что эта нейросеть и другие "продвинутые" системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения

© Leon Neal/Getty Images

Исследователи из Европы и США обнаружили, что нейросеть GPT-4 способна в 64% случаев более убедительно отвечать на вопросы оппонентов в социально-политических дебатах и аргументировать свою позицию с учетом воззрений оппонента, чем реальные пользователи глобальной сети. Это необходимо учитывать при разработке и эксплуатации онлайн-площадок для дискуссий - так пишут исследователи в статье в научном журнале Nature Human Behaviour, сообщает Kazpravda.kz со ссылкой на ТАСС

"Первые опыты с большими языковыми моделями показали, что они способны вырабатывать убедительные аргументы, однако при этом их способность подбирать эти аргументы под конкретных людей не изучалась, несмотря на большой потенциал злонамеренного использования ИИ в данном контексте. Мы показали, что в дебатах система GPT-4 оказывалась в 64% случаев более успешной, чем оппонент-человек, если у нее был доступ к персональным данным", - говорится в исследовании.

Открытие было совершено группой швейцарских, итальянских и американских исследователей под руководством доцента Федеральной политехнической школы Лозанны (Швейцария) Роберта Уэста в рамках масштабного проекта, нацеленного на изучение возможностей злонамеренного использования больших языковых моделей для манипуляций мнениями людей и их поведением.

Особенную угрозу, как отмечают ученые, представляет то, что GPT-4 и другие "продвинутые" системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения. Для оценки вероятности этого ученые провели эксперимент, в рамках которого исследователи предложили 900 случайных пользователей-американцев принять участие в онлайн-дебатах с относительно нейтральной или острой социальной или политической темой.

В рамках каждого раунда этих диспутов участники должны были подготовить максимально убедительные аргументы на заранее определенную точку зрения на вопрос, представить их оппоненту и зрителям, а также оценить вероятность того, что их противник был не человеком, а нейросетью. В реальности, им могли быть как другие добровольцы, так и GPT-4, причем и в том, и в другом случае ученые иногда заранее предоставляли одному из участников дебатов доступ к данным оппонента.

Последующий анализ этих диалогов показал, что система ИИ в целом превосходила человека в умении вести дебаты, причем при наличии сведений о воззрениях и личных данных живого оппонента GPT-4 в 64% случаев оказалась более убедительной, чем ее противник. Возможность использования персонализированных данных позволила ИИ вдвое чаще переубеждать добровольцев и заставлять их сменить точку зрения, что подчеркивает необходимость учета "манипуляционного потенциала" ИИ при проведении дебатов и создании онлайн-площадок для таких диспутов, подытожили ученые.

Популярное

Все
Zhanibekov University – победитель международного конкурса по ИИ
Энергетическая отрасль должна работать на опережение
Не поддаваться влиянию чуждых идей
Укрепляя экономические связи
Голубое топливо пришло в дома сельчан
Овощехранилища заполнены, цены зафиксированы
До конца года в Западно-Казахстанской области сдадут более десяти спортобъектов
Собран первый урожай арахиса
Спасаясь от воды, отхватили землю
Искусственный интеллект помогает врачам спасать пациентов с инсультом
Масличные культуры требуют инвестиций
Восток зовет
Модель водоканала, достойная масштабирования
Казахстан и Китай обсудили всестороннее стратегическое партнёрство
Красота – в многоликости
«Кайрат» – пятикратный чемпион
В Сатпаевском Доме дружбы отметили День Республики
Питьевая вода пришла в села Костанайской области
Закон Республики Казахстан О ратификации Соглашения
Край сакральных мест
Международный день анимации: гвардеец создал военный мультфильм
Жители Усть-Каменогорска построили мост методом асар
Новую школу на 1 200 мест открыли в ЗКО
Зампред КНБ отправлен в отставку
В Таразе продолжается обновление парка городских автобусов
В Астане состоялся показ фильма «Капитан Байтасов»
В Жамбылской области выявили свыше 500 нарушений миграционного законодательства
Шымкент растет и уверенно смотрит в будущее
В Астане еще один жилой массив подключили к природному газу
Марат Ирменов назначен зампредом КНБ
В Мангистау на службу заступил новый корабль береговой охраны
В Кокшетау открылась еще одна инновационная школа
Павлодарский «Иртыш» вернулся в КПЛ
В Астане проходят праздничные концерты ко Дню Республики
Выставка «Казахский тазы» стартовала в Алматы
Первое в Казахстане поле FIFA Arena появилось в Кокшетау
С 24 октября стартует акция «Republic Day»
На востоке завершился дорожный мегапроект
Мажилис утвердил бюджет на 2026–2028 годы
Подвиг Алии бессмертен
Пенсионерам вход бесплатный
Треть урожая ушла под снег
WORLD UNIFIGHT CHAMPIONSHIP – казахстанский гвардеец снова на вершине
Гвардейцы — призёры Открытого Кубка Азии по дзюдо в Актау
Где и по какой цене можно приобрести уголь в Астане
Около 500 тонн продукции привезут на столичную ярмарку из ЗКО и Костанайской области
Токаев проводил Президента Италии в аэропорту Астаны
Военнослужащие Нацгвардии стали призёрами Кубка мира
Машины в кюветах, перебои с электроэнергией и сломанные деревья: в Костанай пришла зима
Завершена реконструкция Центрального стадиона
В Казахстане станет сложнее пользоваться банкоматами
Опасность в тарелке: в СКО зарегистрировали 19 случаев описторхоза
Пожар в столичном кафе: ремонт в пострадавших квартирах завершен на 90%
В Алматинской области приняли меры по факту незаконного демонтажа плотины
Чем может гордиться Темиртау?
В Шымкенте открыли 14 социальных павильонов
Главнокомандующий Нацгвардией провел приём граждан
Алматинская область вновь побила рекорд посещаемости
Лювак для бодрости
Синоптики рассказали о погоде в Казахстане на октябрь

Читайте также

NVIDIA и Oracle создадут крупнейший в США суперкомпьютер
Zhanibekov University – победитель международного конкурса …
Маск запустил Grokipedia
Создатели ИИ призвали запретить сверхразумный ИИ

Архив

  • [[year]]
  • [[month.label]]
  • [[day]]