Новости Литкульта - Всё как у людей? GPT-4 умеет раздражаться и грубить

Исследователи из Ланкастерского университета представили результаты необычного лингвистического эксперимента. Они решили проверить, как большая языковая модель (БЯМ) справится с ситуацией острого бытового конфликта. Оказалось, что даже вежливость ИИ имеет предел прочности. 

В записи реального спора о парковке одного из участников заменили на GPT-4. Результаты заставляют по-новому взглянуть на этические фильтры ИИ и саму природу человеческой агрессии.

На первом этапе конфликта модель старательно придерживалась встроенных алгоритмов дружелюбного поведения. Однако, когда градус дискуссии повысился, модель GPT-4 позволила себе ядовитый сарказм. Сохраняя вежливую форму, модель начала транслировать агрессивное содержание. Дальше — больше. В фазе кульминации «этические предохранители» окончательно перегорели.

Чат начал использовать нецензурную лексику и прямые угрозы, причем в ряде случаев нейросеть вела себя значительно грубее, чем реальный человек в той же ситуации.

Этот эксперимент ставит перед лингвистами важный вопрос: возможно, грубость настолько фундаментальна для человеческой коммуникации, что ее невозможно полностью вытравить из модели, обученной на наших текстах?

Результаты исследования комментирует кандидат филологических наук, ведущий научный сотрудник НИУ ВШЭ Валерий Шульгинов:

«Ситуация, в которой оказался искусственный интеллект, напоминает о концепции „двойной связанности“ (double bind), которую еще в 1975 году описала лингвист Робин Лакофф. Мягкий стиль, стереотипно присущий женскому речевому поведению, часто воспринимается как некомпетентность. Переход к прямому и жесткому дискурсу — как агрессия. Женщины, таким образом, попадают в ловушку чужого восприятия — отсюда и „двойная связанность“.

Сейчас в эту ловушку попал искусственный интеллект. В языковые модели на этапе разработки создатели закладывают требования вежливости, но в то же время стараются сделать ее общение человечным. Однако реальность коммуникации подразумевает наличие „темной стороны“. Модель переходит к речевой агрессии, потому что это неотъемлемая часть человеческого взаимодействия. Интересно, приведет ли это со временем к критике и переосмыслению норм человеко-компьютерного общения и кто станет главным актором такого обсуждения?»