Отзывы от человека и нейросети

ИИ научился писать фальшивые обзоры

Кто от этого пострадает

Ученые из Чикагского университета разработали нейросеть, которая генерирует обзоры на рестораны и отели.

Алгоритм обучали на тысяче реальных отзывов, найденных в интернете. В результате он научился писать тексты, практически неотличимые от настоящих. Разработчики:

"Мы провели исследование с 600 реальными пользователями [сайтов отзывов]. Люди не только не смогли отличить фальшивые рецензии, но и назвали их настолько же полезными, насколько и человеческие."

Уникальность достигается за счет того, что нейросеть составляет текст из отдельных слов, а не из нарезанных кусков текста. Искусственный интеллект даже дополняет рецензии “историями из жизни”.

Сможете ли вы найти среди отзывов те, которые написал алгоритм?

Настоящие и фальшивые обзоры

Ответ: ИИ написал рецензии 2, 5 и 6.

Пока отличить фальшивку возможно лишь с помощью статистических методов - нейросеть выдает частота появления букв. Подробнее о технических характеристиках нейросети можно прочитать в работе ученых.

Создание робота разрушает бизнес по продаже отзывов и подрывает доверие людей к сайтам с обзорами - например, Yelp или TripAdvisor - а также к онлайн-ритейлерам, таким как Amazon. Однако этим возможные проблемы не ограничиваются. Один из создателей ИИ Бен И. Чжао:

“Я думаю, что опасность для общества гораздо серьезнее. Это [развитие ИИ] может пошатнуть нашу веру в то, что реально, а что нет. Начало - рецензии: верите ли вы в то, что кто-то написал о ресторане или товаре?

Однако дальше могут быть сконструированы, например, целые записи в блогах. Дальше вам придется все сильнее задумываться, откуда появилась информация и как ее можно подтвердить.

Я хочу, чтобы люди обратили на это внимание как на реальную и близкую угрозу. Многие фокусируются на Singularity и Skynet, но есть гораздо более реалистичные и важные проблемы, которые может создать очень хороший ИИ.”

#интересное Одной из главных проблем могут стать фальшивые новости. Журнал The Economist описал видеоролик Alternative Face v1.1, созданный немецким художником Марио Клингеманном.

На видео певица Франсуаза Арди в возрасте 20 с небольшим лет (ей сейчас 73 года) воспроизводит речь Келлиэнн Конуэй — советницы президента США Дональда Трампа. Его создала генеративная нейросеть — на основе реальных видео сгенерировала несуществующий уникальный контент, а поверх наложила аудиодорожку с комментариями Конуэй.

Удается ИИ и “подделка” аудиозаписей: в апреле канадский стартап Lyrebird опубликовал набор алгоритмов, которые могут сымитировать голос любого человека с добавлением нужной эмоциональной окраски. Для обучения системе достаточно прослушать звуковой файл длиной не больше 1 минуты.


Also published on Medium.