Нейросеть несёт огромную угрозу для пользовательских отзывов

Нейросеть несёт огромную угрозу для пользовательских отзывов

Для многих людей онлайн-обзоры, пользовательские оценки и отзывы – это основной способ при выборе продукта или услуги.

Исследователи из Чикагского Университета разработали программное обеспечение, которое может писать чрезвычайно правдоподобные фальшивые отзывы и онлайн-обзоры.
Искусственный интеллект способен писать сложные тексты, подрывая общественное доверие и распространяя поддельные новости. Эта технология представляет собой серьезную угрозу для компаний, которые полагаются на них.
Отзывы, автоматически написанные искусственным интеллектом, выглядят очень правдоподобными.
Вот один из примеров обобщенного обзора о пабе: «Мне нравится это место. Я поехал с братом, и у нас была вегетарианская паста, это было вкусно. Пиво было хорошим, и обслуживание было потрясающим. Я определенно рекомендую это место всем, кто ищет отличное место для хорошего завтрака.»

В этом обзоре нет ничего странного. Данный обзор дает некоторые конкретные рекомендации и правдоподобную предысторию, в следствии чего обзор похож на человеческий отзыв.
В действительности, данный отзыв был сгенерирован с использованием метода глубокого обучения, называемого рекуррентными нейронными сетями (RNN), после обучения тысячам реальных онлайн-обзоров, которые свободно доступны в Интернете.
Развитие технологий искусственного интеллекта может влиять негативно на общество, так как вследствие таких технологий может подорваться доверие к действительности отзывов в целом.
«В общем, угроза большая. Я думаю, что угроза для общества состоит в разочарованных пользователях и пошатнет нашу веру в то, что реально, а что нет, я думаю, что это будет еще более фундаментальным», - сказал Бен У. Чжао, профессор информатики в Чикагском университете, в интервью Business Insider.

Способами автоматического избегания фейковых отзывов искусственного интеллекта заинтересовались крупные онлайн магазины, в числе которых находится AMAZON и сервисы международного масштаба BOOKING.COM, TRIPADVISOR.COM и другие.
Например, компания QARM уже сегодня предоставляет защиту своих пользователей от поддельных отзывов! Только клиенты компании, совершивших покупку, получат предварительно разработанную мини-анкету на email или sms-сообщением.

Вот чем поделился о сервисе СЕО QARM Калита Алексей:
«Одной из ключевых возможностей сервиса обратной связи от клиентов QARM является то, что мы исключили возможность анонимных отзывов. Мы опрашиваем клиентов компании, тем самым обладая чёткой информацией индекса удовлетворенности клиентов.»