Компании электронной коммерции всё чаще используют A/B-тестирование для стимулирования покупок, навязывания услуг и даже в качестве инструмента социальной манипуляции. Стриминговые компании делают это для обеспечения подписок, игровые компании — чтобы подтолкнуть пользователей к покупке внутриигровых продуктов, а финансовые — чтобы стимулировать пользователей подписаться на их услуги (в основном получение кредитов или расчётно-кассовое обслуживание). Хотя проведение тестовых сравнений может ускорить инновационный процесс, повысить производительность и помочь сформировать ценность для клиентов, стоит выделить распространённое, но недооценённое явление, которое можно определить термином «цифровая эксплуатация», под которым подразумеваются случаи, когда компании присваивают усилия ресурса пользователя для повышения своей выгоды от рекламной деятельности.

Сам процесс, о котором идёт речь в этой статье, — это методология сравнения двух или более вариантов идей для определения наиболее эффективных из них. Среди контентных материалов могут быть версий изображений, заголовков и описаний рекламных объявлений для выявления тех, которые привлекают большее количество кликов (кликабельность), а, соответственно, увеличивают продажи. Применение таких методик отслеживания является мощным инструментом по двум причинам. Во-первых, основные принципы функционирования основаны на экспериментах со случайным распределением пользователей по экспериментальным и контрольным группам, которые могут проверять причинно-следственные связи. Соответственно, компании могут использовать A/B-тестирование для выявления факторов, которые улучшают показатели эффективности, и соответствующим образом оптимизировать свои цифровые продукты. Во-вторых, можно проводить весьма точную обработку больших данных, для сбора конкретики от большого количества пользователей и делать надёжные выводы на основе анализа, что, в целом, значительно повышает точность принятия решений в инновационной и коммерческой деятельности.

Но дело в том, что производительность частных компаний, при этом, улучшается за счёт ресурсов пользователей (например, денег, времени, устройств). Уже зафиксированы случаи, когда технологические компании используют A/B-тестирование для разработки юзабилити проектов, заставляющих пользователей увеличивать своё экранное время до неприемлемых уровней, даже если это может иметь потенциально пагубные последствия для посетителей сайтов. Эта тенденция обусловлена ​​двумя факторами: гарантированной прибылью и конкурентным давлением, которое заставляет фирмы принимать меры, чтобы необоснованно максимизировать свою прибыль. Ведь процесс предоставляет достоверную информацию о выручке, которую фирмы могут ожидать от внедрения мер, затрудняющих людям серфинг по сайту/платформе или скрытом навязывании дополнительных услуг. Например, в результате тестов, одна известная компания по продаже электронных подписок на компьютерные игры обнаружила, что удаление сообщения о предложении на целевой странице предварительного заказа может увеличить покупку пользователями на 43,4% тех дополнительных продуктов, которые им не очень-то и нужны.

Например, продавцы электронных товаров/услуг прекрасно осведомлены, что чем больше денег или экранного времени пользователи тратят на их онлайн-приложение, тем меньше у них остаётся времени/возможности для посещения других конкурирующих платформ. При этом, в большинстве случаев, сами пользователи не знают об их участии в исследовании, так как никто и не думает запрашивать их явного согласия. Известен случай, когда одна известная соцсеть вовлекла более полумиллиона пользователей в тестирование, никого не поставив в известность. В том эксперименте новостная лента пользователей была изменена путём удаления, либо всех положительных, либо всех отрицательных постов. Впоследствии первая группа пользователей опубликовала больше отрицательных постов и меньше положительных, тогда как вторая группа продемонстрировала противоположную картину. Таким образом было выявлено, что оптимизация алгоритмов рекомендаций с помощью A/B-тестирования может генерировать ленты, которые невольно приковывают пользователей к экрану, обеспечивая «бесконечную прокрутку» в течение нескольких часов, испытывая негативные последствия во время и после этой процедуры. Если рассматривать этот случай в более широком смысле, то можно констатировать, что меры, выявленные с помощью A/B-тестирования, могут повысить зависимость социума от определённых продуктов/услуг, политических предпочтений, пристрастий и даже наклонностей.

Но ещё дальше продвинулись новые технологии отслеживания на основе диалогов людей с генеративным искусственным интеллектом (например, с Chat-GPT) который может помочь лицам, принимающим решения, генерировать больше идей. Эти идеи потом оцениваются (сравнение/тестирование) более сложными алгоритмами нейросетей на ничего не подозревающих пользователях, и, в случае успешности, нередко присваиваются коммерческими компаниями, которые выдают их за свою разработку/креатив. В данной схеме A/B-тестирование ускоряет процессы оценки и отбора, совместно создавая автоматизированную и эффективную процедуру, которая усиливает цифровую эксплуатацию граждан.

Потенциальные тёмные стороны тех процессов, о которых речь велась выше, требуют исследовательского внимания со стороны не столько учёных, изучающих бизнес и общество, сколько политиков и чиновников. Должны быть разработаны руководящие институциональные принципы о том, как следует использовать A/B-тесты. Например, компании должны запрашивать согласие пользователей на их участие и использование их данных, прежде чем включать их в A/B-тестирование. Обязать показывать всплывающее окно с вопросом, хотят ли пользователи участвовать в данном процессе, с примечанием типа «Мы приглашаем вас принять участие в тестировании нашего нового алгоритма рекомендаций». Настройка должна позволять пользователям легко соглашаться или не соглашаться (а при положительном согласии отметка должна фиксироваться и сохраняться на серверах независимой контролирующей организации). Для тех, кто хочет узнать больше информации, перед принятием решения, всплывающее окно должно содержать ссылку на положения, условия и дополнительных данных о целях и процедуре тестирования. Сами компании могут разрабатывать схемы стимулирования, например, предлагать купоны/скидки тем пользователям, которые соглашаются участвовать в их экспериментах, чтобы компенсировать им потраченное время и потенциальные непредвиденные нежелательные эффекты.