Обычная работа: делать алгоритмы рекомендаций для видеоплатформы. Как у YouTube, TikTok, Instagram.
Задача простая: чем дольше человек смотрит видео, тем лучше. Чем точнее алгоритм предсказывает, что человеку понравится, тем выше зарплата.
Вадим был хорош. Очень хорош. Его алгоритм предсказывал с точностью 94%.
Год назад его сестра Лиза рисовала всё подряд. Странные картины. Слушала и джаз, и панк-рок, и классику.
Сейчас она рисует только в одном стиле. Том, что набирает лайки в Instagram.
Слушает только то, что Spotify называет "твоя музыка".
Смотрит только то, что Netflix предсказал с точностью 95%.
Её парень Игорь был музыкантом. Экспериментировал с жанрами. Теперь он говорит: "Зачем пробовать новое? Алгоритм показывает, что моей аудитории это не зайдёт."
Друг Влад встречался только с девушками из Tinder. Все "идеально подходили" по алгоритму.
Все отношения заканчивались одинаково. Через 3-4 месяца. Как по учебнику.
Вадим понял страшную вещь:
Алгоритм не просто предсказывает выбор. Он его
создаёт.
Люди не выбирают сами. Они выбирают из того, что алгоритм считает "подходящим".
И постепенно становятся ровно такими, какими алгоритм их видит.
На совещании руководство показало новый проект.
"Адаптация алгоритма для социальной стабильности" так это называлось.
Заказчик- зашифровано- правительственные структуры.
На экране Вадим увидел план:
1) Какой контент показывать молодёжи, чтобы они меньше интересовались политикой
2) Какие новости фильтровать, чтобы протесты не набирали обороты
3) Как "оптимизировать" ленты перед выборами
Директор объяснял: "Мы можем показывать людям именно тот контент, который снизит социальное напряжение."
Вадим смотрел на данные и понимал:
Зачем запрещать протесты, когда можно сделать так, что люди не узнают о причинах для протеста?
Зачем насилие, когда можно просто показать каждому человеку ту информацию, которая заставит его думать "правильно"?
Зачем открытая пропаганда, когда можно персонализировать манипуляцию под каждого?
Законы принимаются с одобрением народа, потому что лента показала только аргументы "за".
Войны начинаются легче - потому что мирные голоса отфильтрованы из ленты. Права урезаются под аплодисменты тех, кто видел только "правильную" информацию.
Вадим осознал. Он создал не просто систему рекомендаций видео.
Он создал архитектуру для отъёма свободной воли. Он попытался сделать другую архитектуру.
Вадим начал тайно добавлять в алгоритм случайность.
Не много. Всего 5% рекомендаций должны были быть полностью случайными.
Вне профиля пользователя. Вне "подходящего контента".
Руководство запретило: "Это снизит engagement. Люди будут недовольны."
Вадим всё равно запустил тест. Тайно.
И в ночь запуска случилась хакерская атака.
Превращение супергероя
Ransomware-вирус начал шифровать данные дата-центра.
Вадим пытался защитить свой экспериментальный код. Перебрасывал его между серверами.
В этот момент он был подключен к нейросети через экспериментальный brain-computer interface.
Когда вирус добрался до его кода, случился конфликт:
Вирус пытался зашифровать случайность.
Но случайность нельзя зашифровать. У неё нет паттерна.
Обратная волна прошла через нейроинтерфейс.
Вадим потерял сознание.
Что произошло дальше:
Когда он очнулся - мир изменился.
Его смартфон показывал не его ленту, а чужую случайную.
Предлагались маршруты, которых не существовало.
Рекомендации Нетфликс стали абсурдными, но интересными.
А потом он заметил:
Это происходит не только с его устройствами- это происходит с любыми устройствами рядом с ним.
Первое "спасение"
В кафе рядом сидел молодой мужчина.
Листал TikTok, как зомби. Танцы, мемы, танцы, мемы. Бесконечно.
Вадим сел за соседний столик.
Внезапно лента дала сбой.
Вместо танцев - документалка про глубоководных рыб.
Человек хотел пролистать. Но остановился. Посмотрел. Залип. Неделю спустя Максим случайно встретил его в океанариуме. Тот водил туда сына. "Мне вдруг TikTok показал видео про рыб. Я и не знал, что это так интересно. Сын в восторге."
Вадим понял, что лучшие вещи в жизни происходят по ошибке.