В рекомендательную ленту зашита политфилософия. И её можно прочитать в исходниках

Habr ·

В рекомендательную ленту зашита политфилософия. И её можно прочитать в исходниках

Вторая статья цикла «Человек в мире современных технологий». Изначальная статья, самая интересная на мой вкус Зияющие алгоритмы, или Обезьяна с гранатой: почему нам нужен манометр, а не запрет ИИ , Вторая — о расцеплении тела, места и действия о расцеплении тела, места и действия — Сегодня — о другом разрыве: между тем, что вы хотите видеть, и тем, что вам показывают. У рекомендательной системы есть целевая функция. У политической философии — теория справедливости. Мой тезис: это один и тот же текст, записанный в разных нотациях. И пока мы делаем вид, что ранжирование — «просто математика», философию в нашу ленту зашивают те, кто не считает нужным её обсуждать. Дальше я покажу, где именно в коде лежит эта философия, какие три конкурирующие теории справедливости уже реализованы в продакшене, и почему спор Платона с либералами XX века сегодня решается коммитом в ранжировщик. 1. «Нейтральный алгоритм» — это оксюморон Инженерная привычка: метрика — термометр. Мы будто бы просто измеряем то, что пользователю нравится, и подкручиваем выдачу. Но метрика — не термометр, а конституция. Она не измеряет ценности, она их назначает. Смотрите, как один и тот же каталог превращается в разные миры: оптимизируем CTR — получаем кликбейт: заголовок обещает то, чего в тексте нет; оптимизируем watch time — получаем кроличьи норы и эскалацию: следующий ролик должен быть чуть эмоциональнее предыдущего; оптимизируем опросы удовлетворённости («time well spent») — получаем ленту, которая иногда говорит «на сегодня хватит». Это не разные настройки одной нейтральной машины. Это разные ответы на вопрос «что считать благом пользователя»: сиюминутное желание, вовлечённость или рефлексивное «мне это было полезно». Закон Гудхарта добивает остальное: как только суррогатная метрика становится целью, она перестаёт измерять то, что измеряла. Выбор суррогата — акт этический, а не технический. Просто он не требует этического ревью, и поэтому проходит незамеченным. 2. Как мы уволили редактора — и что он делал на самом деле В эпоху прессы повестку собирал человек. Главный редактор решал, что попадёт на первую полосу: наука или скандал, парламент или коты. Это была и цензура, и служба: у редактора были обязательства перед обществом, а не только перед аудиторией. Билл Келлер, тогдашний главред New York Times, формулировал прямо: «Мы не позволяем интернет-метрикам диктовать нам задания… читатели приходят к нам за нашими суждениями, а не за суждениями толпы. Мы не American Idol». Ранний интернет обещал убрать посредника вовсе. Эстер Дайсон, одна из первопроходцев Сети: «Великое достоинство Интернета в том, что он размывает власть… высасывает власть из центра и отдаёт её на периферию». Переход от «принудительной доставки» информации к «доставке по запросу» казался чистой победой свободы: государство и корпорации больше не контролируют десяток каналов, выбор у гражданина Читать далее

Источник: Habr