Слоп: изобилие без подписи

После упражнения Сто выборов у вас на столе лежат три текста, и один из них написала модель. Пока он никуда не ушёл, это просто черновик. Последний вопрос главы возникает в момент, когда такой текст отправляют другим людям: коллегам, клиентам, читателям. Что именно меняется в эту секунду? Глава начиналась с изобилия как с новой возможности, а заканчивается его оборотной стороной.

Слово для изобилия без выбора

8 мая 2024 года Саймон Уиллисон (Simon Willison) написал в своём блоге короткую запись. Накануне он увидел пост пользователя @deepfates. Тот замечал, что слово «слоп» (slop) на глазах у всех становится термином, как когда-то «спам» стал словом для непрошеных писем, и попадёт в словари как название нежеланного контента, сгенерированного ИИ. Слово Уиллисон не придумывал и прямо называет, у кого его взял, но подхватил его и поддержал.

Сам Уиллисон при этом называет себя большим сторонником языковых моделей: и как инструмента личной продуктивности, и как платформы для интересных приложений. Но, пишет он, его всё больше убеждает, что делиться с другими людьми непроверенным сгенерированным контентом невежливо (rude). Для этого антипаттерна и нужно слово. Почему именно невежливо, легко представить на обычном примере. Сводка встречи, сгенерированная за минуту и разосланная двадцати людям, экономит минуту отправителю, а проверку перекладывает на каждого из двадцати получателей. Тот, кто сэкономил, отдал свою работу другим и не спросил их.

Определение Уиллисон даёт с оговоркой. Не всякая реклама — спам, и не всякий сгенерированный ИИ контент — слоп. Но если контент сгенерирован бездумно и навязан тому, кто его не просил, слоп — идеальное слово. В определении два признака, и нужны оба: никто не проверил текст, и получатель его не просил. Сравнение со спамом работает и дальше: спам не отменил электронную почту, и слоп не отменяет модели, он называет лишь один способ ими пользоваться. Пример Уиллисон приводит из жизни: сгенерированный ИИ путеводитель Microsoft, где продовольственный банк Оттавы попал в список того, что туристу нельзя пропустить.

Подпись как граница

Из определения Уиллисон выводит личное правило. Пользоваться моделями для самых разных задач он готов, а производить с их помощью слоп нет, потому что «я ставлю своё имя и свою репутацию на то, что публикую» (I attach my name and stake my credibility on the things that I publish). Личная этика ИИ, признаёт он, остаётся сложным набором решений, но «не публикуй слоп» (don't publish slop) — полезная нижняя планка. Эту фразу подробнее разбирает карточка Имя и репутация под публикацией.

Если довести это правило до определения, получится вот что: слоп — это изобилие без выбора, то, что никто не отбирал и не подписывал. Слово описывает не технологию и не качество текста, а отсутствие человека, который решил, что это стоит показать другим, и готов за это отвечать. Похожую мысль с другой стороны формулирует Тед Чан в эссе 2024 года: любой текст, заслуживающий внимания читателя, — результат усилия того, кто его написал. А больше всего генеративному ИИ, по его словам, удалось снизить наши ожидания: и от того, что мы читаем, и от самих себя, когда мы пишем для других. Сгенерированный текст, который вы прочитали, проверили, исправили и отправили под своим именем, уже не слоп, даже если первый вариант написала машина. Подпись означает, что выбор сделан: из всего, что могла выдать машина, человек оставил именно это.

Что можно отдать машине

Граница становится яснее, если вернуться к вайб-кодингу. Андрей Карпати в феврале 2025 года описал работу, где он всегда жмёт «Accept All», не читает диффы и почти забывает, что код существует. Код, признаёт он, разрастается сверх того, что он обычно может охватить, а если модель не может исправить ошибку, он обходит её или просит случайных изменений, пока ошибка не исчезнет. Но сам же и ограничивает эту практику: она «неплоха для одноразовых проектов на выходные». Проект на выходные никому не навязан, и если он сломается, пострадает только автор. Здесь принять всё не глядя — разумная экономия.

Отсюда различение. Машине можно отдать черновики, варианты и одноразовые вещи, где цена ошибки мала и где результат никуда не уходит без вас: черновик письма, который вы потом перепишете, десять вариантов заголовка, из которых оставите один, таблицу для себя, прототип, который никто, кроме вас, не увидит. Решение, что выпустить под своим именем, остаётся человеку. Модели при этом никто не запрещает, и писать всё руками не требуется. Перед каждой отправкой достаточно одного вопроса: прочитал ли я это целиком и готов ли под этим подписаться?

Вопрос кажется очевидным, но изобилие давит именно на него. Когда сгенерировать сводку, письмо или отчёт стоит минуту, проверка начинает казаться самой дорогой частью работы, и её хочется пропустить. Поэтому слоп появляется и у тех, кто отличает хорошее от плохого: достаточно пропустить проверку. Граница между инструментом и слопом проходит в том месте, где человек перестаёт выбирать и проверять.

Так замыкается первая глава, которая прошла по лестнице удешевления. Ану Атлуру заметила, что софт стал «достаточно хорош у всех» и ценность ушла к вкусу, а Евгений Вольнов перенёс эту мысль в организацию, где товаром стали процессы и фреймворки. Тед Чан показал, что работа состоит из тысяч мелких выборов и машина заполняет пропущенные, например, средним. Уиллисон провёл черту там, где этот выбор отдают совсем, вместе с подписью. Через все ступени проходит одна мысль: когда сделать стало дёшево, дорогим становится выбор с мнением.

Но если вкус стал главным дефицитом, остаётся простой и неудобный вопрос: что это такое? Не прячется ли за этим словом «у каждого своё», с которым спорить бессмысленно? С него начинается следующая глава.