Нейросеть для написания текстов: что доверить, а где проверять

Коротко: нейросеть быстро собирает черновик и правит форму текста. Она переписывает, сокращает, выравнивает тон, пересказывает длинный документ, набрасывает варианты заголовков. А вот факты она ставит по языковому шаблону, а не по вашим данным. Правдоподобную, но неверную цену или ссылку на закон она выдаёт так же уверенно, как верную. Поэтому форму текста отдавать машине можно, а всё, что уйдёт клиенту с числом, именем, сроком или ссылкой, вы либо проверяете сами, либо подаёте модели своими данными.

Я собираю ИИ-агентов под задачи обычного бизнеса. Писать тексты руками - типичная дыра: одни и те же письма, описания товаров, ответы на заявки, вакансии, посты. В этой статье разберу по видам текста, что можно отдать нейросети без риска. Покажу, где именно рождается пустая цифра и как устроить работу так, чтобы в готовом тексте стояли ваши настоящие факты. Разобрать, что из этого снимет агент у вас, можно по короткой анкете.

Что нейросеть реально делает с текстом

Сначала - что это вообще за инструмент. Нейросеть для текста - не поисковик и не база знаний. Она не ищет факт в источнике, а продолжает ваш запрос словом за словом так, чтобы вышло похоже на правильный ответ. Отсюда и её сила, и её слабость.

Сила - в работе с формой. Яндекс на странице своей модели YandexGPT прямо называет набор задач, под которые такие модели берут: от суммаризации документа до выделения из текста важных данных. Переписывание текста там считают отдельным навыком и даже измеряют его на своём наборе заданий. То есть пересказать, сжать, переформулировать, вытащить главное - это то, для чего модель и сделана.

Для владельца вывод простой. Если у вас уже есть материал - длинное письмо, договор, записанный разговор, старое описание товара, - машина быстро приведёт его в порядок. Задать нужное поведение помогает задание модели: коротко объясняете, что нужно, и получаете черновик. Слабость начинается там, где материала нет и факт модель берёт из себя. Об этом - дальше по порядку: сначала что отдать спокойно, потом где подстелить соломки.

Где нейросети можно доверить текст

Надёжнее всего ей даётся работа с формой уже готового текста. Здесь модель сильна, потому что не придумывает содержание, а перекладывает ваше.

• Пересказать и сжать. Длинное письмо, протокол, договор, статью модель сворачивает в короткий смысл и вытаскивает главное. Это та же суммаризация и выделение данных, под которые её и делали. Похожая работа с бумагами разобрана отдельно - ИИ-агент для документов.
• Переписать и выровнять тон. Резкое письмо клиенту сделать вежливым, сухой текст - живым, длинный абзац - коротким. Переписывание у этих моделей считают отдельным навыком, и выходит оно обычно хорошо.
• Набросать варианты. Десять заголовков для поста, три версии одного абзаца, структуру описания товара. Выбор всё равно за вами, но пустой лист машина закрывает за минуту.
• Собрать первый черновик по вашим тезисам. Вы даёте пять фактов о товаре - модель разворачивает их в связный текст. Ключевое слово здесь - по вашим тезисам: факты пришли от вас, модель только придала им форму.

Общее у всех четырёх пунктов одно: вы приносите материал или смысл, а машина работает с формой. Тексты для соцсетей и рекламы - такой же случай, но у них свои пределы, их я разбирал в статье про ИИ-агента для маркетинга. Как только содержание приходится придумывать модели, начинается другая история.

Где нейросеть ставит пустую цифру

Теперь о том, где именно модель подводит. Нейросеть отвечает всегда. Даже когда правильного ответа у неё нет, она не молчит, а выдаёт правдоподобный. Разработчики называют это выдумкой машины, или галлюцинацией. Яндекс пишет про свои модели прямо: они иногда дают выдуманные или некорректные ответы в ситуациях, когда не могут найти правильный. Что это значит и почему опасно, я разбирал в словаре - выдумка машины.

Самое неприятное - уверенность. Ошибка выглядит ровно как правда: тот же тон, та же гладкость. Модель не подаёт сигнал «тут я не уверена». Поэтому пустую цифру ловит только человек, который знает, как должно быть на самом деле.

Это не редкая беда отстающих сервисов. По собственному замеру Яндекса даже у новой версии YandexGPT доля неправильных ответов заметная: при той же доле отказов она снизилась с 30% до 16% по сравнению с прошлой моделью. Это про одну модель одного вендора, цифра не универсальная. Но порядок виден: обновлённая модель почти вдвое реже прошлой версии даёт выдуманные ответы - и всё равно часть ответов неверна. Чем новее модель, тем реже, но не до нуля.

Где это бьёт по вашему тексту:

• Цена, скидка, срок. Если вы не дали их явно, модель подставит похожее на правду число. В КП клиенту это прямой убыток.
• Характеристика товара. Размер, состав, совместимость, гарантия - модель допишет «обычные» значения, которых у вашего товара может не быть.
• Ссылка на закон или норматив. Номер статьи, название ГОСТа, пункт договора модель собирает по шаблону. Ссылка выглядит настоящей, а статьи с таким номером нет.
• Цитата, имя, факт о компании. Выдуманный отзыв, выдуманный эксперт, чужие регалии - всё это выходит гладким текстом.

Граница простая: вы приносите материал и факты, а машина работает с формой.

Вывод простой: форму модель держит, факты - нет. Перед тем как отдать такой текст клиенту, стоит понять, где в вашей работе машина снимет рутину, а где подсунет пустую цифру. Ровно это я и собираю в карте автоматизации по короткой анкете.

Как писать с нейросетью, чтобы факты были вашими

Порядок, который оставляет факты под вашим контролем, простой. Он не про хитрый запрос, а про то, откуда в тексте берутся числа.

1. Задайте роль и рамки. В начале скажите модели, кто она и что ей нельзя. Это называется системный промт: через него задают роль, стиль общения и разрешённые или запрещённые темы. У него высокий приоритет - модель держится инструкции, даже если дальше в запросе её просят ответить иначе. Пример рамки: «ты редактор, пиши сухо, не добавляй цен и цифр, которых нет в моём тексте».
2. Подайте свои данные. Числа, названия, сроки модель должна взять из вашего источника, а не из себя. Вставьте в запрос прайс, карточку сделки, описание товара, выгрузку. Нет данных в запросе - нет и права у модели их знать.
3. Просите черновик, а не истину. Ставьте задачу как «собери черновик по этим данным», а не «расскажи про наш товар». В первом случае модель работает с вашим материалом, во втором - сочиняет.
4. Проверьте каждый факт. Пройдите текст и сверьте глазами каждое число, имя, срок и ссылку с источником. Остальное - тон, порядок, гладкость - можно оставить машине.
5. Финальное слово - за человеком. То, что уходит клиенту или в документ, утверждает человек. Не потому что так положено, а потому что модель не умеет сказать «я тут не уверена».

Числа входят в текст из вашего источника и выходят через проверку человеком, а не из догадки модели.

Если собрать это в один инструмент, получается ИИ-агент: он берёт данные из вашего источника, собирает черновик по заданным рамкам, а вы проверяете и утверждаете. Тогда числа в тексте - ваши, а не догадка модели. Как грамотно собрать для него задание, я показывал в разборе промта для создания ИИ-агента.

Пример: как собрать коммерческое предложение

Покажу порядок на простом случае. Допустим, вы продаёте и ставите входные двери и каждую неделю пишете похожие КП под запрос клиента. Текст один и тот же, меняются модель, цена и срок. Это ровно та работа, где нейросеть снимает рутину, если факты подать ей самому.

Шаг первый - рамка. Вы говорите модели: «ты менеджер по продажам, пиши деловое КП, не добавляй цен, сроков и характеристик, которых нет в моих данных». Это системный промт, и модель его держит.

Шаг второй - данные. В запрос вставляете строки из своего прайса: модель двери, цену, срок поставки, гарантию, условия монтажа. Не пересказываете по памяти, а копируете как есть.

Шаг третий - задача. Просите собрать черновик КП по этим данным для конкретного клиента и под его запрос. Модель разворачивает ваши факты в связный текст и причёсывает тон.

Шаг четвёртый - проверка. Открываете черновик и сверяете каждое число с прайсом. Цена совпала, срок совпал, гарантия на месте, лишнего нет. Если модель вписала «гарантия от трёх лет», которой вы не давали, это и есть пустая цифра: убираете.

Шаг пятый - отправка. То, что уходит клиенту, подписываете вы, а не машина. На выходе КП собрано за минуты, а цифры в нём ваши.

Разница с запросом «напиши мне КП на двери» одна. Туда модель подставит выдуманные цену и срок, потому что своих у неё нет. Здесь она работает с вашими, и проверять остаётся форму, а не факты.

Частые ошибки и когда нейросети лучше не доверять

• Отдать текст клиенту без вычитки. Самая дорогая ошибка. Гладкий текст усыпляет, и выдуманная цифра уходит заказчику. Правило одно: уходит наружу - прочитано человеком.
• Спросить факт, а не дать его. «Напиши, какая у нас гарантия» - модель придумает срок. «Перепиши абзац, гарантия 14 дней» - возьмёт ваш. Разница в том, кто принёс факт.
• Поверить ссылкам и цитатам. Если в тексте появились номер закона, ссылка на сайт или цитата эксперта, которых вы не давали, считайте их выдумкой, пока не проверили в первоисточнике.
• Ждать смысла и стратегии. Придумать идею, выбрать позиционирование, решить, что важно клиенту, - это не к модели. Она хорошо переупаковывает мысль, но не рождает её.
• Гнаться за одним сервисом. Конкретная модель - дело вкуса и доступности. Разница между ними есть, но проблема с выдуманными фактами общая: это свойство всех генеративных моделей, а не брак одной.

Когда совет не подходит: если текст юридически значимый (договор, оферта, ответ в госорган) или цена ошибки высокая, черновик от модели - только заготовка. Проверяет и отвечает за него специалист, а не машина.

Источники

Хотите заранее понять, какие именно ваши тексты можно отдать агенту, а где он поставит пустую цифру? Разберём это по короткой анкете: четыре вопроса, полминуты, в ответ карта автоматизации.