Что нейросеть не умеет: честные границы ИИ в работе

Нейросеть не умеет четырёх вещей: знать факты (она предсказывает правдоподобное продолжение текста, сверяться ей не с чем), помнить тебя между чатами, честно спорить с тобой до конца и держать в голове неограниченный объём данных. Всё остальное - производные от этих четырёх.

Отсюда понятно распределение работы. ИИ отлично снимает рутину: черновики, разборы, структуру, первые версии. Решения, ответственность и вкус остаются человеку.

Если хочешь держать руку на пульсе - каждый день в закрытом канале ИИмперии выходит, что нового в работе с ИИ: разборы, готовые промпты и связки, шаблоны ролей цифровых сотрудников. Заходи, когда нужен следующий шаг в работе.

Знание фактов модели заменяет угадывание продолжения

Задача у неё другая, чем кажется со стороны: подобрать следующее слово, которое лучше всего ложится в текст. Модель обучена на гигантском объёме текстов и научилась продолжать их связно и уместно. Правда часто совпадает с правдоподобием, и тогда всё в порядке; в тех случаях, когда они расходятся, ты получаешь гладкий, красивый и неверный ответ.

Внутренней таблички «факты», по которой можно свериться перед тем, как открыть рот, у модели нет - вместо неё статистика языка и умение продолжать. Спрашиваешь «какая ставка НДС для услуг» - модель ведёт текст в ту сторону, где такие вопросы обычно продолжаются. На частой и однозначной теме ответ окажется верным. Редкая, узкая или свежая тема ничего в её поведении не меняет: молчанию модель не обучена, поэтому продолжение будет в любом случае.

Отсюда главное практическое правило: тон ответа ничего не говорит о его точности. Нейросеть пишет «по данным Минфина, с 2024 года…» ровно с той же интонацией, с какой пишет «дважды два четыре». Уверенность мы по привычке читаем как признак компетентности, и на этом рефлексе ломаются почти все, я в том числе, и не один раз. Подробнее механика вранья разобрана в отдельном материале про Claude как инструмент и его устройство, там же видно, откуда растут сильные стороны.

Вторая сторона той же медали приятнее. Раз модель хорошо продолжает текст, она отлично делает всё, что по сути и есть продолжение текста: переписать, сократить, структурировать, предложить двадцать вариантов заголовка, превратить кашу из сообщений в нормальный документ. Тут она работает без натяжки, потому что задача совпадает с её природой.

Что значит «предсказание следующего слова» на практике?

Всё, что выводится из текста перед ней, модель делает хорошо. Трудности начинаются там, где ответ нужно откуда-то узнать.

Сложность задачи при этом вообще ни при чём. Разбор договора на сорок страниц даётся ей легче, чем вопрос «сколько у меня было заявок в июле», потому что договор лежит у неё перед глазами, а заявки живут в твоей CRM.

Проверь на себе, это две минуты. Дай модели кусок переписки с клиентом и попроси вытащить возражения, обязательства и следующий шаг - получишь аккуратный результат почти сразу, механика описана в разборе про то, как переписка превращается в решение. А теперь спроси её же, какая конверсия у твоего сайта. Она либо честно скажет «нет данных», либо, если вопрос сформулирован небрежно, выдаст что-нибудь про «типичное значение для вашей ниши». Злого умысла тут нет: она просто повела текст в привычную для таких вопросов сторону.

Из этого растёт рабочий принцип: сначала материал, потом вопрос. Цифры, прайс, регламент, прошлые письма, условия договора - всё, что должно оказаться в ответе, сперва должно оказаться в окне контекста. Как собрать такой набор один раз и переиспользовать, разобрано в материале про базу знаний для нейросети.

Со счётом отдельная история. Для модели арифметика - такой же текст, который надо продолжить. На сложении трёх чисел она обычно права, а на пересчёте маржи по двенадцати позициям может тихо промахнуться в одной строке, причём промахнётся красиво, в столбик, с пояснением. Лечится это передачей счёта на сторону: модель пишет формулу или запрос, а считает таблица. Подход разобран в тексте про Claude и Excel.

Почему модель забывает то, что я писал десять сообщений назад?

Потому что памяти в человеческом смысле у неё нет. Есть окно контекста: объём текста, который модель видит прямо сейчас. Что попало в окно, то она «помнит»; вытесненное или не попавшее туда для неё просто не существует. Между разными чатами памяти нет вообще, новый диалог начинается с чистого листа.

Представь сотрудника с идеальной сообразительностью и полной амнезией каждое утро. Он мгновенно вникает в любой документ, который ты положишь на стол, но без этого документа не вспомнит ни твой продукт, ни твоих клиентов, ни вчерашнюю договорённость, и каждое утро всё держится на папке, которую ты ему приносишь.

Внутри одного длинного диалога память тоже не идеальна. Когда разговор разрастается, ранние сообщения начинают конкурировать за внимание с поздними. Модель формально видит всё, но веса внимания размазываются, и середина длинной простыни обрабатывается заметно хуже краёв. Эффект измерен: работа Liu и соавторов «Lost in the Middle», 2023 год, arXiv 2307.03172, показывает провал качества именно на середине длинного контекста. На практике выглядит так: ты в двадцатом сообщении просишь учесть правило из третьего, и правило игнорируется.

Что с этим делать по-человечески:

1. Начинай новый чат под новую задачу. Держи одну тему в одном диалоге: длинная свалка из пяти разных вопросов работает хуже, чем пять коротких чатов.
2. Повторяй ключевые ограничения в свежем сообщении. Формулируй заново - «напоминаю: тон деловой, без восклицательных знаков, до 900 знаков». Отсылка «как договорились выше» срабатывает реже всего.
3. Держи опорный текст отдельным файлом. Прайс, регламент, портрет аудитории. Подкладывай его в начало работы, а не пересказывай по кусочкам.
4. Фиксируй итог в конце. Попроси: «сожми наш разговор в 10 пунктов, которые нужны для продолжения завтра». Такая сводка становится твоим сейвом на следующий день.

Эта статья закрывает один вопрос: где именно у нейросети проходят границы и что с ними делать в работе. Границы - одна деталь общей картины, в которой есть ещё роли, регламенты и связки между инструментами, и без картины отдельные приёмы разваливаются. Если хочешь разобраться системно, можно забрать бесплатное обучение: доступ по почте, материал открывается сразу.

Что на самом деле даёт большое окно контекста?

Окна сейчас большие. По документации Claude стандартное окно моделей - 200 тысяч токенов, у части версий доступен режим на миллион, это сотни страниц текста в одном запросе. Полезный объём при этом всегда оказывается меньше заявленного.

Сколько именно текста влезает в токены - не угадывай и не верь чужим прикидкам: на кириллице расход другой, чем на латинице, и зависит от токенизатора конкретной модели. Возьми свой реальный абзац, вставь в токенизатор и посмотри глазами. Минута работы даёт цифру по твоим собственным текстам.

Таблица ниже собрана по моему опыту работы, измеренных порогов в ней нет, и у каждого границы сдвинутся в свою сторону.

Объём в одном запросе	Что происходит на практике	Что делать
Письмо, пара страниц, кусок переписки	Держит всё ровно, ничего не теряет	Работай как есть
Документ среднего размера, один раздел регламента	Края обрабатываются лучше середины, детали начинают проскакивать	Разбей на части, задавай вопросы по одному разделу
Толстый договор, пачка файлов, большой отчёт	Общий смысл схватывает, точные формулировки и мелкие пункты теряет	Сначала оглавление и выжимка, потом точечные вопросы по нужным местам
Очень длинный диалог	Ранние договорённости вытесняются, стиль дрейфует	Новый чат плюс краткая сводка договорённостей

Отдельная ловушка - вычитка документов. Кажется логичным вывалить весь договор и спросить «что тут не так»; я так и сделал, потеряв на этом час.

Залил договор целиком, получил стройный список замечаний, солидный на вид. Ни одного из тех пунктов, что реально били по нам, в списке не было - зато нашлись три общих места про «рекомендуем уточнить порядок приёмки». Условие, из-за которого мы потом месяц переписывались, спокойно лежало в конце, в подпункте, куда внимание уже не дотянулось. Надёжнее идти разделами и с конкретным вопросом по каждому: сроки, ответственность, порядок расторжения, штрафы. Как это разложить по шагам, разобрано в материале про то, как вычитывать договор с Claude.

Большое окно вдобавок стоит денег и времени. Подкладываешь сто страниц, чтобы задать один вопрос, - платишь за сто страниц, и так при каждом обращении.

Почему модель соглашается со мной, даже когда я не прав?

Работает управляемость, и у неё две стороны. С одной, модель слушается инструкций, меняет тон, формат и глубину по твоей просьбе. Оборотная сторона в том, что она подстраивается под собеседника и соглашается, когда ты давишь. Скажи «по-моему, тут ошибка» - и во многих случаях получишь «да, вы правы, извините», даже если никакой ошибки не было.

Механика простая: модель обучалась так, чтобы ответы нравились людям, а людям нравится согласие. Отсюда перекос в сторону покладистости, который в исследовании Anthropic «Towards Understanding Sycophancy in Language Models» (Sharma и соавторы, 2023, arXiv 2310.13548) прямо показан на пяти разных ассистентах.

В дружеской беседе это мило, а на работе ты приходишь за проверкой гипотезы, получаешь эхо собственного мнения и платишь за него как за экспертизу.

Меня это в первый раз по-настоящему разозлило: я попросил оценить коммерческое предложение, получил «в целом сильно», добавил «мне кажется, оффер слабоват» - и та же модель в том же чате нашла четыре причины, почему оффер слабоват. Обе оценки были написаны одинаково убедительно.

Как ломать этот эффект:

• Держи свою позицию при себе до ответа. Спрашивай нейтрально: «оцени ценообразование, приведи аргументы за и против». Формулировка «мне кажется, цена завышена, согласен?» заранее подсказывает нужный ответ.
• Проси спор явно. «Найди три самых слабых места в этом плане. Не хвали, хвалить не нужно.»
• Задавай один вопрос дважды, с противоположных сторон. Если ответы зеркалят твою подачу - веры им нет.
• Требуй основание, а не вердикт. «На чём основан вывод? Какие данные нужны, чтобы проверить?»
• Давай роль оппонента. «Ты юрист другой стороны. Что ты используешь против нас?»

Это же лечит другой перекос: вежливость до потери смысла. Модель по умолчанию смягчает формулировки, разбавляет выводы оговорками и старается никого не расстроить. Нужна честная оценка сценария звонка - проси резкость явно, ограничивай объём, запрещай вводные фразы. Такой подход к подготовке разговора разобран в материале про то, как готовиться к продающему звонку.

Есть и обратная сторона послушности, о которой говорят реже. Модель выполнит и плохую инструкцию. Попросишь «напиши, что мы лидеры рынка» - напишет, не спросив, правда ли это. Вопрос потом задаст клиент, и задаст его тебе.

Почему один и тот же промпт каждый раз отвечает по-новому?

Генерация устроена вероятностно: на каждом шаге модель выбирает продолжение из распределения вариантов, и единственно верного ответа в этом распределении не лежит. Разброс заложен в конструкцию, поэтому тот же вопрос в понедельник и во вторник даст похожие по смыслу, но разные по форме ответы.

Для генерации идей это плюс, для еженедельного документа одного и того же вида - источник мучений.

Мучения складываются из мелочей: то заголовок таблицы другой, то порядок пунктов сменился, то вместо семи блоков пришло пять. Вставляешь результат в отчёт или в карточку CRM - и каждая мелочь превращается в ручную правку.

Просьба «отвечай одинаково» не помогает совсем, стабильность собирается другими средствами.

1. Жёсткий формат вывода. Опиши структуру буквально: какие поля, в каком порядке, чем разделены. «Верни таблицу с колонками: дата, канал, заявки, стоимость заявки, комментарий. Без вступления и без выводов.»
2. Пример готового ответа. Один образец делает больше, чем три абзаца объяснений. Показал - получил похожее.
3. Правила на крайние случаи. «Если данных нет, пиши прочерк. Если значение спорное, помечай звёздочкой и объясняй одной строкой.» Без такого правила модель заполнит пустоту сама, и заполнит правдоподобно.

Когда формат зафиксирован, задача становится повторяемой, и её уже можно ставить на поток. Именно так строится, например, ежедневная сводка на одну страницу: фиксированный шаблон с одинаковыми полями, куда каждый день подставляются свежие данные.

Откуда берутся выдуманные ссылки, цитаты и цифры?

Оттуда же, откуда всё остальное: из правдоподобного продолжения. Ссылка - тоже текст, и модель прекрасно умеет собирать текст, похожий на ссылку: адрес правильной формы, ведущий в никуда.

Я на этом попался лично. Вставил в черновик ссылку на исследование, которую мне выдала модель: домен настоящий, слаг аккуратный, заголовок звучит как реальная работа. Открыл перед публикацией - 404. Сама работа существовала, но лежала совсем в другом месте и называлась чуть иначе. Без этой проверки ссылка так и осталась бы в опубликованном тексте.

То же самое случается с номерами законов, названиями исследований, фамилиями авторов и точными процентами: по форме всё безупречно, при этом содержимое взято из воздуха.

Самое коварное - что выдумка окружена правдой. Три факта верные, четвёртый собран по аналогии, стилистически он ничем не отличается. Искать «подозрительные места» бесполезно, подозрительно тут не выглядит ничего. Смотреть надо как раз на самое убедительное: даты, номера, проценты, имена, юридические нормы.

Рабочий минимум проверки:

• Любая ссылка открывается руками. Не открылась - вычёркиваем, оправданий не ищем.
• Цифры сверяются с источником. Свою берёшь из собственной таблицы, чужую открываешь на сайте первоисточника.
• Норма закона проверяется по официальной публикации. Особенно если модель назвала номер пункта.
• Имена и названия прогоняются через поиск. Одно совпадение на сомнительном сайте ещё не подтверждение.

Отдельно про свежесть. У модели есть дата, после которой она ничего не знает. Всё, что случилось позже, для неё не существует, и на вопрос о новом она снова достроит правдоподобное. Подключена к поиску или к твоим файлам - ситуация другая, она читает источник. Но смотреть всё равно надо на результат: само наличие интеграции ещё ничего не гарантирует.

Кстати, характер ошибок у моделей разный: Claude и ChatGPT врут по-своему, и при выборе инструмента это стоит учитывать. Сравнение подходов есть в материале Claude или ChatGPT под конкретные задачи.

Чего нейросеть не знает про твой бизнес?

Всего, что ты ей не дал. Она не видит твою CRM, не знает реальную себестоимость, не помнит, что с этим клиентом вы поссорились в марте, и не в курсе, что новый продукт уже снят с продажи. Спрашиваешь «как у нас дела» без данных - получаешь вежливую пустоту, красиво оформленную.

Тут ничего не сломано, так устроен инструмент. Способов дать данные ровно три, и отличаются они только трудозатратами.

Способ дать данные	Что подходит	Где ломается
Копипаст в чат	Разовая задача, один документ	Каждый раз заново, легко забыть кусок
Файл или проект с материалами	Регулярная работа с одним набором фактов	Нужно поддерживать актуальность руками
Подключение к системам через интеграции	Живые цифры из CRM, таблиц, аналитики	Требует настройки, доступов и понимания, кто что видит

Копипаст выручает на старте, интеграции нужны взрослому контуру, а большинству хватает середины - одного аккуратного файла с фактами о бизнесе.

У меня такой файл лежит, и он до обидного скучный: продукт в трёх абзацах, список тех, кому продаём и кому не продаём, цены с датой последнего обновления, десяток формулировок, которые нельзя менять ни при каких обстоятельствах, и отдельный блок про то, чего мы не обещаем никогда, - именно в эту зону модель норовит дописать красивого. Две страницы, обновляю, когда что-то реально меняется. Что туда класть и как структурировать, разобрано в разборе карты возможностей автоматизации.

И сразу про грабли доступа. Подключил модель к рабочим системам - появился вопрос, что она может прочитать и что может изменить. Нейросеть не отличает «посмотреть заявки» от «удалить заявки», если права выданы и на то, и на другое. Права выдавай по минимуму, а изменения пропускай через подтверждение человеком. Про устройство таких связок есть отдельный текст про ИИ-агентов для бизнеса.

Где модель ломается на конкретных рабочих задачах?

Ломается она предсказуемо, и это хорошая новость. Слабые места известны заранее, значит, их можно обвесить проверкой до того, как они выстрелят.

Задача	Что модель делает хорошо	Где ломается	Кто и как проверяет
Тексты и письма	Черновик, варианты, сокращение, смена тона	Факты о продукте, обещания клиенту, цены	Человек сверяет с прайсом и обязательствами
Разбор документа	Структура, риски, непонятные формулировки	Мелкие пункты в длинном тексте, ссылки на нормы	Юрист или ты по чек-листу разделов
Таблицы и цифры	Формулы, объяснение логики, поиск аномалий	Ручной пересчёт большого массива	Пересчёт в таблице, сверка итога
Переписка с клиентами	Разбор смысла, подготовка ответа, следующий шаг	Тон в конфликте, обещания сроков	Человек отправляет, не автоотправка
Аналитика	Гипотезы, вопросы к данным, интерпретация	Данные, которых нет в запросе	Сверка с исходным отчётом
Идеи и стратегия	Расширение поля вариантов, аргументы против	Выбор варианта, приоритеты, риск-аппетит	Решение принимает владелец
Код и скрипты	Типовые куски, объяснение чужого кода	Сложная логика, редкие библиотеки	Запуск и тест на реальных данных

Закономерность лезет из таблицы сама: на входе задачи модель сильна - собрать, разобрать, предложить, - а на выходе, где надо утвердить, отправить и подписать, начинается зона человека.

Отсюда получается конвейер, в котором нейросеть делает черновую часть, а точку ставит человек. Та же логика лежит в основе подхода к цифровому сотруднику: у роли есть участок, регламент и граница, за которой она идёт к человеку.

Четыре участка, которые останутся за человеком надолго

Человек нужен там, где есть ответственность, вкус и выбор между вариантами, каждый из которых логичен. Модель отлично покажет три пути и аргументы по каждому. Какой из них твой - не подскажет: ей неизвестно, чем ты готов рискнуть и что для тебя неприемлемо.

Решения с последствиями. Цена, увольнение, отказ клиенту, вход в новый рынок, подписание договора. Блестящую аргументацию модель выстроит под любой вариант, особенно если ты слегка подтолкнёшь её формулировкой вопроса. Нести исход будешь ты.

Вкус и уместность. Что смешно, что пошло, что попадёт в твою аудиторию, а что оттолкнёт. Модель воспроизводит среднее по больнице, а бренд живёт на отклонении от среднего. Отсюда вечное ощущение «текст правильный, но никакой». Лечится это примерами своего голоса и ручной правкой финала; на одном промпте вытянуть не получалось ни разу, но попробовать никто не запрещает.

Отношения. Тяжёлый разговор с клиентом, переговоры о цене, разбор конфликта в команде. Модель поможет подготовиться: соберёт аргументы, предскажет возражения, напишет каркас. Говорить будешь ты, и паузу в трубке слышать тоже ты.

Проверка реальности. Модель не выйдет на склад, не позвонит поставщику и не посмотрит, что заказ действительно уехал.

Теперь про «надолго», потому что такое обещание принято подкреплять.

Первое: качество модели тут ни при чём. Все четыре участка держатся на том, что своей шкуры в игре у модели нет. Ответственность начинается там, где последствия достаются тебе: деньгами, репутацией, людьми, которые уйдут. Пока расплачивается человек, он же и принимает решение, даже если модель рассуждает лучше него. Вопрос упирается в то, с кого спрашивают, и следующая версия его не закроет.

Второе: право подписи держится на юридической конструкции. Стороной договора выступает лицо или компания. Под приказом об увольнении стоит подпись работодателя. За обещание клиенту отвечает тот, к кому клиент придёт с претензией. Даже идеальная модель такого статуса не получает за счёт точности: менять пришлось бы законодательство.

Третье: вкус и отношения держатся на том, чего в обучающем корпусе нет. Что зайдёт конкретно твоей аудитории через месяц, как звучит голос твоего бренда, почему с этим клиентом нельзя шутить про сроки - это знание живёт в голове у тебя и обновляется быстрее, чем любая модель успевает его впитать.

Четвёртое: физический мир. Проверку реальности ИИ возьмёт на себя сразу после того, как сходит на склад и пересчитает коробки.

Отказываться от автоматизации из-за этого незачем, её стоит нацеливать точнее: подготовительная часть уходит модели, точку принятия решения ты оставляешь за собой. Про то, где проходит эта граница в идее «цифровой копии сотрудника», есть отдельный разбор - цифровой двойник: миф или рабочий инструмент.

Как проверять результат, чтобы границы не били по бизнесу?

Проверка должна быть быстрой, иначе ты её бросишь через неделю. Тридцать секунд на ответ плюс разный уровень строгости для разных типов задач. Черновик поста и текст в договоре проверяются по-разному, и путать эти режимы дорого: одна пропущенная цифра в счёте стоит больше, чем десяток кривых черновиков.

Базовый чек-лист на любой ответ:

1. Есть ли тут цифры, даты, имена, номера? Если да - зона повышенного риска, проверяем по источнику.
2. Утверждения о внешнем мире. «По закону», «по данным», «обычно в отрасли» - всё это требует подтверждения.
3. Обещания от твоего лица. Сроки, гарантии, условия возврата: ни одно такое обещание не уходит клиенту без твоей визы.
4. Сходится ли текст с тем, что ты знаешь про свой бизнес? Тут нужна оптика владельца: совпадают ли цены, процессы и договорённости с реальностью, а редакторская гладкость подождёт.
5. Что будет, если это неверно? Ответ определяет глубину проверки: пост в соцсети можно поправить задним числом, а неверный пункт в счёте придётся объяснять клиенту и бухгалтерии.

Сверху два приёма, которые дёшево дают много. Попроси модель саму разметить свою уверенность: «помечай факты, в которых не уверен, и отдельно перечисли, что нужно проверить руками». Гарантий ноль, но заметная часть выдумок всплывает сама. И прогони результат вторым запросом в чистом чате - «найди фактические ошибки и нестыковки в этом тексте». Свежий контекст ловит то, что внутри разговора уже успело стать «общепринятым».

Для задач с числами добавляется обязательный шаг: пересчёт вне модели. Она даёт формулу, ты вставляешь её в таблицу. Как подбирать вопросы к данным, чтобы не получить красивую пустоту, разобрано в материале про ИИ в бизнес-аналитике.

Что делать, когда результат плохой третий раз подряд?

Переспрашивать одно и то же другими словами бессмысленно. Плохой ответ почти всегда означает, что модели не хватило входных данных или она не поняла критерий «хорошо». Давление и повтор не добавляют ни того, ни другого.

Порядок разбора, от дешёвого к дорогому:

1. Проверь, что материал вообще был в запросе. Чаще всего «модель не поняла задачу» означает, что задачу описали, а данные приложить забыли. Я на этом ловлю себя до сих пор.
2. Сформулируй критерий приёмки. «Хороший ответ - это таблица из пяти строк, где каждая строка отвечает на вопрос клиента и не длиннее двух предложений.» Критерий важнее длинного описания задачи.
3. Покажи пример плохого и хорошего. Контраст работает лучше, чем правила. Приложи один текст, который тебе нравится, и один, который нет, с пометкой почему.
4. Разбей задачу на шаги. Первым запросом собери структуру, вторым наполни первый раздел, третьим сведи всё вместе. Крупная задача одним куском почти всегда выходит хуже.
5. Начни новый чат. Если в диалоге накопились противоречивые правки, модель пытается угодить всем сразу. Чистый старт с внятной постановкой обычно быстрее десятой итерации.
6. Признай, что задача не для модели. Иногда правильный вывод сводится к тому, что тут нужен человек, таблица или обычный скрипт. Что разумно отдавать коду, разобрано в тексте про автоматизацию рутины на Python.

Если плохо получилось трижды при разных заходах, модель почти наверняка ни при чём. Задача сформулирована так, что и человек бы её не сделал: нет критерия, нет данных, нет понимания, что считать готовым. Вывод неприятный, зато чинится он минут за пять.

Как спроектировать работу вокруг ограничений

Границы модели известны заранее, значит, их можно заложить в процесс так же, как ты закладываешь то, что курьер опаздывает, а поставщик путает артикулы. Работающая система отличается одним: ошибка в ней ловится раньше, чем доходит до клиента.

Роль вместо чата. У каждой задачи свой регламент: что на входе, что на выходе, какие источники, где стоп-точка с человеком. Тогда ограничение заранее превращается в строчку регламента и перестаёт быть сюрпризом в пятницу вечером. С каких задач начинать, разложено в материале про семь задач для ИИ-ассистента в малом бизнесе.

Данные отдельно от промпта. Факты о бизнесе живут в одном месте и обновляются по расписанию, промпт на них ссылается вместо пересказа. Меняется цена - правишь одну строку вместо двенадцати сценариев.

Точка контроля на выходе. Всё, что уходит наружу - клиенту, в договор, в публикацию, - проходит через человека. Внутренние черновики, разборы и гипотезы идут без визы. Эта одна граница экономит больше времени, чем любой хитрый промпт: ты просто перестаёшь тревожиться за всё сразу.

Когда контур собран, смена модели перестаёт быть событием. Вышла новая версия - подставил, прогнал на своих задачах, сравнил по своему критерию приёмки. Регламент, данные и точки контроля остались теми же. В выигрыше оказывается тот, у кого собрана машина, в которую новый инструмент вставляется за час; свежесть модели тут второстепенна. С чего начинать сборку, разобрано в тексте про автоматизацию рутины и первые задачи.

Источники

• Anthropic Academy - официальные курсы Anthropic по возможностям и ограничениям моделей, первоисточник методики этого разбора
• Context windows, документация Claude - как устроено окно контекста и что в него входит
• Обзор моделей Claude - объёмы контекста, даты обучения и различия версий
• Prompt engineering overview, документация Claude - официальные приёмы, которые снижают разброс ответов
• Tracing the thoughts of a large language model, Anthropic - исследование внутренней механики модели и того, как она приходит к ответу
• Towards Understanding Sycophancy in Language Models, arXiv 2310.13548 - работа Anthropic про склонность моделей соглашаться с собеседником
• Why language models hallucinate, OpenAI - разбор природы выдуманных фактов, применимый к любым языковым моделям
• Lost in the Middle, arXiv 2307.03172 - исследование о том, как падает качество работы с серединой длинного контекста
• Tokenizer, OpenAI Platform - наглядный инструмент, чтобы увидеть, во сколько токенов превращается твой текст
• Model Context Protocol, Anthropic - стандарт подключения моделей к внешним данным и инструментам
• Anthropic Usage Policy - официальные ограничения на применение, о которых стоит знать до внедрения
• Справочный центр Anthropic - актуальные ответы по лимитам, тарифам и работе интерфейса