Анискевич.fit()

🚀 Как я отказалась от ChatGPT и спасла бюджет (и нервы) В офисе все бредят LLM: каждый бизнес-юнит запускает пилоты и обсчитывает кейсы. А я сегодня наоборот отказалась от применения генИИ в пользу скриптов и бизнес-правил. Сэкономили кучу денег и времени. Но как понять, нужен ли ИИ именно в вашем проекте? Об этом как раз идет речь в статье Not everything needs an LLM. Итак, чтобы оценить необходимость внедрения генИИ, автор рекомендуют следующее: Шаг 1: Определить, что система получает на вход и что отдает на выходе • Один вход → один выход: Пример: Автозаполнение email в формах Решение: Правила (например, регулярные выражения) Стоимость: 0$ и 5 минут времени • Один вход → разные выходы: Генерация уникального изображения при каждом клике Решение: LLM или генеративные модели Шаг 2: Посчитать комбинации пар “вход → выход” • Мало комбинаций: разные входы → один выход Пример: Определение тональности отзыва (позитив/негатив) Решение: Классификация с применением бизнес-правил или классического ML (дешевле и точнее LLM) • Много комбинаций входов и выходов Пример: Ответы в поддержке (каждый пользователь задаёт свой вопрос) Решение: LLM с RAG или деревья решений Шаг 3: Есть ли паттерны? • Есть повторяющиеся паттерны Пример: Спам рассылки Решение: классический ML и бустинги (SVM, Random Forest, CatBoost) • Нет паттернов? Пример: Анализ уникального отзыва о ресторане. Решение: LLM, но только для единичных случаев (иначе — хаос и неточности) Шаг 4: Стоимость vs. точность • LLM действительно дает гибкость решению, но не гарантирует точность • Если вам нужно «более или менее» точный ответ — ИИ подойдёт. Если требуется 100% точность — правила или классификаторы • Масштаб = деньги, так как платите вы за каждый токен. Сверяйтесь с бюджетом И напоследок добавлю: • ML — это не волшебная палочка. Иногда проще использовать if/else, чем тратить время на обучение модели или $ на токены • Сложные задачи != ИИ*. Если вход и выход в системе связаны логикой «если A, то B» — правила работают лучше • Точность важнее модных трендов. Для задач с фиксированными ответами (например, классификация) лучше использовать эвристики или классические ML-подходы, а не генеративный ИИ • Стоимость масштаба. LLM дешевы на бумаге, но на 1000 запросов могут съесть бюджет, как криптовалютная биржа *выпендрилась и применила оператор Python вместо фразы “не равно” #frameworks #llm