All Things Legal

Harvey запускал бесплатный курс «Legal Engineering Certification». Сразу поясню: «курс» довольно громкое слово для 4 небольших модулей на 1,5 часа целиком, и данный курс из вас не делает legal engineer, а просто рассказывает, чем занимается такой человек и что он должен знать и уметь. Но для определения, подходит ли вам такая карьера или нет, это неплохой старт.

Обычно я книги отправляю (заказчикам и авторам), а сегодня получил книгу - Роман Янковский любезно прислал мне свою новую книгу, да еще подписанную автором. Я всегда с уважением и теплотой относился к людям, которые готовы потратить время и усилия, чтобы поделится своими знаниями. И меня до сих пор радует, с каким восторгом авторы принимают каждую новую свою книгу после выхода, даже если это не первая, а десятая. Хотя с момента, когда вышла первая изданная мною книга, прошли почти 30 лет. Про содержание будет еще отдельный пост, после прочтения. Но, зная Романа, могу ее рекомендовать и без прочтения. Что я, собственно, и делаю - QR-код на книгу на Озоне уже вошел в презентацию лекции, которую буду читать студентам на Летней школе БФУ на следующей недели. В книге речь в т.ч. идет об образовании и будущем профессии, а это больше всего интересует студентов юридических вузов. Спасибо Роману за подарок и за вклад в развитие сообщества!

OpenAI анализировал, как корпоративные клиенты используют токены и сравнивали простой ChatGPT с применением агентской архитектурой. В целом использование агентов растет по всем отраслям, но угадайте, кто является лидером по росту применения агентов? #ai

Несомненно. Deloitte практически мертв 😀

Честно говоря, я удивлен, что это не случилось раньше. В США обнаружен первая (раскрытая) попытка промпт-инъекции в судебном документе. В деле «Elliot v. New York Bariatric Group» истец Мэттью Эллиот, выступавший в суде без адвоката, подал в Высший суд штата Коннектикут (г. Милфорд) документы, содержащие скрытый текст: он был невидим для человека, но доступен для считывания генеративной моделью искусственного интеллекта. Суд обратил внимание на скрытый текст, поскольку рассматриваемый документ, по сравнению с другими материалами, поданными истцом, «казалось, содержал лишнее "пустое пространство"». Санкция суда за эту попытку не была суровой: истца лишили права подавать документы в электронном виде и обязали в дальнейшем подавать все документы на бумажных носителях, лично сдавая их в канцелярию суда. #ai #cybersec

Когда дело касается секретов, то действую по принципу Бенджамина Франклина «Трое могут хранить тайну, если двое из них мертвы». Сколько бы лаборатории ИИ-моделей не клялись, что ваши данные не трогают, сколько бы вы не ставили галочку «Не использовать мои данные для обучения» - все равно обманут. Потому что проще и дешевле платить штраф, чем соблюдать собственные ограничения. Anthropic для моделей класса Mythos втихаря поменял правила хранения данных. Теперь они сохраняют все ваши промпты на 30 дней, даже если вы с Антропиком подписали договор о «zero data retention». Чихать они хотели на ваши чувства. #ai

26 августа Moscow Legal Hackers проводит очередной митап. Участвовать в митапах MLH всегда полезно (и приятно), но в этот раз участие обязательное, если вы работаете головой. Вы как читатель канала уже много раз читали здесь, что одним из главных вопросов эпохи ИИ является вопрос кто хозяин, кто управляет институциональной памятью (данными, контекстом, назовите, как хотите). Вам не конкурировать ни с объемом информации, на которой обучаются передовые ИИ-модели, ни со скоростью, с которой они учатся. Но скорость и объем не те параметры, которые определяют вашу роль и, в итоге, ваше место в этой связке машины с человеком. А что определяет - об этом как раз поговорим на митапе. Митап разделили на две сессии, стратегическую и практическую. Вот темы обеих сессий: Стратегическая • Онтологии и графы знания как фундамент legal AI • Context engineering - архитектурные подходы для улучшения результатов ИИ • Собственный контекст как «ров» юридической фирмы • Loop engineering - создание цикла беспрерывного улучшения ИИ-системы Практическая (кейсы компаний) • База знаний для ИИ: что делать до старта проекта • От базы знаний к ИИ-помощнику: как подготовить данные и создать эффективный инструмент для бизнеса • ИИ-помощники для корпоративных задач: как подготовить знания компании для создания эффективного цифрового эксперта • От базы знаний к эффективному поиску информации Участие бесплатное, проводим митап в новом офисе HeadHunter. Кто не может участвовать лично - организуем трансляцию и запись. Регистрация открыта. #events

Посмотрел запись сессии «AI-Native Services and the End of Scale as an Advantage» с мероприятия FlexFest 2026 с Марком Пайком (отвечает за Claude for Legal в Anthropic) и Зеком Шапиро (стал известным своим постом на X о AI native law firms). Целиком смотреть запись, скорее всего, не стоит, но Шапиро привел интересную аллегорию работы с ИИ. Он предупредил, что с инструкцией (промптом) надо быть предельно конкретным, иначе получается как с исполнением джинном желания стать самым умном на свете. Можно вдруг оказаться последним человеком на планете... #ai

Вот этот комментарий бота под предыдущим постом я, пожалуй, сохраняю себе перед удалением 😀.

Планировал с утра написать пару слов здесь по поводу маркировки Антропиком всех текстов, прощающих обработку Клодом, как сгенерированные ИИ. Всемирные интернеты переполненные эмоциями по этому поводу. А потом видел, что кто-то в соцсетях писал уже все, что стоит по этому поводу сказать. Итак: Раньше люди писали всё от руки. Затем большая часть текстов стала создаваться на пишущих машинках. Потом — на компьютерах. Теперь же значительную часть текстов вскоре будет писать искусственный интеллект. И в конечном счете никого не будет волновать, как именно написан текст, — важно будет лишь то, стоит ли его читать.

Разработчики, не благодарите.

Я здесь редко рекомендую книги, особенно когда они не по тематике канала. Но ради последних двух книг Annie Jacobsen сделаю исключение. Эти книги касаются всех, и я очень рекомендую вам читать их. Вам будет страшно, но это и есть прямая цель этих книг. Год назад Джейкобсен выпустила книгу «Nuclear War: A Scenario», в которой подробно опишет, что происходит при атаке атомной баллистической ракеты. Поминутно за каждые 26 минут, которая эта ракета в пути. И вы поймете, что шансов для нас всех практически нет. Книга произвела сильное впечатление на многих, включая меня. Одно дело знать абстрактно последствия, другое получить подробный расклад конкретных действий и их последствий. Люди тогда подумали, что такую книгу переплюнуть по тревожности будет невозможно. На что автор сказала «Hold my beer» и выпустила в этом году «Biological War: A Scenario». Начал читать, и думаю, что это переплюнуть уж точно не реально. В общем, не типичная пляжная литература, но лучше про это читать (и думать о последствиях), чем испытывать.

Продолжающаяся внутренняя работа по внедрению инноваций в сфере ИИ неизбежно приведет к повышению требований как к нашим внешним юридическим консультантам, так и к нам самим. Взгляды руководителя юридического департамента Ford Motor Co. в этой статьи вряд ли являются великим открытием, особенно для читателей этого канала. Но мнение главного юриста крупной публичной компании на смену парадигмы на рынке юридических услуг заслуживает внимания (Ford потратит на внешних консультантов примерно $350 млн в год). По его мнению юридические фирмы недооценивают шанс, который предоставляет тектонический сдвиг в связи с появлением ИИ. #ai #legal_business

Разумеется, что не все собранные у инвесторов деньги Harvey пустит на актеров и токенов 😀. На днях их подразделение LAB (Legal Agent Benchmark) в опенсорс выложило контекст синтетической юридической фирмы «Calderwood & Harkness» - 250 дел с более 10000 файлами (более 100 млн токенов). Для тех, кто строит стек AI native law firm или просто legal AI решение, это бесценный ресурс. Подробности разработчики дадут в статьи на X, я его сохранил в отдельный файл. #ai

Ходят слухи, что Harvey готовит очередной раунд, на $500 млн с оценкой $15,5 млрд. Мы все хлопаем глазами, когда они (и их конкуренты в Legora) тратят миллионы на звезд Голливуда, но это карманные деньги в сравнении с затратами на токены. Помним, по сути их бизнес - перепродажа токенов (да, это весьма упрощенное определение, но тем не менее). А стоимость этих токенов растет. Почему? Причина растущей стоимости токенов - быстрый рост затрат на их производство. Спрос на компьютерные мощности стабильно высокий, датацентры не строятся так быстро, как лаборатории, операторы датацентров и инвесторы хотят. А мощности требуются все больше и больше с растущими возможностями моделей. Узкое место - сама архитектура моделей, т.е. архитектура трансформеров. Коренной механизм трансформеров - self-attention (самовнимание) - приведет к проблеме при растущих возможностях моделей. В отличие от традиционных моделей, обрабатывающих данные последовательно (например, рекуррентные нейронные сети, RNN), self-attention анализирует весь контекст одновременно, что позволяет эффективно выявлять сложные взаимосвязи, в том числе между удалёнными элементами (архитектура CUDA позволяла сделать эти параллельные вычисления, поэтому NVIDIA сегодня стоит больше $5 трлн). Все это было прекрасно, когда контекстное окно моделей было 4095 токенов. Но у self-attention есть серьёзная проблема - квадратная сложность. Это означает, что при входящем количестве токенов (n) модели потребуются n² операций для генерации выходящих токенов. Анализ текста из 1000 токенов требует 1 млн операций, а из 10000 токенов - уже 100 млн. Передовые коммерческие модели сегодня предлагают контекстное окно в 1 млн токенов, опенсорсные даже 10 млн. Коммерческие сознательно ограничивают контекстное окно, чтобы держать под контролем расход ресурсов. Принципиально большие языковые модели могли бы предлагать контекстное окно и на 100 млн токенов, на датацентры не выдержали бы такие нагрузки. Что делать в такой ситуации? Вечно бегать по этой спирали не получится. Одной из самых перспективных концепций являются Extended Long-Short-Term Memory Networks (xLSTM), предложенными немецким ИИ-пионером Сеппом Хохрайтером. У этой архитектуры линейная сложность, что существенно уменьшает потребности в ресурсах. Kimi Linear, например, уже использует эту архитектуру. Понятно, что трансформеры в обозримом будущем будут востребованы для комплексных задач. Но для более простых задач, например в embedded systems, xLSTM может стать альтернативой. #ai

Пост о прогнозах Карпа насчет возможности выхода лабораторий ИИ в разные бизнесы, видимо, не вызвал особый интерес (судя по реакциям). Но это зря. Я уже пару раз отметил, что OpenAI нанял кофаундера Ironclad (успешный вендор в сегменте CLM) Джейсона Бемиг, чтобы возглавить Codex for Legal. А теперь Anthropic на позицию руководителя Claude for Legal нанял Роберта Махари, научного сотрудника Stanford CodeX и основателя Akiva AI (создает кастомные ИИ-решения для юридических фирм). Если Вам кажется, что выход технологической платформы на рынок их пользователей чистой воды фантазия, то общайтесь с успешными селлерами на Amazon. Amazon постоянно анализирует, что у них хорошо продается. А потом ваша хорошо продающая на их маркетплейсе безделушка Amazon продает под бренлом «Amazon Basics» и ряда других брендов, чуть-чуть дешевле и намного виднее в раздаче, чем ваш. #ai

Коллега — участник Legal Hackers Дазза Гринвуд участвовал соавтором в исследовании «AISPA: User-Centric System Prompt Auditing for Large Language Model Applications», в рамках которой анализировали интересную проблему. У коммерческих ИИ-решениях, включая фундаментальные модели, системные промпты для пользователя не доступны. Т.е. вы как профессионал отвечаете за конечный продукт, но у вас нет 100% над процессом, когда вы не знаете системный промпт модели с которым работает ваше решение. Тщательно составленный вами промпт может не быть определяющей инструкцией. Авторы исследования создали фреймворк проверки ИИ моделей и выяснили, что среди 88 коммерческих продуктов на базе ИИ примерно 40% содержали как минимум одну инструкцию, противоречащую интересам пользователя. Подробно об этом Дазза пишет у себя в блоге. #ai

Вчера друг на LinkedIn поднял вопрос, на кого учится, если ИИ на себя берет все больше работы работников умственного труда? Я ему предлагал профессии сантехника, сварщика и фермера. А сегодня наткнулся на этот диалог. Вывод 1 - мы живем в симуляции. Вывод 2 - есть План Б.

Месяц назад обещал отдельно писать про взгляд Алекса Карпа из Палантира на лаборатории фундаментальных ИИ-моделей и их месте в цепочке создания стоимости. Сразу скажу - я не испытываю особые симпатии ни Карпу, ни Палантиру. Для меня данная компания прообраз Weyland-Yutani или Tyrell Corporation. Но насчет стремлений моделей обучатся на контексте пользователей и, потенциально, стать их прямыми конкурентами, он прав. И это распространяется не только на фундаментальные модели, но и на специализированные legal AI-решения. Они положили глаз на ваши конкурентные преимущества, то, что финансисты называют «альфой». В фундаментальные модели вкладывали гигантские суммы. Эти инвестиции привели к сумасшедшим оценкам лабораторий, которые выпускают эти модели: Anthropic: $965 млрд OpenAI: $852 млрд xAI: $250 млрд Если у Антропика стоимость компании примерно 20,5 раз годового оборота (в целом для big tech компании в сегменте ИИ нормальный показатель), то у OpenAI (34) и xAI (500) явно завышенные оценки. У известных legal AI-решений ситуация еще хуже - судя по из собственным данным ARR p/e ratio около 55. Чтобы оправдать такие оценки, все эти компании должны существенно увеличить доход. Путем продаж токенов это будет сложно, если не повышать стоимость этих токенов (что уже происходит). Но для повышения есть ограничения. Во-первых, увеличение приведет к замедлению внедрения и использования. Не обязательно потому, что компании не могут себе позволить (хотя для многих расходы на токены уже кусаются. Сами лаборатории демпинговали за счет инвестиций, чтобы привлекать больше пользователей. А если вы вчера платили еще 5 долларов за миллион токенов, а сегодня - 50, то даже увеличение возможностей не компенсирует чувство, что тобою пользуются. Во-вторых, китайские модели уже не так сильно уступают американским, а по стоимости существенно дешевле. Т.е. конкуренция тоже ставит кэп на цены токенов. Да, китайцы демпингуют, и вечно продолжать это не могут. Но у них инвесторы не дышат в затылок, как это делают инвесторы американских лабораторий. Остается найти другие источники доходов. И тут возникает вопрос, который Карп сам задал в интервью - если моя модель позволяет тебе зарабатывать миллиард, то почему бы с тебя не требовать 30%? Если откажешься, то сами выходим на твой рынок - наша модель обучалась два года на твоем контексте, мы знаем, как твой бизнес работает. Особенно legal AI платформы а ля Hargora, которые со временем так тесно будут интегрированы в рабочие процессы юристов и обучены на специфических знаниях их компаний, вполне могут требовать процент от доходов. Яндекс.Такси начал со более-менее скромных 15%, сейчас, по словам таксистов, из доля доходит до 45%. Что делать в такой ситуации? Отказаться от интеграций ИИ или legal AI-решений? Нет, конечно. Если у вас есть ресурсы и уникальный контекст, то старайтесь его сохранить у себя путем архитектурных решений. Для большинства юридических фирм и департаментов собственный контекст, скорее всего, не такой уникальный, как другие факторы (репутация, связь с клиентами и т.д.). Они, наоборот, выигрывают от использования специализированных решений (или фундаментальными моделями), особенно, если разработчику удалось обучать свое решение на контексте лучших на рынке... #ai

Российский юридический ИИ-ассистент LawCopilot.ai привлек 10 млн рублей от венчурного фонда brainbox_I. Оценка компании не раскрывается. Полученные средства стартап направит на маркетинг и доработку продукта. LawCopilot [ООО “Копилот”] в 2026 году запустил Александр Литвиненко. Стартап разработал юридического ИИ-ассистента с верифицируемыми ответами. Он работает на Windows и MacOS в закрытом контуре компании, поэтому конфиденциальные данные не покидают ее инфраструктуру. Основные возможности заключаются в быстром поиске по законам и правилам с опорой на проверенные источники и российское законодательство, ответах с доказательной базой и ссылок на конкретные статьи и нормы права. Ход рассуждений агента виден целиком - от запроса до вывода, что” приводит к снижению рисков ошибок, и помощи в разборе комплексных юридических ситуаций”. brainbox_I - посевной венчурный фонд, часть экосистемы Brainbox [фонд и краудинвестинговая платформа brainbox VC]. Фонд инвестирует в российские IT-компании на ранних стадиях. Управляющий партнер - Сергей Егоров, член совета директоров brainbox VC. @rusven