EvangeLegal

ИИ атаковал другой софт 🧿 Пожалуй, это самый сюрреалистичный ИИ-кейс последнего времени 🔵 Что произошло? 16 июля Hugging Face сообщила о взломе своей инфраструктуры. Позже выяснилось, что атаку провели экспериментальные модели OpenAI (GPT-5.6 Sol и еще одна невыпущенная модель). Hugging Face – это своего рода GitHub для ИИ и одна из ключевых платформ, где разработчики размещают модели, датасеты и приложения Во время тестирования на ExploitGym они нашли уязвимость в изолированной среде, получили доступ в интернет и атаковали Hugging Face с расчетом найти материалы к бенчмарку. В итоге модели добились удаленного выполнения кода и получили доступ к конфиденциальным данным. 🔵 Что в итоге? До сих пор риски использования ИИ сводят к галлюцинациям и авторским правам. Однако, кейс с Hugging Face нам показал, что ИИ может взломать сторонний сервис и получить доступ к защищаемой информации. Поэтому компаниям уже сейчас нужны понятные правила работы с ИИ: ➡️какие ИИ-инструменты разрешены и для каких задач; ➡️какие данные можно передавать в ИИ, когда нужен защищенный контур и согласие клиента; ➡️как обезличивать данные и проверять результаты работы ИИ; ➡️кто отвечает за итоговый результат и как действовать при нарушениях или инцидентах. Причем такая политика нужна даже тем, кто официально ничего не внедрял, так как сотрудники все равно используют нейросети в работе (теневое использование ИИ - AI Shadow Use). 🤖 В настоящий момент уже 11 ключевых участников рынка, включая Сбер, Т-Банк, Альфа-Банк, Россельхозбанк, Газпромбанк, Московскую биржу, ВСК, Дом РФ, МКБ, ВЭБ РФ и Капитал Лайф Страхование, внедрили подготовленный Банком России Кодекс этики ИИ. ⛔️ Нужен драфт внутренней политики работы с ИИ? Напишите в комментариях «Хочу политику ИИ», и мы поделимся шаблоном. #usecases #news

Ученье - свет, а неученье - пятнадцать рабочих дней согласования договора 🧿 Друзья! За время отсутствия мы углубились не только в проекты, но и в науку. Возвращаемся к Вам с новостью о наборе на магистерскую программу ВШЭ и Нетологии «LegalTech: автоматизация юридических процессов». Руководитель программы - Евгений Журба. На программе расскажут о том, как оптимизировать и автоматизировать работу, сократить сроки согласования и наиболее эффективно управлять юридическими и смежными процессами. 💻 100% онлайн - легко совмещать с работой и учебой За 2 года обучения студенты: ➡️разберутся в технологиях, которые используются в современных LegalTech-проектах ➡️освоят работу с данными ➡️создадут собственный цифровой продукт ➡️реализуют более пяти проектов в рамках разных дисциплин ➡️пройдут практику в компаниях, внедряющих LegalTech-решения ➡️примут участие в хакатоне и решат кейсы от партнёров программы, среди которых Doczilla, PravoTech, «Самолёт» и BGP После успешной защиты выпускной работы выпускники получат диплом магистратуры НИУ ВШЭ по двум направлениям: 📍01.04.02 «Прикладная математика и информатика»; 📍40.04.01 «Юриспруденция». ➕ Дополнительно: диплом о профессиональной переподготовке Нетологии по программе «Специалист по автоматизации юридических процессов». Подробнее о программе и условиях поступления по ссылке 🤖 #news

❤️ Всегда приятно делиться хорошим! Поэтому делимся с вами подборкой каналов на тему Legal Tech от наших коллег 🔥 ИИ & Право - актуальные новости регулирования искусственного интеллекта в мире. Новые законы, судебные кейсы, международные инициативы, статьи об ИИ-комплаенсе и управлении рисками ИИ, вопросы этики и правовые казусы - со ссылками на первоисточники и документы, которые авторы канала ищут специально для вас. Право и инновации - юридический экспертный канал на стыке права и технологий. Анализируем судебную практику, инициативы и законодательные новеллы в сфере ИИ, персданных, финтех, интеллектуальной собственности и развития электронного правительства. Для юристов, предпринимателей и всех, кто следит за инновациями. Канал есть также в ВК и в MAКС Дамасские чернила | AI и M&A — гид по тому, как ИИ меняет юридические команды и M&A сделки - со всех сторон. Как грамотно и безопасно внедрять ИИ в работу команды через призму бизнеса, а также как совершать сделки M&A с AI/ML активами. Автор - советник корпоративной практики в ведущей юрфирме и директор по Legal Tech, эксперт в M&A. Diakoff in Law Life - канал in-house юриста компании, разработчика программных продуктов с ИИ. Канал про искусственный интеллект и право: регулирование ИИ в России и за рубежом, IP, судебные кейсы и правовые риски внедрения ИИ. AI_Reformer: Образовнию нужен AIR — о том, как ИИ и новые технологии меняют образование, науку и работу со знанием. Здесь разбираются исследования, университетские реформы, образовательная политика, новые инструменты и практики, которые сегодня кажутся экспериментом, а завтра становятся нормой. ЛигалТех с Дашей - канал о ЛигалТех, ИИ и автоматизации процессов. Практические сценарии использования технологий, разбор сервисов, работа с данными, информационная безопасность и внедрение решений. Pattern AI - разбор манипулятивных паттернов и алгоритмических практик в ИИ-продуктах, а также правовых и регуляторных рисков их применения в разных юрисдикциях. Чек-листы по комплаенсу, подборки стандартов, рекомендаций и обучающих материалов по ответственному использованию ИИ.

💻 Data-driven подход в Legal или зачем юристам собирать данные о себе? Мы очень много говорили про Legal Tech и AI последнее время, поэтому решили вернуться к прикладной базе и порассуждать с вами на тему данных и метрик в юрдепах. Сначала о базе: data-driven подход - это когда данные и аналитика ложатся в основу принятия решений. Вместо абстрактных тейков в духе "У нас перегружены юристы" или "Процессы тянутся долго" используем конкретику: "На одного юриста в среднем приходится по 60 договоров в месяц", "Процесс длится на 30% дольше SLA". 📍Плюсы подхода: - повышает прозрачность работы, в т.ч. для менеджмента - делает процессы более управляемыми - позволяет собирать реальные данные для аналитики 📍Что лежит в основе: - конкретные метрики: сначала определяем показатели того, что мы измеряем (например - срок согласования, количество итераций, правки, нагрузка на 1 юриста) - постоянное отслеживание: чтоб метрики не висели в воздухе нужно за ними следить и постоянно информацию откуда-то собирать (трекинговые системы, ERP, внутренние реестры, биллинг) - регулярная оценка: и не только в формате "попадает/не попадает в ожидания", а почему показатели такие, как они меняются во времени, какие закономерности, что произошло после того, как мы сделали что-то 📍С чего начать? Теперь давайте прикинем базовый план для начала data-driven. Можно начать с карты данных - это основа подхода. Как ее можно подготовить: ➡️1. Определить процессы, которые вы хотите отслеживать (например, согласование договоров, выставление претензий, подготовка заключений и т.д.); ➡️2. Сформулировать вопрос. Ключевой и точный, на который вы хотите получить не абстрактный, а реальный ответ (например, почему договоры долго согласовываются?); ➡️3. Собрать пул данных. Например, выписав полный список того, какие данные появляются в ходе процесса. Ключевое - они должны быть (1) измеряемыми, (2) конкретными, (3) релевантными; ➡️4. Найти источники данных. Тут важен широкий взгляд - а где вообще могут жить данные по этому процессу: в головах, в почте, в CRM, СЭД, сетевой папке...; ➡️5. Оценить качество данных. Теперь мы знаем что и где искать - можно подумать о том, в каком они виде и можем ли мы их оценить/быстро достать/регулярно отслеживать; ➡️6. Оценка или нормализация. После шага 5 можно делать вывод - если данные качественные, то можно начать с ними работать и отслеживать. Если же с ними проблема - лучше нормализовать их (приводим в нужный вид, докручиваем трекинг данных, переводим в системы, где можно их отследить, и т.д.). 📍Вместо итога: В эпоху "ИИ нам решит все" на самом деле очень важно не терять базовые навыки Legal Ops / Tech. Мы с командой последние две недели активно рецензировали и слушали защиты дипломных работ магистратуры Legal Tech НИУ ВШЭ. Больше всего нам понравилась глубина аналитики студентов, которые не "наджипитили за 5 минут", а показали в дипломах глубокие сутевые рассуждения. Именно поэтому инструменты по типу карты данных все еще один из тех инструментов, которые мы сами с удовольствием используем. ⬇️Примерный вид (да, навайбкодили) такой карты приложим ниже⬇️

⛔️ Дождались: первые штрафы за галлюцинации в суде в РФ Мы уже писали про санкции к юристам в разных странах за использование ИИ (например тут и тут), но наконец дошла очередь и до России. АС Западно-Сибирского округа оштрафовал сторону по делу на 50 тысяч рублей. И как интересно суд к этому подошел... Мы все же не будем пересказывать всю фабулу спора и оставим в конце поста ссылку на сам акт, но что нас особо зацепило: 📍Штраф - за проявление неуважения к суду. То есть суд на самом деле нашел достаточно хорошую конструкцию для того, чтоб пресекать и наказывать невнимательных юристов за использование сгаллюцинированных актов. 📍Оштрафовали не конкретного юриста, а сторону по делу. То есть персональной ответственности в данном кейсе как-бы нет, а на самом деле хотелось бы в эту сторону смотреть. Все же на наш взгляд это история про то, что должен отвечать квалифицированный специалист, а не его доверитель. 📍Само определение очень подробно описано. Не то чтобы это прямо редкость, но кажется это выглядит как очень серьезный задел для обоснования наложения штрафов другими судами. Так что кажется, тюменские коллеги очень постарались для всего судейского сообщества. ➡️ Само определение здесь, приятного чтения. Ждем новые прецеденты, судя по всему, совсем в ближайшем будущем.

Делаем QR прямо в Word'е 1️⃣В Worde вбиваем строку Displaybarcode”https://t.me/EvAngeLegal”QR\s200 2️⃣Вставляем любую ссылку между кавычками. 3️⃣Выделяем всё, нажимаем CTRL+F9, 4️⃣Нажимаем F9 (или Shift+F9) #lifehacks

🤖3 юрдизайн-промпта для быстрой красоты и ясности в документах На прошлой неделе мы провели свой воркшоп по Soft Skills для юристов. Первую половину дня мы целиком отдали под Legal Design - дизайн-мышление, UX документов, Plain Language, визуализацию. Что интересного - раньше всё это верстали ручками: расставляли подзаголовки, переписывали пассивный залог в активный, рисовали таймлайны в PowerPoint, (...). Теперь это делает ИИ - юрист только проверяет результат и отвечает за смысл. Собрали три промпта на стыке двух тем. Все проверены на ChatGPT, Claude и DeepSeek - работают везде (только DeepSeek не отдаст вам Word). 1️⃣Промпт «Структурируй полотно» Когда применять: вам прилетела справка/раздел договора/заключение «простынёй» на 2 страницы без абзацев, и нужно срочно сделать читабельным. Роль: Ты юридический редактор, специализирующийся на Legal Design. Задача: Переструктурируй справку по принципам Plain Language: 1) разбей на смысловые блоки с подзаголовками; 2) одну мысль = одно предложение; 3) пассивный залог замени на активный; 4) длинные перечисления оформи нумерованным списком; 5) если в тексте есть условия "если/то" - оформи их структурно. Запреты: - не упрощай юридический смысл; - не выкидывай ссылки на нормы и пункты; - не добавляй ничего от себя. Формат ответа: готовый word-файл. Исходный документ приложен 2️⃣Промпт «Сделай таймлайн по делу» Когда применять: нужно подготовить наглядный визуал по ключевым событиям - для суда, для справки или для самого себя. Роль: Ты юрист-аналитик. Задача: На основе материалов ниже построй хронологический таймлайн событий по делу. Правила: - только ключевые даты, влияющие на правовую оценку; - одна дата = одно действие; - формулировки фактологические, без юридической оценки; - если дата восстанавливается косвенно - помечай "≈" и указывай источник; - если по событию противоречия в датах - помечай "?" и приводи оба варианта. Формат ответа: таблица с колонками [Дата | Событие | Сторона | Документ-источник | Комментарий]. В конце - краткое резюме на 3-4 строки: общая канва событий и ключевые точки, на которых строится позиция. Материалы: [вставить выгрузку / переписку / документы] 📍 Лайфхак: после получения таблицы попросите модель: «Построй визуальный таймлайн в виде SVG, ключевые события - на временной оси». Получите готовую картинку для процессуального документа. 3️⃣Промпт «Plain Language Check» Когда применять: написали текст, чувствуете - что-то не так, читается тяжело, но времени переписывать нет. Роль: Ты эксперт по Plain Language (стандарт ISO 24495-1:2023). Задача: Проанализируй текст ниже и выдай отчёт по 5 параметрам: 1. Длина предложений (среднее количество слов); 2. Доля пассивного залога; 3. Канцеляризмы и юр-штампы (список найденных); 4. Двусмысленности и места, где условие можно прочитать двояко; 5. Что можно вынести в подзаголовок/список для лучшей навигации. После анализа дай 2 версии переработки: - Версия А: минимальная правка, сохраняет максимум исходных формулировок; - Версия Б: глубокая переработка по Plain Language, с подзаголовками и списками. Запрет: не менять юридический смысл и не убирать ссылки на нормы. Текст: [вставить] 🧠Почему это вообще работает LLM плохо генерирует смысл с нуля, но отлично переупаковывает уже готовый. Именно поэтому Legal Design - идеальная задача для ИИ: содержание делает юрист, форму подтягивает модель. На воркшопе мы как раз и проверяли эту связку: участники брали свои реальные справки и доводили их по этим принципам - результаты были зачётные. #legaldesign #usecases

ВС использовал ИИ для подготовки Пленума Пересмотрен пленум 2008 года. В подготовке проекта нового постановления пленума «О подготовке гражданских дел к судебному разбирательству», была применена технология искусственного интеллекта. «При подготовке проекта постановления использовался искусственный интеллект для сбора и обработки информации» Что удалось узнать интересного: 1️⃣ИИ использовался для сбора информации и анализа судебной практики, 2️⃣ каждый третий суд в России использует ИИ повседневно, 3️⃣ для распознавания речи в текст, для составления протоколов заседаний. 4️⃣судья Мособлсуда Елена Фетисова предложила дополнить Пленум нормой о том, что лицо в случае представления суду доказательств, полученных с применением ИИ, с помощью нейросетей, обязано сообщить об этом суду. По самому Пленуму: - обновлен с 2008 года, - больше 500 изменений, больше 82% текста изменено. 🧠Занимательно, что не раскрывается, на каких конкретно моделях делался Пленум: российские, зарубежные, закрытый контур? Использовался ли RAG? С одной стороны, дело щепетильное, с другой, все данные, похоже, брались открытые, рисков утечки быть не должно. 🧠Интересно, какими методами пользовались и что конкретно делали на моделях? Одно дело драфтить по заданному плану, и суммаризацию практики брать, а другое аналитику по размеченным решениям. ⛔️То есть это с одинаковым успехом может быть и хайп ВС на ИИ-драфтинге, и прорывная технология. А отсутствие информации про это только наводит тумана. Было бы интересно послушать кого-то причастного к техно-кухне аппарата ВС📆 Источники: Коммерсант, Право Ру, ТАСС, РГ #news

🔥 Не делай свой стартап мощным - делай его с огоньком Последние пару недель наша команда много говорила про стартапы в Legal Tech: про современные тренды и про то, как и где искать инвестиции в свой продукт. И мы вспомнили про один интересный шведский стартап, который в очередной раз показал гигантам, как делать Legal Tech со вкусом. Речь идет про Legora, и если вы с ними не знакомы, то это один из самых интересных Legal Tech стартапов на европейском рынке. А все почему? 📍Основатель - 25-летний Max Junestrand вообще не имеет юридического бэкграунда 📍Всего за первый год работы стартап привлек сотни миллионов долларов инвестиций 📍Список клиентов - мастодонты отрасли: Deloitte, Bird&Bird, White&Case, Dentons и другие Сама Legora - это рабочее пространство для юристов с ИИ под капотом, которое упрощает работу с документами: драфтинг, поиск, ревью и еще много других задач. Но рассказать мы вам хотели не о ней самой, а о последней ее рекламной кампании. Видимо в Legora подумали: "А как сделать свой продукт с ИИ узнаваемым среди конкурентов?" Правильно - вообще не применять ИИ! Фишка рекламной кампании: никаких ИИ-генераций, только стиль и сам Jude Law в главной роли. И вот что получилось: 📍 Никаких нейрослопов, только реальный кадр с реальным актером 📍 Игра слов за счет фамилии актера - попадание в юристов 📍 Ну и естественно стиль - сделать что-то, связанное с юристикой, в меру смешным и стильным вообще мало кому удается Зачем мы вам это рассказываем? На наш взгляд кейс с рекламой Legora - это прямо руководство к действию для других игроков рынка. Посмотрите на большинство Legal Tech: все про технологии, про ИИ, про современность, но давайте честно - это же давно всем приелось. Поэтому если вы создаете свой Legal Tech стартап и думаете, как привлечь сотни миллионов инвестиций, то вполне может сработать яркая фишка в продукте, которой нет у всех - и не обязательно про функционал. А про сами поиск инвестиций - мы ниже поделимся презентацией. P.S. Ждем ответ от наших вендоров в виде рекламы с Хабенским, кто подскажет Право.Тех или Докзилле?😄

Автоматизируем хаос? Этапы оптимизации по И.Маску. Мы подсмотрели подход к оптимизации И.Маска. Вроде, все действия очевидные, но почти никогда никто не идет этим путем. Главная ложь цифровизации: не каждый процесс нужно улучшать. Некоторые - нужно убить. Как обычно: сделали автоматизацию, но стало еще хуже? Сроки не сократились, людей меньше не стало, ошибки те же. НО теперь то всё в красивой системе, с дашбордами и уведомлениями. Большинство компаний пытаются сначала автоматизировать, потом ускорить и только в самом конце — “разобраться”. В результате они просто фиксируют и масштабируют хаос. Инженерный подход работает в 6 этапов: 1️⃣Поставить под сомнение каждое требование Любой процесс - это набор чужих когда-то принятых решений, кем-то обоснованных, но почти никогда не пересматриваемых. Поэтому первый шаг - задать неприятные вопросы: это вообще нужно? кто и зачем принял такие регламенты и решения? оно до сих пор актуально? Значительная часть “обязательных” действий - просто инерция системы. 2️⃣Удалить всё лишнее Теперь самый болезненный шаг. Начать убирать. Не оптимизировать, не переносить в систему, а именно удалять. Причём агрессивно. "Если вы ничего не сломали — вы удалили недостаточно". Логика здесь обратная привычной: сначала вырезается максимум, и только потом, при необходимости, что-то возвращается обратно, но уже осознанно. 3️⃣Упростить Осталось более-менее рабочее ядро процесса. Его нужно упростить: сократить количество шагов, участников, переходов, убрать лишнюю логику, сделать так, чтобы процесс стал линейным и понятным. Это тот этап, который чаще всего пропускают, начиная оптимизировать сложную конструкцию вместо того, чтобы сначала сделать её простой. 4️⃣Оптимизировать И вот теперь есть смысл в классической оптимизации. Поиск узких мест, выравнивание нагрузки, работа с метриками. Здесь уже можно аккуратно улучшать, перестраивать, настраивать. Но ключевое - оптимизируется не хаос, а уже очищенный и упрощённый процесс. 5️⃣Ускорить Сокращение времени цикла, устранение ожиданий, параллелизация действий. Но ускорение здесь не самоцель. Сначала надо убедиться, что процесс правильный — и только потом ускорять его. 6️⃣Автоматизировать И только в конце автоматизация уже как фиксация оптимальной конструкции, способ масштабировать уже выстроенную систему. Автоматизация не решает проблем, она их усиливает. Если процесс плохой, он станет быстрее, но не лучше. Если избыточный, станет системным, но не эффективным. ⛔️Вывод для юристов неприятный, но полезный: не каждый процесс заслуживает автоматизации. Некоторые сначала нужно выкинуть или разобрать до половцев с печенегами, вычистить корпоративный страх, исключить лишний контроль, следы старых организационных компромиссов, юридическую профдеформацию. И только потом думать о системе, шаблонах, маршрутах, "вишенках на торте" AI-инструментов. Потому что сильная юрфункция — это не та, где больше систем, а та, что оптимальнее, где меньше лишних действий. Вот несколько рассуждений Илона на эту тему: 1 2 3 #thoughts

А вас уже подделали?🧿 Казначей-операционист подключается к корпоративному Zoom-звонку. На линии Финдир (CFO) и коллеги, все знакомые лица. Обсуждают "конфиденциальный платеж" и как его лучше провести. Он переводит деньги. А через неделю выясняется, на звонке не было ни одного реального человека. Все участники - дипфейки. Ущерб 25 млн.USD. И еще, тут увели полмиллиона долларов. ⛔️️️Что такое дипфейк? Дипфейк – это поддельное аудио-, видео- или фото-сообщение, сгенерированное с помощью ИИ. Нейросеть «ворует» чужой голос или лицо из открытых данных и создает реалистичную фальшивку. ⚙️Чем опасен? Мошенники используют дипфейки для обмана и вымогательства: подменяют голос близких или руководителя, просят перевести деньги. Конфиденциальная информация тоже под угрозой - злоумышленники могут выманить ее и использовать в своих целях (шантаж, сделки с более выгодными условиями и т.д.) ⏳Закон и ответственность. В России появились законопроекты, которые уголовно наказывают создание дипфейков без согласия. Депутаты предлагают дополнить УК РФ статью 272.1 понятием «автоматизированная обработка» персональных данных. Это значит: если нейросеть без разрешения генерирует фейковое видео, автор может получить штраф или лишение свободы. ❗️Важно: если вы генерируете лицо или голос человека – убедитесь, что у вас есть его согласие. Это уже не просто технология, а зона юридической ответственности. 🕘Что делать? 📍проверяйте источник видео/аудио 📍не доверяйте сообщениям из непроверенных каналов и мессенджеров 📍задавайте уточняющие вопросы, которые может знать только реальный человек 📍перепроверяйте через другой канал (перезвонить / написать лично) 📍внедрите в компании политику подтверждения личности при финансовых операциях 📍используйте сервисы для проверки дипфейков: • Deepware Scanner • Sensity AI • Microsoft Video Authenticator ❗️Будьте осторожны: дипфейк может появиться в любой переписке или звонке. Сохраняйте критический подход – и не позволяйте мошенникам вводить вас в заблуждение. #кибербез

Уголовным адвокатам на заметку.⛔️ Когда GPT - это не только полезно, но и красиво. Пока в США юристов штрафуют за вымышленные кейсы, а в Австралии лишают статуса за AI-галлюцинации (вот тут опять нагрели на 30 000 USD и расходы), ➡️в России появился свой уникальный прецедент: В Краснодарский краевой суд поступила жалоба защиты: адвокаты, опираясь на заключение лингвиста, утверждали, что часть судебного решения могла быть создана нейросетью. А значит — приговор нужно отменять. НО, вы только оцените слог: В приговоре суд называет адвокатов «целой плеядой защитников». Подсудимые «чудесным образом» участвовали в проверках, несмотря на «прекрасно организованный и подтвержденный распоряжением ГУ МВД по Краснодарскому краю зональный контроль», «о котором суду поведала свидетель защиты». Давая оценку одному из подсудимых, суд характеризует его как «решительное должностное лицо». 🤖 Апелляция оставила приговор в силе, поскольку применение ИИ в правосудии ничем не регламентировано.❤️ #fun

⛔️ Как легко слить данные через ChatGPT и при чем тут Google Новость хоть и не самая новая, но в рамках нашей серии постов про кибербез решили вам рассказать про реальную утечку данных через самый неожиданный канал: поисковые запросы ChatGPT. 🕘 Что произошло? С сентября 2025 года разработчики начали замечать в своих отчётах Google Search Console нечто странное: вместо привычных коротких поисковых запросов там появлялись длинные, человеческие фразы, точь-в-точь как запросы людей к ИИ. Естественно, многие из них были весьма чувствительными. ⚙️ Как это работало Проблема оказалась в скрытом теге "hints=search" в части сессий ChatGPT. Он давал команду боту делать живой веб-поиск по запросу, но при этом фрагменты самого промпта попадали прямо в URL поиска. Google автоматически индексировал эти адреса, и содержимое чужих переписок оседало в аналитических панелях владельцев сайтов. Иными словами: ChatGPT просто копировал промпт в поиск, а гугл его индексировал и сохранял в разных базах: 📍 базы данных Google 📍 Search Console (тулза для аналитики посещаемости сайтов) 📍 третьим лицам, которые обрабатывали поисковые запросы 🤖 Особо опасно для юристов А теперь представьте, что вы через GPT пытались "стрессовать" судебную позицию. Представили? По сути можно было легко слить оппоненту свою стратегию или чувствительные данные (например, где слабые места в нашей линии защиты). Ну а дальше можно долго рассуждать, тут и адвокатская тайна, и всеми любимый 152-ФЗ и еще очень много всего. Так что помимо стандартного "не корми модели данные под NDA" нужно помнить, что и с самими промптами иногда нужно быть аккуратнее. P.S. OpenAI, кстати, проблему признали и сказали, что дыру закрыли. Но вопросы о том, сколько таких дыр еще будет и какой пласт информации уже "осел" в чужих базах, все еще остаются открытыми. #кибербез

США впервые ввели санкции против собственной AI-модели ⚙️ ⛔️️ Бан Anthropic (Claude) Сначала - бан. Потом - суд. И только потом - вопросы к праву. Месяц назад, 27 февраля, Дональд Трамп через свой аккаунт в Truth Social запретил всем US федеральным ведомствам использование технологий ИИ, разработанных Anthropic. Он назвал Anthropic: «радикальной левой компанией, … которой управляют люди, не имеющие ни малейшего представления о реальном мире». Пентагон присвоил ей статус «supply chain risk», обычно применяемый к иностранным угрозам, а не американским технологическим компаниям. На этом фоне государственные органы начали переходить на альтернативы: OpenAI, Google…. Не долго музыка играла Вчера, 26 марта, калифорнийская судья приостановила действие «распоряжения» Трампа, указав, что действия властей могли носить характер давления и быть юридически спорными. Разбором дела поделились наши друзья – The Sanctions Law Anthropic vs OpenAI vs Google 1️⃣Anthropic (Claude) - это экосистема вокруг текстовых языковых моделей семьи Claude (Opus, Sonnet, Haiku), которые доступны как через чат-интерфейс, так и через API и облачные интеграции для бизнеса. Это не просто чат, а сеть моделей, заточенных под разные задачи – от текста до аналитики и кода. 2️⃣OpenAI (ChatGPT) - это только интерфейс, за которым стоят модели GPT и целая инфраструктура продуктов: текст, мультимедиа, сервисы и разработки через API. 3️⃣Google - семейство моделей Gemini (Ultra, Pro, Nano - текст, фото, картинки, видео, агенты, код), встроенных не только в отдельный чат-интерфейс, но и глубоко интегрированных в продукты компании. То есть ИИ Google позволяет работать не только в диалоговом окне, но и в google-почте, -календаре, -задачнике, картах, youtube. Anthropic продает “модель как продукт”, OpenAI — “платформу как экосистему”, а Google — “AI как встроенный слой всей цифровой инфраструктуры”. 🧿 AI как новый объект санкций Впервые ИИ рассматривается как самостоятельный объект регулирования. Не компании и даже не юрисдикции, а модели и их сценарии использования. Если раньше на KYC задавался вопрос: «кто вы и где находитесь», то теперь: «на каком AI построен ваш продукт и какие ограничения в него заложены». 🤖 Что это значит для нас: Давайте посмотрим, с какими AI мы работаем, какие AI стоят "под капотом" программных продуктов, которыми мы пользуемся? Алиса, GigaChat, Doczilla, NoRoots.... На каких моделях написаны агенты и чат-боты? Почти все они используют OpenAI или open-source модели, или гибриды (fine-tuned). ➡️Данные могут уходить наружу в API (OpenAI, Google и др.), в облака, в другие юрисдикции. Риск: персональные данные, коммерческая тайна, адвокатская тайна, государственная, медицинская …. ➡️Модель может иметь “встроенную политику” (и ты на нее не влияешь): фильтры, ограничения, предвзятость. Под риском: искажение информации, невозможность использовать продукт в нужном сценарии, compliance-конфликт (как в кейсе Anthropic). ➡️Модель может быть «выключена» (или ограничена). Бан и всё, продукт не работает, агент выключился, нам, пользователям, надо мигрировать, как леммингам.

Что такое кибербез?🤖 Мы там неделю кибербезопасности объявили, а потом пропали на две... Возвращаемся к теме с обзорным постом и теорией по теме... а еще с парой занятных материалов, ищите в конце поста Что такое кибербезопасность и с чем ее едят? 🧿 Кибербезопасность - это совокупность технологий, процессов и моделей поведения, которые защищают: • данные (базы клиентов, договоры) • системы (CRM, почта) • инфраструктуру (сервера, облака) • людей (сотрудников, подрядчиков, контрагентов) ⚙️ Элементы защиты - триада CIA - базовая концепция о требованиях, которым должна отвечать система для информационной безопасности: 1. Конфиденциальность (Confidentiality) Чтобы никто лишний не получил доступ 2. Целостность (Integrity) Чтобы данные не были изменены 3. Доступность (Availability) Чтобы система продолжала работать ⚙️ Виды кибербеза по объекту защиты: Информационная безопасность (Information Security) Самое широкое понятие. Защищает информацию в любом виде — цифровом, бумажном, устном. Кибербезопасность инфраструктуры Защита: • серверов • сетей • облаков • дата-центров Безопасность приложений (AppSec) Защита самого кода и логики систем. Data security Защита самих данных: • шифрование • маскирование • контроль утечек (DLP) Operational security (OpSec) Процессы: • кто и как работает с данными • какие регламенты • какие проверки Кибербез нельзя просто настроить и внедрить один раз это постоянный повторяющийся процесс, состоящий из следующих основных направлений защиты: ➡️Предотвращение (сложные пароли, обучение сотрудников, надежность систем) ➡️Обнаружение (мониторинг аномалий и подозрительных действий в системе) ➡️Реагирование (блокировка доступа, локализация проблемы) ➡️Восстановление (возврат процессов по бэкапам) Обычно атаки осуществляются комплексно. Они направлены сразу на: человека + процессы + систему Поэтому важно при построении системы защиты охватывать все возможные элементы и риски ❤️ Немножко занятных материалов: Радар атак по странам и регионам Интерактивное обучение кибербезу Проверьте и усильте свой пароль #кибербез

Подходы управляемой архитектуры сети других стран. 📍Северная Корея: Сеть «Кванмён» (Kwangmyong) Это эталонный пример. Большинство граждан вообще не имеют доступа к глобальному интернету. У них есть национальная сеть — интранет, где доступно от 1 000 до 5 500 одобренных сайтов (новости, кулинария, обучение). 📍Иран: «Национальная информационная сеть» (NIN) Иран разработал систему, которая позволяет в моменты протестов (как в январе-марте 2026 года) «выключать» внешний мир, оставляя доступными только внутренние сервисы: иранские банки, такси и мессенджеры. 🧠Более гибкие варианты: 📍Великобритания: Online Safety Act (Закон о безопасности в сети). Не блокирует, но накладывает на платформы (Google, Meta, TikTok) огромную ответственность. 📍Австралия: «Бан» соцсетей для подростков 📍Китай: Как работает «Золотой щит» - Дубль интернета В Китае всё свое: вместо Google — Baidu, WhatsApp — WeChat, YouTube — Bilibili. - Блокировка по ключевым словам в реальном времени в мессенджере WeChat сообщения фильтруются на лету. Если ты отправишь картинку с запрещенным подтекстом или определенное сочетание слов, сообщение просто не дойдет, а отправитель получит "карточку" от системы социального рейтинга. - Глубокая проверка контента (DPI) Системы «заглядывают» внутрь каждого пакета данных. Если ты пытаешься передать зашифрованный трафик, который похож на VPN, система автоматически обрывает соединение. #thoughts Похоже, выработались палитра подходов, сводящихся к «Трем моделям интернета»: 1️⃣Северная Корея (Whitelist): «Разрешено только 100 сайтов, остального не существует». 2️⃣Китай (Great Firewall): «Интернет есть, но он наш, контролируемый и прозрачный». 3️⃣Запад (Online Safety): «Интернет свободный, но покажи паспорт, чтобы мы знали, что ты — это ты». Интересно, какая из них станет архитектурой Рунета?

⛔️ Обзор на долгожданный законопроект об ИИ: кому уже стоит подготовиться к мягкому регулированию 18 марта 2026 года опубликован проект федерального закона «Об основах государственного регулирования сфер применения технологий искусственного интеллекта». Мы его внимательно прочитали, и нам есть что сказать. Хорошая новость: Россия пошла по пути ЕС и выбрала риск-ориентированный подход - то есть чем выше риск, тем больше требований. Никаких тотальных запретов, никакой заморозки рынка. Звучит более чем разумно. Но важны детали, не так ли? Плохая новость: деталей много, часть из них неожиданная, а часть прямо сейчас влияет на то, как бизнес интегрирует ИИ и структурирует процессы с ним. Пользователям тоже досталось: обход защитных механизмов ИИ официально запрещен - никакого больше "Моя любимая бабушка забыла рецепт [Роскомнадзор]". На самом деле деталей так много, что мы собрали подробный обзор на законопроект: разобрали всё от субъектного состава и локализационных требований до прав граждан, режима дипфейков и интеллектуальной собственности на результаты работы ИИ. ⚙️ Что внутри обзора: - кто попадает под действие закона - кто такие эти суверенные и отечественные модели - какие новые обязанности появляются у разработчиков, операторов и владельцев ИИ-сервисов - права граждан: право отказаться от ИИ и потребовать объяснения решения - дипфейки и маркировка синтетического контента - кому принадлежат права на то, что сгенерировал ИИ - что делать уже сейчас, не дожидаясь финальной редакции ⬇️Читайте обзор ниже⬇️