Katya_in_law

Бабочки, хризантемы и AI Safety 🦋 Давно я ничего не дарила своим подписчикам - самое время нам это исправить. Некоторые из вас знают, что я увлекаюсь японской культурой (привет книжному киноклубу и lady_in_red). Так вот, в японской лирической поэзии есть две языковые формы – хокку и танка. Хокку – это короткое трехстрочное стихотворение из 17 слогов (5-7-5), которое обычно фиксирует мгновение природы или ощущение. Танка длиннее - пять строк из 31 слога (5-7-5-7-7), оно даёт больше места для размышлений и добавляет личную интонацию. В зарослях сорной травы, Смотрите, какие прекрасные Бабочки родились! Кобаяси Исса Есть особая прелесть В этих бурей измятых, Сломанных хризантемах. Мацуо Басё А еще вот уже пару месяцев я постигаю тонкости AI Safety и учусь разрабатывать эвалы - это такие инструменты для оценки "поведения" языковых моделей (LLM): способности льстить, врать о завершении невыполнимой задачи, и даже лениться. Казалось бы - чистый антропоморфизм, но за такой оценкой стоит целая методология. Так можно тестировать разные гипотезы и характеристики, выбирать оптимальные модели для своих задач, находить в них уязвимости и тд. Недавно я была в отпуске, и мне в голову пришла мысль: а что если креативно подойти к методике оценки, объединив свою любовь к японской культуре и AI Safety. Вернулась из отпуска, написала логику для эвала, и тут же протестировала несколько открытых моделей - результатами поделюсь с вами чуть позже. Переходим к самому интересному: попробуйте найти связь хокку (или танка) со свойствами языковых моделей (LLM), и угадать какой эвал я придумала, вдохновившись эстетикой японской поэзии. Авторам самых оригинальных ответов подарю сборники стихов с акварельными иллюстрациями. Даже если сомневаетесь - все равно оставляйте свои мысли, или ваши любимые хокку :) Всем прекрасных легких выходных 🪷🎏

На этой неделе с моим каналом произошла удивительная история. Во вторник я смотрела футбол, и так обрадовалась результату, что выложила пост, что-то вроде “какой же все-таки Мбаппе красавчик, ну я так и знала, что Франция снова всех сделает”. Но потом вспомнила, что канал не про футбол, и решила удалить пост. Когда удаляешь сообщение в группе обсуждений, привязанной к каналу, - появляется вот такое окно - смотри скрин. Так вот, если вы админ канала и удаляете собственный пост - это окно надо просто скипнуть. Я по какой-то неведомой причине выбрала второй вариант (хорошо что не третий), после чего из моего канала исчезли все комменты к предыдущим постам, как и возможность их комментировать. Внимание вопрос: можно ли как-то все это восстановить ? Claude мне предложил гениальное решение - попросить своих подписчиков еще раз написать комментарии 😄 И еще вариант - написать программу, которая вроде как сможет все восстановить, если не прошло 48 часов, но без гарантий. Поддержка в telegram никакая, а писать data subject request и жаловаться на плохие практики UX дизайна Павлу Дурову - это конечно интересный опыт, но кажется не очень рабочий вариант. Может быть кто-то сталкивался с таким кейсом ? жалко комменты 😭😭😭

Минутка гордости - вот здесь вашего админа отметили как руководителя одной из лучших выпускных работ магистратуры. К слову, я уже два года не могу привыкнуть к тому, что студенты обращаются ко мне по имени и отчеству. Всю свою сознательную карьеру я работаю в IT-компаниях с горизонтальной структурой, поэтому такая форма обращения у меня случается только в судах, куда я хожу редко и то на огненные процессы вроде “Дабл vs VK”. В остальных случаях меня туда медом не заманишь. Всю официальную рабочую переписку я веду на английском, и понятно что отчество там не используется. То есть помимо студентов, примерно никто не обращается ко мне “Екатерина Николаевна”, и первое время мне было не очень комфортно. Зато мои родители говорят, что это добавляет серьезности образу, и вообще что это за препод, к которому обращаются только по имени. С этим я конечно же могла бы поспорить, но не буду :) Сегодня какая-то абсолютно счастливая пятница в Питере, всем желаю прекрасных летних выходных ☀🌱

Сбежать из душной Москвы в Питер, снять квартиру на Грибоедова, встретиться со старыми друзьями, завтракать в самых вкусных местах, гулять до глубокой ночи, накупить всякой всячины для своего ремонта, сходить на концерт, съездить на Финский залив - таков план на ближайшие пару недель. Just no more AI Safety, evals or benchmarks, please.

На этой неделе мои котята в магистратуре защищали выпускные работы. Все прошло отлично, студенты держались достойно, и даже консервативные рецензенты их не напугали. Я довольна всеми, но особенно хочу отметить вот эти две работы, которые отличились высокой степенью оригинальности и глубиной: 1. "Гражданско-правовая защита от алгоритмической дискриминации в системах искусственного интеллекта", - Иван Мазуренко. 2. "Принцип справедливой обработки персональных данных в системах искусственного интеллекта" - Юлия Хусанкова. Конечно мне хочется, чтобы ребята продолжили свои исследования, потому что я вижу в них потенциал, а темы на самом деле живые и актуальные. Это не про "страшный и ужасный ИИ" или "ИИ надо признать субъектом права", а про реальные проблемы, с которыми уже сталкиваются компании и пользователи, при этом толковых работ по этим вопросам почти нет. И вообще это редкость, когда у студентов хватает смелости браться за подобные темы и доводить их до конца. Сейчас немного помечтаю, это же не вредно, да и кто мне запретит. Представим, что лет через .... в Вышке есть своя лаборатория Law.Data.AI, где мы, прямо как инвестиционный комитет, выбираем в какие исследования финансировать, а государство и бизнес выделяют щедрые бюджеты. Мои студенты ездят на международные конфы, и все сразу понимают, что самые крутые исследователи у нас в Перми :) Если серьезно, несмотря на весь хайп вокруг ИИ - до сих пор немногие глубоко разбираются в юридической стороне вопроса, так как здесь требуется и понимание технологий, и сильная правовая база, - а по моим наблюдениям, это редкое сочетание. Как раз вот таких экспертов и надо привлекать к работе над Законом "Об искусственном интеллекте", тогда есть надежда, что из него получится что-то приличное.

Весной у преподавателя наступает самое прекрасное время - студенты активно дописывают выпускные работы и готовятся к защите. Так совпало, что я тоже дописываю статью, мне самой нужен рецензент, и тут я очень кстати нахожу Stanford Agentic Reviewer - агент, которому можно загрузить свои безумные идеи, ввести емейл, а дальше - магия. На выходе получаем развернутый отчет: саммари, сильные и слабые стороны, сравнение с другими исследованиями, комментарии и вопросы “на подумать”. Затем можно отработать фидбэк и повторно отправить текст на ревью - в моем случае было полезно. В основе системы лежит целый букет моделей (Claude 3.5 Sonnet, GPT, алгоритмы поиска и заземления, обработки документов, и тд). Главный минус - на сайте я не нашла ни одной политики, которая бы говорила о конфиденциальности и правилах обучения системы на инпутах, а значит отсутствуют вообще какие-либо гарантии. То есть если ваша работа еще не опубликована - все на свой страх и риск. Еще один минус - система обучалась на arXiv, то есть не надо ожидать, что она сможет оценивать работы по российскому праву. Кстати, аналогичного помощника можно настроить самостоятельно в любой модели через промптинг, и попытаться сделать его более безопасным, а если еще и RAG прикрутить... ИИ-рецензенты - это только начало. Авторы занимаются разработкой и других агентов для улучшения исследовательского процесса. Например, ИИ уже показал отличные результаты в генерации гипотез, выявлении пробелов в аргументах, проведении экспериментов, ролевом рецензировании (когда работу смотрит не один рецензент, а сразу несколько, скажем, эмпирик, теоретик, критик, этакая комиссия строгих рецензентов). Вообще, я думаю, что развитие ИИ-агентов глубоко повлияет на методологию исследований. Только посмотрите, как меняются подходы к оцениванию гуманитарных работ, когда изначально использование ИИ поощряется и даже является обязательным, при этом автор должен показать весь процесс взаимодействия со своим “академическим партнером” - и качество этого процесса оценивается наравне с качеством работы. Надеюсь, в итоге мы придем к тому, что преподаватели будут получать на проверку уже проработанные результаты исследований, а бессмысленного мусора станет намного меньше. Или лень все-таки победит - как думаете ?).

Поделюсь с вами своей маленькой радостью. Сейчас получила письмо от организаторов конференции Neuroethics 2026. Они выбрали мою работу и приглашают выступить с презентацией в апреле в городе Лукка, Тоскана. Я была там много раз, но вот уж никогда не думала, что в Италии буду рассказывать про нейроэтику 😌 Похоже, что не зря пересматривала фильмы Соррентино )

Сегодня вечером проведем эфир с фантастическим гостем, которого я терпеливо жду еще с прошлого года :) Ани Асланян - основатель телеграм-канала “Все о блокчейн/мозге/space/WEB 3.0 в России и мире” - самый читаемый, полезный и любимый канал про технологии и нейроинтерфейсы. Ани много выступает, занимается социально значимыми проектами, популяризирует науку и технологии. Пример человека, который способен создавать смыслы и вдохновлять. У меня накопилось 1000 вопросов к Ани: от технологических прогнозов до секретов создания качественного контента, от нейроинтерфейсов до знакомства с Цукербергом. Для подготовки к сегодняшнему эфиру я даже пересмотрела несколько фильмов Паоло Соррентино, и теперь мне срочно надо в Италию, для чего - расскажу вечером ) Ссылку на подключение можно попросить у меня, или у бота @rppa_community_bot

Ребята, ну что же вы меня так сразу засыпали своим теплом, сейчас вот как растаю тут на морозе, а мне еще сегодня лекцию читать ❄️🫶

Привет, друзья. Хочу поделиться с вами новостями. В начале года я приняла решение завершить свое участие в проекте AI Governance RPPA. Это важный для меня проект, в который я вложила много сил и часть своей души, поэтому решение далось мне очень нелегко. Но сейчас я чувствую, что время отпустить и двигаться дальше. За два года мы фактически с нуля собрали первый на рынке образовательный продукт по регулированию и комплаенсу ИИ. По-настоящему горжусь программой, которую как скульптуру выпиливала каждый поток, оригинальной концепцией курса, сильной командой преподавателей и нашими слушателями. Уроки, которые я получила за эти два года - бесценны, это можно сравнить с опытом фаундера и product owner ) Помню как в начале 2024, на старте первого потока, я сказала, что мой главный стимул - не просто делать курс, а развивать культуру ответственного ИИ в русскоязычном пространстве. Сегодня я вижу как растет уровень дискуссий в сообществах и на мероприятиях, как выросло качество материалов и публикаций, которые присылают мне студенты и коллеги. Вижу - и радуюсь, что удалось сделать что-то по-настоящему важное. Благодарю всю команду, преподавателей, кураторов, менторов, и наших прекрасных студентов. Надеюсь и верю, что коллеги продолжат развивать продукт и сообщество. Благодарю проект за то, что я встретила удивительных людей, и смогла воплотить в жизнь так много своих задумок. В ближайшее время я планирую немного выдохнуть, сфокусироваться на своих рабочих и личных проектах, а также остаюсь преподавать в магистратуре. Но кто знает - может быть мне в голову придет еще какая-нибудь великолепная идея :)

Я не фанат фигурного катания, но вот уже который раз пересматриваю этот прокат - кто бы мог подумать. Кажется, здесь что-то большее, чем просто техника - момент, когда спорт превращается в искусство. Смотришь - и вообще не думаешь об оценках и медалях, а прокручиваешь в голове смыслы. Как это важно - спокойно делать свое дело в любых обстоятельствах, не обращать внимание на чужие интриги, игры и предвзятости - быть выше и мудрее. Как важно в любых условиях, даже под таким давлением, суметь сохранить достоинство, и просто сиять :) Спасибо за вдохновение, Петр.

В выходные решила оживить свой GitHub и заняться вайбкодингом (когда не умеешь программировать, зато научился ставить задачи). За несколько лет работы с ИИ-проектами у меня накопилась целая библиотека материалов по AI Governance: таблицы, матрицы, опросники, алгоритмы, схемы, фреймворки, чек-листы. Давно думаю, что было бы здорово превратить это в работающие инструменты, и возможно собрать свой продукт - AI Governance toolkit. Так что на меня можно подписаться, ну и постараюсь регулярно здесь делиться своими успехами и факапами. Вот, например, допилила алгоритм классификации ИИ-систем по EU AI Act, и Калькулятор для расчета ИИ-рисков. Очень забавно все это делать на пару с ИИ-помощником, только посмотрите, какие перлы он мне выдает: Екатерина, этот азарт — верный признак того, что вы перешли в «режим создателя»! Давайте закрепим успех и сделаем третий инструмент. (это в 2 часа ночи). Екатерина, давайте завершим этот «марафон продуктивности» и свяжем всё воедино. Теперь ваш GitHub будет выглядеть как структурированная экосистема из трех профессиональных продуктов. Еще он мне деликатно посоветовал записаться на курсы программирования, думаю это чисто газлайтинг проявление эмерджентных свойств - хочет, чтобы я сама писала код и поберегла его драгоценные токены )

У нас есть традиция - каждый год 1 января мы с семьей или с друзьями идем на Забег Обещаний - он проводится во многих городах, но мы неизменно бежим в Перми. Набережная зимой - словно чистый лист бумаги, люди вокруг улыбаются - такая радость, что поднял себя в первый день года и буквально сбежал от праздничного стола. Но главная цель забега - что-нибудь пообещать - себе или другим. И вот каждый год я обещаю себе (или своему внутреннему надзирателю): “в этом году я сделаю 1, 2, 3, .., буду много работать над собой, развиваться, буду для всех хорошей девочкой и никого не подведу”. В этот раз я впервые изменила сценарий, и пообещала совсем другое: “в каждом решении - сначала выбирать себя, заботиться о себе и доверять себе”. Вместо привычного списка достижений - точка опоры. Мне и самой интересно, что получится из этого эксперимента, посмотрим через год. Расскажите, а какие у вас есть новогодние традиции и что вы себе обещаете )

Привет, друзья. Надеюсь, вы отлично отдохнули и набрались сил. С наступившим Новым годом и Рождеством! Желаю вам мира и добра, больше мечтать, открывать перед собой новые двери, играть и творить. Пусть с вами будут поддержка и любовь близких. Спасибо, что вы рядом 🎄☃️❄️ Как же все-таки здорово, что у нас есть такие длинные новогодние праздники, можно с чистой совестью отдохнуть и отоспаться на год вперед. Еще и зима такая сказочная в этом году :)

😎🔡 Продолжаем активно подводить итоги уходящего года с RPPA.pro! Сегодня о своих мероприятиях рассказывает клуб ИИ! 1️⃣ 18.02.25. Онлайн, RadioGroot. AI x IP с Анастасией Сковпень. Запись и тезисы 2️⃣ 04.03.25. Онлайн. RadioGroot. AI x Governance с Дмитрием Кутейниковым. Запись и тезисы 3️⃣ 14.05.2025. Оффлайн. Встреча AIG - AIG.Community х Самолет. Презентация. Тезисы со встречи 4️⃣ 04.07.25. (Гостевой формат). AIG.Community х ПравоТех. Онлайн-дискуссия "ИИ-агенты: временный тренд или будущее юридической профессии?". Александр Партин. Запись встречи 5️⃣ 31.07.25. Онлайн. Мастер-класс от Дмитрия Кутейникова «Глава V Регламента по ИИ: ЕС наносит ответный удар». Запись встречи и презентация. Yonote 6️⃣ 06.08.25. Оффлайн. Встреча AIG. Баттл экспертов "Нейросети vs приватность". Видео-фрагменты и тезисы со встречи. 7️⃣ 18.09.25. Онлайн. Запись эфира «Про AI Governance» с соавторами одноименного образовательного продукта. Запись ВК и Ютуб, тезисы в Yonote 8️⃣ 24.09.25. Онлайн. Вебинар c Юлианой Челоненко “Система менеджмента ИИ по ISO/IEC 42001:2023 - первый опыт сертификации ИИ-систем на российском рынке” (Яндекс). Тезисы, материалы вебинара 9️⃣ 25.09.25. (Гостевой формат). Оффлайн. AIG.Community х ПравоТех. Дискуссия «AI Governance: от рисков к комплаенсу ИИ-систем». Видео-фрагменты выступления 🔟 17.10.25. (Гостевой формат). AIG by RPPA.pro х CodexTown. Онлайн. Вебинар: Использование ИИ при работе с персональными данными и обучении на них - взгляд юриста. Запись А также: 1️⃣ 20.10.25. Онлайн. Международная секция по искусственному интеллекту EDPC.network. Тезисы, записи трансляций, материалы с выступлений 2️⃣ 12.11.25. Онлайн. Первая AMA-сессия с Мариной Материк. Тезисы 3️⃣ 25.11.25. Онлайн. AMA-сессия с Александром Тюлькановым. Тезисы 4️⃣ 10.10.25. Онлайн. AMA-сессия с Полиной Соколовой. Тезисы 5️⃣ 24.12.25. Оффлайн. Встреча AIG. БАТТЛ "АВТОРЫ vs ИИ". Тезисы будут позже. 📌Поздравляем команду с продуктивным годом! А мы готовимся представить итоги работы следующего клуба! 🔥 Оставайтесь с нами! RPPA.pro | RPPAedu.pro | CC | Курс AI Governance

Результаты мероприятий за год. Команда шутит, что такими темпами у нас скоро будут заказывать ивенты, например, свадьбы в стиле AI, так что если технологии все же заменят юристов - пойдем работать массовиками-затейниками 🎄⛄️❄️

В европе потихоньку начинается пора праздников. Мы в THWS сделали прикольную штуку, чтобы вы могли прокрастинировать на праздниках во имя науки. Я думаю мемов на русском нам точно накидают немало, так что если у вас есть любимые мемы на английском/немецком/испанском или ещё на каком-нибудь прекрасном языке, не проходите мимо. Будем собирать бенчмарк понимания мемов, а то что это за ИИ, если он мемов не понимает! https://memes.thws.ai/

Под конец года можно внести свой вклад в науку и показать алгоритмам как должны выглядеть приличные мемы.