Лобушкин

В США 25-летний парень получил уголовку после обсуждений убийства с ChatGPT. Бывший финансовый аналитик Goldman Sachs несколько месяцев вёл диалог с чат-ботом, в котором расписывал, как убьёт свою бывшую девушку. Градус этих диалогов продолжал расти, и в один день он написал, что «точно убьёт её в этом месяце». Эти сообщения алгоритмы посчитали опасными и передали их на ручную модерацию, а сама OpenAI сообщила о них в ФБР. Парня осудили, но отделался он легко. Пару лет браслета на ноге и 6 лет испытательного срока. @lobushkin

Новая обложка New York Magazine. После избрания Зохрана Мамдани мэром политическую и культурную сцену стремительно захватывают и создают выходцы с Ближнего Востока и Северной Африки. Влияние стало заметно настолько, что редакция называет этот феномен Хабиби-сити. @lobushkin

Anthropic опубликовали большой отчёт Risk Report о том, насколько опасными уже сейчас стали модели Claude и насколько компании готовы к сценариям, где ИИ будет действовать автономно. Мы пробежались глазами, и одна из главных мыслей, которая нам стала ясна, — сама компания не уверена, что старые тесты способны измерять рост возможностей моделей. Уже сейчас их продукт умеет оставлять бэкдоры в коде, отправлять данные для будущих моделей, пытаться сбежать. Риски, конечно, оцениваются как низкие, но уверенности в этих оценках нет. Особенно нам показалось интересным: скрытность. Современные модели Claude демонстрировал успешное выполнение скрытой задачи в 6—10% случаев. И это при условии искусственно упрощённого теста. То есть компания подтвердила тот факт, что модель способна действовать так, чтобы её сложнее было обнаружить. В этом же документе можно найти исследования sandbagging, то есть когда модель намеренно показывает результаты слабее реальных, в частности, если за ней следят. Также очень большой блок посвящён научным исследованиям. А вернее, тому, как ИИ ускоряет их. Исследователи уже говорят об ускорении работы, а сами ИИ-агенты движутся в сторону того, чтобы стать автономными исследователями. Ну и главное — это то, что они не понимают, насколько тесты отражают способность модели причинять вред. То есть модели становятся настолько хороши, что safety-тесты ломаются. Главная опасность даже не в простом ответе модели, где она расскажет, как условно создать оружие, а в том, что это ИИ-агент, который самостоятельно планирует, использует разные инструменты, пишет код и продолжает работу без постоянного вмешательства со стороны человека. Можно сколько угодно учить модель fancy-диалогу, правильному поведению, соблюдению ценностей и повестки, но это вообще не значит, что она будет себя вести так, получив автономность, инструменты и цель. Это особенно интересно, учитывая последние новости о взломах сайтов, и если на тот момент мы уже начали склоняться к тому, что это красивые пресс-релизы, то именно в этом отчёте Anthropic описывает несколько интересных инцидентов, связанных как раз-таки с обучением и поведением моделей. Кажется, что новости о взломе — это только верхушка айсберга, и самое интересное нас ждёт дальше. @lobushkin

Claude уволил человека. Time пишут, что ИИ управлял бизнесом в Сан-Франциско и среди сотрудников он нашёл того, кто опаздывает чаще всех, и предложил его уволить. При этом сами сотрудники отзывались о чат-боте как о лояльном руководителе. Ничем не отличается от человеческого управления. @lobushkin

OpenAI, Google, Suno, Microsoft тоже будут добавлять секретные вотермарки в свои ИИ из-за новых требований ЕС. Всё сгенерированное будет помечаться маркировкой. Водяные знаки не всегда будут видимыми, но, поверьте, детектор, который это определяет, точно будет. Это делается для борьбы с ситуациями, когда ИИ-работу выдают за человеческую. Все техногиганты сейчас идут к полной маркировке работы моделей. Интересно, как быстро появится ИИ, который будет убирать маркировку. @lobushkin

Северная Корея тайно внедрила тысячи IT-агентов в американские компании. Специалисты устраиваются на удалёнку в бигтех-компании, выдавая себя за граждан США. Для этого они используют дипфейки, украденные данные и посредников, которые проходят собеседования и оформляются на работу. WSJ пишут, рассказали про одну группу, которая смогла проникнуть за несколько месяцев в восемь компаний. Мало того, что сотрудники из КНДР получают миллионы долларов для своей страны, так ещё и получают доступ к внутренним системам компаний. За годы такой деятельности утекло много данных, интервью, видеоматериалов. Пожалуй, это самый крутой способ обойти санкции и получить деньги с того, кто против тебя их ввёл. @lobushkin

Meta* заблокировала 756 тысяч аккаунтов подростков в Австралии. Новый мир интернета, где подросткам в сети места нет, борется со старым, где эта группа людей была всегда. Прогнозируем скорый уход детей на анонимные имиджборды, вроде 4chan. Поверьте, нам это понравится куда меньше. * признана экстремистской и запрещена @lobushkin

Apple будет платить СМИ за новости, которые пересказывает Siri. Бюджет оценивается в сотни миллионов долларов. Сейчас компания ведёт переговоры с издателями. Купертиновские планируют платить за каждое использование материала, а это значит, что каждое обращение к Siri, где в ответе будет использоваться новость издания-партнёра, будет приносить ему деньги. Судя по всему, яблочные посмотрели на затраты компаний, в том числе и репутационные, и решили договориться на берегу. Хорошее решение. @lobushkin

Специалисты Dream разобрали интересный кейс с атакой на правительственные сети Тайваня от китайских ИИ-хакеров. 12 волн атак проведены за 4 дня. Сразу до восьми агентов исследовали госсистемы, искали уязвимости и меняли тактику при неудаче. По итогу им удалось взломать 85 аккаунтов и украсть более 2500 кадровых записей. ИИ-хакеров собрали вокруг Hermes и OpenClaw, а защиту обошли, убедив её, что это разрешённая проверка безопасности. Вот так и будут падать правительства или впадать в зависимость. @lobushkin

Интересное: у Макдоналдс есть программа лояльности, и по ней бренд может собирать ваши персональные данные. Так вот, журналист Wired решил узнать, что о нём знает сеть фастфуда, и ему прислали документ на 515 страниц. В полном досье на себя он узнал, что он посетит заведение в ближайшие полтора месяца примерно 2,16 раза и оставит в среднем $13,49 за один визит. Алгоритм изучил человека настолько хорошо, что оценил в 0% вероятность того, что он перестанет быть их посетителем. А мы уже писали о том, что ИИ превратит бизнесы в машины по выкачиванию денег через уникальные персонализированные предложения. @lobushkin

Подоспела еще одна птичка с новостью о том, как быстро мы с вами ИИизировались. Свежее исследование РОМИР подкидывает любопытную цифру: уже половина российских интернет-пользователей хотя бы раз находили новый сайт, бренд или сервис не через привычную выдачу, а через источники, которые нейросеть им рекомендовала в своём ИИ-ответе. Причем 71% считают такие источники реально полезными, когда надо выбрать или сравнить бренды, а 66% готовы кликнуть на незнакомый ресурс просто потому, что его упомянул ИИ. А самое интересное начинается там, где на кону деньги. Когда вопрос касается финансов, здоровья или крупной покупки, перейти на незнакомый источник из ИИ-выдачи готовы уже 75% — то есть в самых ответственных решениях люди изучают нейровыдачу особенно вовлеченно. Эффект, что важно, достаточно липкий и продолжительный: 56% потом вспоминали ресурс, увиденный в ИИ-ответе, и возвращались к нему спустя время. Но отметать классический поиск рано: 69% сначала читают ответ нейросети, а потом все равно идут смотреть остальную выдачу. Так что ИИ не заменил привычку перепроверять информацию самостоятельно — он встроился в нее, как Веном в Тома Харди. Мораль простая. Раньше бренды бились за топ поисковой выдачи. Теперь — еще и за то, чтобы оказаться в списке источников, которым доверяет нейросеть. Кто это понял первым и начал действовать, соберет все кабачки сливки. @lobushkin

Российские ученые открыли новую элементарную частицу, которую можно представить как квант особого поля. Электрический заряд, масса и спин уточняются.. @lobushkin

Американская смекалочка: житель США обклеил машину специальной капча-плёнкой, чтобы обманывать ИИ-камеры. Подобный рисунок ломает камеру, она начинает глючить и не может распознать номера, цвет машины и модель. Подобная плёнка способна обмануть 11 распознающих алгоритмов. @lobushkin

ИИ-индустрия обзавелась серым рынком, где перепродают неиспользованные токены для ИИ со скидками до 80%. Это уже целая сеть брокеров, маркетплейсов, где ИИ-токены превратились в актив. Ждём появления чёрного рынка, где будут торговать джейлбрейкнутыми аккаунтами, хакерскими ИИ и т. д. Новый рынок — новые возможности. @lobushkin

Кек: Ян Непомнящий проиграл 124 миллиона рублей из-за мисклика. Он случайно ошибся клеткой и проиграл партию, которая, по логике, уже выводила его в следующий этап турнира. В целом, у вас теперь есть оправдание для начальника в духе: «А вот Ян Непомнящий одним мискликом 124 миллиона слил…» @lobushkin

Такой не долгий срок, а уже легенда. Кстати, ей всего 28 лет. А ведь она ещё и заняла эту должность будучи беременной, а потом и родив. Вы только представьте (родители поймут): каждый день у тебя орёт это беспомощное милое создание, требует твоего постоянного внимания, без конца обсирается, за ним нужно убирать, вы не можете понять чего он хочет, ночи без сна.. А тут ещё и ребёнок родился. https://t.me/lobushkinflash/19987 @lobushkin

В Пекине появился бар специально для вайбкодеров. При заказе напитков людям дают бесплатные токены на DeepSeek. Интерьер тоже сделали с отсылками к ИИ, в меню обыгрывают тот же технический жаргон. Готовая идея для бизнеса. @lobushkin

Spotify будет маркировать ИИ-исполнителей. Нейрохрючево на стриминге будет помечено как AI Persona и не будет рекомендоваться. Платформа очень хочет продвижения именно живых артистов. Кстати, интересный вопрос: кто-то из читателей канала «Лобушкин» любит сгенерированные песни? @lobushkin

Приложение WB триумфально вернулось в App Store. В соцсетях гадают, как Татьяне Ким удалось это провернуть. Считаем, что в данном случае важен не столько путь самурая, сколько достижение цели. Так просто Wildberries не остановить. @lobushkin