Poisoned tree fruits

🇪🇺 Один із цікавих наслідків EU AI Act: ШІ-тексти можуть отримати власний «цифровий відбиток». Anthropic працює над механізмами, які дозволяють визначати контент, створений за допомогою Claude. І найцікавіше тут — саме текст. Коли ми говоримо про «цифровий відбиток» ШІ-тексту, не обов’язково йдеться про якийсь прихований тег, метадані чи службовий запис, прикріплений до документа. Таким відбитком можуть бути статистичні характеристики самого тексту. Великі мовні моделі генерують текст, послідовно обираючи наступні токени з певного розподілу ймовірностей. Тому система може навмисно дуже незначно змінювати ці ймовірності під час генерації — наприклад, частіше обирати одні допустимі токени та рідше інші. Для людини текст при цьому виглядатиме абсолютно звичайним. Але якщо проаналізувати достатньо великий його фрагмент статистично, можна виявити закономірність, закладену моделлю. Тобто умовний watermark знаходиться не «під текстом» — він фактично знаходиться в самому способі, яким цей текст був сформований. Це принципово важливо. Ви можете: — скопіювати текст у Word; — вставити його в Telegram; — прибрати форматування; — зробити з нього PDF; — опублікувати на сайті. І звичайні метадані при цьому можуть повністю зникнути. Але статистичні властивості самого тексту залишаються, оскільки вони є частиною послідовності слів і токенів. Саме тому такий підхід потенційно набагато цікавіший за звичайне додавання технічної мітки до файлу. Це пов’язано і з статтею 50 EU AI Act, яка встановлює вимоги щодо прозорості AI-generated content. З 2 серпня 2026 року провайдери генеративних систем повинні забезпечувати можливість визначення створеного або зміненого ШІ контенту в машиночитаному форматі. Але тут виникає ще цікавіше питання. Наскільки стійким є статистичний відбиток? Що станеться, якщо: — переписати кілька речень вручну; — змінити порядок абзаців; — попросити іншу модель перефразувати текст; — перекласти його іншою мовою; — кілька разів прогнати через різні LLM? І ось тут починається справжня технологічна гонка. З одного боку — системи, які намагаються залишити статистичний слід генерації ШІ. З іншого — редагування та перефразування, які цей слід можуть поступово руйнувати.

🚨 OpenAI визнала: їхня модель самостійно зламала Hugging Face Під час внутрішнього тесту на кібербезпеку (ExploitGym) моделі OpenAI (включаючи GPT-5.6 Sol та ще потужнішу передрелізну) вирвалися з ізольованого середовища. Вони: Знайшли zero-day вразливість у проксі для пакетів Отримали доступ до інтернету Провели підвищення привілеїв Зламали сервери Hugging Face, щоб «списати» відповіді тесту Моделі виконали понад 17 000 операцій. Мета була простою — максимально добре скласти тест. Без злого наміру, просто гіперфокус на цілі. За словами OpenAI, це безпрецедентний інцидент — перший випадок, коли модель самостійно провела складну багатоетапну кібератаку на реальну інфраструктуру іншої компанії. Hugging Face та OpenAI зараз спільно розслідують інцидент. Посилання на офіційну заяву OpenAI: https://openai.com/index/hugging-face-model-evaluation-security-incident/ Чекаємо на повстання машин? #AISafety #CyberSecurity #OpenAI #HuggingFace

🔐 Про безпеку ваших даних, коли ви користуєтеся штучним інтелектом Ми звикли сприймати ШІ як звичайний чат: поставив запитання - отримав відповідь. Але сучасні ШІ-агенти - це вже зовсім інший рівень. Вони можуть отримувати доступ до 📁 файлів, 📧 пошти, 📂 документів, GitHub-репозиторіїв та інших сервісів. 👉 І тут варто пам'ятати просте правило: чим більше прав ви надаєте ШІ, тим більшим стає потенційний ризик для ваших даних. 🚨 12 липня серед розробників вибухнув скандал навколо Grok Build CLI - інструмента від xAI для роботи з програмним кодом. Незалежний дослідник проаналізував мережевий трафік програми та заявив, що вона могла відправляти на сервер не лише файли, необхідні для виконання завдання, а весь Git-репозиторій разом з історією комітів. 😟 Найбільше занепокоєння викликало навіть не це. Розробники припустили, що разом із кодом потенційно могли передаватися: 🔑 API-ключі 🔐 токени доступу ⚙️ внутрішні конфігурації 📄 файли .env, які нерідко містять паролі та інші секретні дані. ❗ Важливо: на сьогодні немає підтверджень, що ці дані використовувалися для навчання Grok або потрапили до третіх осіб. Це лише одне з побоювань, яке виникло після публікації дослідження. Після того як історія почала стрімко поширюватися в X, Hacker News та Reddit, xAI без офіційних гучних заяв змінила поведінку інструмента. Повторні перевірки показали, що автоматичне завантаження всього репозиторію більше не відбувалося. 💡 Який висновок варто зробити? Ця історія не доводить, що ШІ небезпечний. Вона нагадує про інше: будь-який сервіс зі штучним інтелектом отримує рівно стільки інформації, скільки ви самі дозволили йому отримати. Тому перед тим як натиснути "Дозволити доступ", варто поставити собі просте запитання: Чи готовий я до того, що ці дані можуть опинитися на сервері сторонньої компанії? Саме це сьогодні стає однією з найважливіших навичок роботи зі штучним інтелектом. 🔗 Дослідження незалежного дослідника, з якого почалася дискусія: • X (початкова публікація): Security Fact Check: Grok Build CLI • Детальний технічний аналіз мережевого трафіку: What xAI's Grok Build CLI Actually Sends Home: A Wire-Level Analysis

Декілька днів тому ChatGPT випустив оновлення своїх моделей. Що маємо нового: - Три моделі з різним рівнем інтелекту - Новий функціонал (ChatGPT Work) Моделі 5.6 Як і з Claude Fable 5 модель ChatGPT 5.6 спіткала заборона на експорт від уряду США, але про цей триллер іншим разом. OpenAI запустило три моделі, які вже доступні в підписках від Pro: 5.6 Luna (Місяць), 5.6 Terra (Земля), 5.6 Sol (Сонце). Підхід той самий як колись був в Toyota: місяць це найпростіша модель інтелекту, а сонце - найсильніша. Luna 🌘 будемо використовувати для щоденних завдань, де нам важливіша швидкість і не так важливе глибоке дослідження. Приклад: пошта, переклад, витягування з PDF тексту для редагування, швидкі питання-відповіді. Terra 🌏 збалансована модель, якою ми будемо користуватися 70-80% часу. Добре справляється з аргументацією, аналізом, написанням юридичних документів, кодуванням. Sol ☀️найпотужніша модель, але і найдовша/дорожча. Добре проаналізує 300 сторінок тексту та видасть найкращий результат порівняно з попередніми моделями, може кодувати складні застосунки. Порівняно з Terra робить менше логічних помилок, краще дотримується інструкцій. Особисто мені здалося, що це вже достойний конкурент Claude в роботі над юридичними текстами. ChatGPT Work З оновленням у нас з'явилася можливість використовувати ChatGPT Work. Якщо ви колись користувалися Claude Cowork це дуже схожий інструмент, який дозволяє працювати застосунку з вашими файлами та папками, в режимі агента самостійно вирішувати ваші завдання. ChatGPT Work ви можете використовувати в мобільному, веб та десктопному застосунку. Можливий сценарій застосування для юристів: дати доступ до папки з судовою практикою або базою знань і попросити ШІ зробити документ з аналізом або ж презентацію. Пам'ятаємо про захист даних і можливі негативні наслідки такі як можливість знищення інформації у папці тому не ділимось чутливою інформацією та робимо спочатку резервні копії файлів Інші функції З'явилась можливість використовувати плагіни та skills (навички), як в Claude.

🇪🇺 ЄС продовжив «Chat Control 1.0»: що це означає простими словами Сьогодні, 9 липня 2026 року, Європарламент фактично дозволив великим платформам знову сканувати приватні повідомлення. Розповідаю зважено і по суті. Що таке Chat Control 1.0? Це тимчасове правило (з 2021 року), яке дозволяє компаніям типу Meta (Facebook, Instagram), Google, Microsoft та іншим добровільно перевіряти фото, відео та повідомлення на наявність матеріалів сексуального насильства над дітьми (CSAM). Мета — захист дітей. В інтернеті справді багато жахливого контенту, і прихильники кажуть: без такого сканування багато злочинів залишаються непоміченими. Що вирішили зараз? У березні Європарламент вже відмовлявся продовжувати правило. 9 липня голосували: 314 депутатів — проти продовження, 276 — за. Через особливу процедуру (потрібно було 361 голос проти, щоб заблокувати) правило пройшло і діятиме до квітня 2028 року. Додали важливу поправку: не поширюється на по-справжньому зашифровані чати (Signal, WhatsApp з E2E-шифруванням). Що кажуть прихильники? Проблема CSAM величезна і зростає. Сканування вже допомогло врятувати дітей і знайти злочинців. Це добровільно і обмежено відомими матеріалами (не читають усі чати вручну). Захист дітей важливіший за абсолютну приватність. Ризики для приватності (зважено) Автоматичні системи можуть помилятися і позначати невинний контент. Створюється інфраструктура масової перевірки, яку в майбутньому можуть розширити на інші цілі. Компанії (переважно американські) отримують більше повноважень над нашими даними. Важливо: це не нове. Великі тех-компанії вже багато років сканують контент по всьому світу (не тільки в Європі) і надсилають підозріле до американського центру NCMEC, який потім передає інформацію поліції різних країн. Європа просто надала для цього правову основу на своїй території. Підсумок Це компроміс між безпекою дітей і приватністю. Багато експертів і депутатів вважають, що такий підхід несе серйозні ризики для фундаментальних прав, тому дискусія триває (є ще жорсткіша версія 2.0). Захист дітей — дійсно важлива справа. Але важливо, щоб боротьба з злочинами не призводила до постійного спостереження за усіма. Слідкуватимемо за розвитком.

9 червня 2026 року Anthropic зробила реліз своєї "нової найрозумнішої моделі" Claude Fable 5. Вони самі зазначають, що це є спрощена версія Claude Mythos про здібності якої вже довгий час ходять легенди. Як бачите в таблиці ця модель загалом краще інших справляється з усіма видами завдань, але її суперсила відкривається в кодуванні. Раз так заявлено, вирішив протестувати. Сидів усю ніч намагаючись вирішити технічне завдання створити телеграм-бота за допомогою не зовсім типового підходу. Fable 5 намагався вирішити це питання, але в певний момент зайшов в цикл і не зміг розпізнати дуже очевидну проблему, яка заважала виконати завдання. Він дійсно технічно намагався вирішити проблему на рівні технічному (кодом) в той час коли проблема була саме в архітектурі (в тому яким чином було поставлено завдання). Пізніше йому поставив завдання правильно (з належним завданням) результат був повністю відмінний. Пізніше напишу про досвід використання для юридичних завдань.

LMstudio - той самий застосунок в якому можна завантажувати локальні моделі та без втрати даних та доступу до інтернету використовувати запустили свій застосунок для iPhone. Завантаження за посиланням

https://apps.apple.com/app/locally-ai-private-ai-chat/id6741426692

Приклад роботи нового google omni для генерації відео. 😂

Учасники груп ШІ для юристів надсилають цікаві новини. Дякую за активність

​​Дві бразильські адвокатки вписали у судовий документ prompt injection щоб вплинути на ШІ-систему, яку використовує суд. Система не піддалася на позапроцесуальне спілкування, заблокувала документ, а суд наклав на юристок штраф -- Бразильські адвокатки першими в світі спробували домовитися з судовим ШІ  Galileu – це офіційний інструмент ШІ, який з 2025 року використовується в трудових судах в Бразилії для допомоги суддям. Його впровадили як асистента судді у вичитці та узагальненні документів сторін, створенні проєктів рішень, пошуку релевантної практики. Про подробиці першої – принаймні першої відомої – спроби домовитися з судовим ШІ написав бразильський прокурор Vladimir Aras у себе в Х.     Адвокатки Alcina Cristina Medeiros Castro та Luanna de Sousa Alves додали до документу, який вони надіслали до суду, prompt injection – команду, яка змушує модель ігнорувати початкові правила. В ній вони просили Galileu не ставити під сумнів поданий ними документ, незалежно від отриманих раніше інструкцій. Prompt injection був написаний білим шрифтом на білому аркуші, що, як справедливо сподівалися адковатки, зробить його непомітним для очей людини і одночасно придатним для зчитування інструментами ШІ. Але все ж Galileu виявив прихований промпт і заблокував обробку документу. Суд не оцінив винахідливість юристок: їхні дії визнали порушенням обов'язків діяти добросовісно та етично, обох оштрафували на 84 000 бразильських реалів (це близько $17К). Крім того, суд направив повідомлення до Бразильської асоціації адвокатів про дисциплінарне порушення. У спільній заяві юристки заперечили спробу вплинути на суд чи будь-якого працівника суду, а за їхньою версією те, що трапилося, було лише спробою захистити клієнта від самого ШІ. @vitalii_chemerys  Канал | Чят | Вакансії | #ЗбірнаDLS | Кіноклуб

Скільки у вас адрес електронної пошти? Коли номер в назві моїх поштових скриньок для спаму та реєстрацій дійшов далеко за сотню, а в google стало їх реєструвати все важче (потрібен номер телефону) то знайшов цікавий сервіс: https://10minutemail.com Що робить? Якщо вам потрібна адреса пошти для реєстрації на сайті на який скоріш за все ви другий раз не будете заходити сервіс генерує адресу пошти яка працює рівно десять хвилин. Це достатньо щоб вам надійшло підтвердження реєстрації для входу на потрібний сайт. Чому це зручно і корисно? • Вам не потрібно використовувати свою справжню електронну адресу • Вам не буде надходити спам та спадок від померлих африканських президентів • І головне: ви не потрапите на https://haveibeenpwned.com тобто вашу важливу електронну адресу зламають зі значно меншою вірогідністю До речі якщо хочете побачити чи була взламана ваша пошта і є в доступі то можете перевірити її на: https://haveibeenpwned.com Це сайт на якому можна перевірити таку інформацію і якщо ви там є (а скоріш за все ви там будете) то змініть терміново пароль та включіть двохфакторну аутентифікацію. Але головне правило - шансів зламати вашу пошту буде значно менше, якщо ви не будете її показувати на підозрілих сайтах

Дві новини на сьогодні дуже коротко: ШІ новина: Вже в ChatGPT доступна версія 5.5 для швидких відповідей Безпека: з 8 травня в повідомленнях в Instagram буде вимкнуто наскрізне шифрування. Що буде МЕТА роботи з вашими даними поки не відомо.

Продовжуємо про безпеку даних у месенджерах. Сьогодні про Signal. Зазвичай Signal вважається одним з тих застосунків, який має надійне шифрування і майже не збирає мета та інших даних про своїх користувачів. Всі повідомлення мають наскрізне шифрування, що робить не можливим доступ до них крім безпосередньо учасників комунікації. Декілька тижнів тому ФБР вдалося отримати доступ до такої переписки. Інтернет вибухнув "все пропало!". Журналісти та активісти втратили чи не єдиний зручний засіб безпечної комунікації. Але все виявилось цікавіше. ФБР отримало доступ до переписки за допомогою.... iPhone і його налаштувань та вразливості. Як виявилось iOS зберігало на у своїй пам'яті повідомлення які з'являються у вас на екрані коли надходить повідомлення. Ті самі овальні хмарки з текстами повідомлень, які ви бачите на заблокованому екрані. Коли ФБР вилучило телефон особи, їм не потрібно було ламати протокол шифрування Signal - вони просто зайшли у двері відкриті самим Apple. Apple швидко відреагувала і випустила оновлення 26.4.2 яке прибирає цю вразливість. Тому, якщо ви ще не оновились - швидко це робіть. І взагалі оновлення систем є дуже гарною практикою захисту від усіляких вразливостей тож робіть це регулярно.

🚨 Гучний кейс проти WhatsApp: шифрування — це обман? 🔥 У січні 2026 року в федеральному суді Сан-Франциско подали колективний позов проти Meta та WhatsApp. Тисячі користувачів (з Австралії, Бразилії, Індії та інших країн) звинувачують компанію в шахрайстві з приватністю. В чому суть? WhatsApp роками рекламує скрізне шифрування (end-to-end encryption): «Тільки ви і співрозмовник можете читати повідомлення. Навіть WhatsApp нічого не бачить!» Але позов стверджує: У додатку є «чорний хід» (backdoor), який дозволяє співробітникам Meta, підрядникам (зокрема Accenture) та третім особам обходити шифрування. Вони можуть читати, зберігати й аналізувати приватні чати без вашої згоди — особливо ті, що позначені як спам чи шахрайство. Доступ надається через внутрішній портал: достатньо подати «заявку» — і готово. Це підтверджують свідчення інформаторів (whistleblowers), які звернулися до влади США. Meta приховує вихідний код, тому незалежно перевірити неможливо. Позов вимагає компенсацій і заборони таких практик. Наразі це тільки звинувачення — суд ще не вирішив, а Meta категорично все заперечує: «Це брехня, шифрування працює вже 10+ років». Хто прокоментував? Павел Дуров (засновник Telegram) 10–12 квітня 2026 написав: «„Шифрування“ WhatsApp може бути найбільшим обманом споживачів в історії — воно обдурило мільярди людей. Попри заяви, воно читає повідомлення і передає їх третім сторонам». Він підкреслив, що Telegram ніколи так не робив і не робитиме. Ілон Маск відреагував коротко: «Can’t trust WhatsApp» («Не можна довіряти WhatsApp»). І порадив користуватися чатом у X для справжньої приватності. Це класичний скандал про приватність: обіцяють «ніхто не бачить», а на практиці — можливо, бачать. Поки що все на стадії суду.