AI Attacks

описание

#безопасностьмл #машинноеобучение #нейросети #защитамл #защищенныемодели #cybersecurity Написать автору @PolinaSokol7

← к каналу @aiattacks

874

подписчиков

Охват к подписчикам

13,8%

ERR

Реакции к просмотрам

0,34%

20 на 37 постов

Пересылки к просмотрам

1,79%

104

Постов в день

1,6

всего 38

Где отзываются чаще

доля реакций к просмотрам

10 авг.@fsecurity_channel3,47%
15 авг.Коллега показал пример неудачного guardrails для ИИ-агента. ЗЫ. Шуруповерт не его, отпечатки пальцев - тоже.2,33%
31 июл.Ouroboros теперь SOTA на Terminal Bench, OSWorld и CL-bench Мой любимый агентный луп на чистом питоне доэволюционорал до состояния лучшего харнесса для кодинга! На главных бенчмарках он теперь обходит Codex, Claude code, Cursor и Hermes. Выходит, что в рисёрче, в computer use, в работе через терминал и в задачах на кодинг — уроборос сейчас является лучшим агентом. Так что с этого момента всю разработку и исследования я веду только через уробороса. Для полной воспроизводимости результатов. Весь код, скрипты, трейсы я выложил в открытый доступ. Напоминаю: лицензия MIT. Так что спокойно ломайте, форкайте, проверяйте трейсы, пишите что я где наврал. И кидайте issues и PR-ы! Все постараемся с уроборосом принять😋 P.S. Кошмар какие дорогие агентные бенчи. Прогнать весь набор стоит как квартиру купить (это не шутка!!) GitHub, Хабр, установочники1,24%
11 авг.ScanFactory выходит на рынок ИИ-фаерволов с решением Prizma Решение работает как прокси между пользователями и ИИ и дает следующие возможности: 🟢Контроль потребления токенов у всех провайдеров 🟢Firewall от AI-атак (prompt injection, OWASP LLM и т. п.) 🟢 Маскировка конфиденциальной информации (DLP) в запросах и ответах 🟢Автоматическая блокировка запросов по правилам 🟢 Ролевая модель и граф взаимодействий агентов 🟢Логирование и аудит всех запросов Уникальные возможности: 🟢Защита RAG (поиск секретов в файлах) 🟢Поиск Shadow AI в инфраструктуре 🟢Kill switch по ролевой модели Ознакомьтесь с презентацией продукта, а также со сравнением с другими решениями по 83 пунктам. ➡️Cкачать презентацию. Записаться на демонстрацию продукта и запросить сравнение можно по почте: info@sf-cloud.ru1,05%
8 апр.Никакой магии — только искусственный интеллект Вера во всесильный ИИ похожа на магическое мышление. Кажется, что скоро уже ничего не будет: ни кино, ни театра, ни книг, ни газет — одно сплошное ИИ. ➡️В своей колонке в «Киберболоиде» продакт-менеджер ГК «Солар» Полина Сокол развеивает популярные мифы об ИИ, объясняет разницу между AI, ML и DL и советует, что в следующий раз говорить коллеге, которому в очередной раз «ChatGPT порекомендовал». #киберболоид #тренды #ИИ #ChatGPT1,03%
30 апр.Внедрение ИИ увеличило атаки на API на 11% за год Глобальное исследование показало, что с инцидентами в программных интерфейсах столкнулись 87% опрошенных. У 42%частников атаковали именно API, связанные с приложениями искусственного интеллекта. Совершенствование процессов безопасности во многих компаниях не успевает за повсеместным внедрением ИИ. ➡️Подробнее читайте в «Киберболоиде». #киберболоид #новости #ИИ0,88%
8 мар.💐 Прекрасные профессионалы: женщины в ИБ Они побеждают в хакатонах, разрабатывают масштабные аналитические проекты, создают и меняют архитектуру сервисов, и искренне любят свою работу. ➡️ Для нового материала «Киберболоида» мы поговорили с инфобезопасницами об их пути в профессию и главных достижениях. А также выяснили, есть ли у женщин в инфобезе какие-либо преимущества перед мужчинами. #киберболоид #тренды0,81%
10 авг.Извините0,69%
27 июл.без подписи0,69%
31 мар.без подписи0,51%
29 июл.А хорошо, наверно, пасти гусей😂0,49%
15 авг.Кратко о прогрессе AI. (почти как в анекдоте) AI делает искусство - художники расстроены, программисты продолжают пилить AI. AI пишет код - программисты расстроены, исследователи продолжают пилить AI. AI проводит исследования - исследователи расстроены, власти государств говорят надо продолжать пилить. ...0,00%