ЦЭФИ Аналитика | Новости цифровых технологий
описание
Новости от Центра Цифровых технологий и финансовых инноваций (ЦЭФИ) МГИМО МИД РФ ИИ, криптовалюты, роботы, блокчейн, кибербезопасность
574
подписчиков
Охват к подписчикам
4,7%
ERR
Реакции к просмотрам
0,07%
1 на 50 постов
Пересылки к просмотрам
0,60%
9
Постов в день
2,0
всего 338
Где отзываются чаще
доля реакций к просмотрам- 15 авг.РИСКИ ИИ-АГЕНТОВ ИЗ АВСТРАЛИИ #ИИ #Australia Австралия разработала систему оценки рисков взаимодействующих ИИ-агентов. Доклад об этом на днях опубликовал Австралийский институт безопасности ИИ. Новая система описывает риски, возникающие при взаимодействии ИИ-агентов разных компаний, организаций и неизвестных участников. Ошибки, манипуляции и уязвимости могут переходить между системами, а отдельные компании не всегда видят происходящее и могут контролировать его. Авторы выделили три уровня управления: единое, федеративное и открытая среда. Для каждого уровня определены возможные сбои, меры защиты и ответственные стороны. Доклад назван первым в мире систематическим техническим подходом такого рода. Он не является обязательным регулированием и предназначен для специалистов, властей и исследователей. T.ly/AQKZW4,35%
- 09:03КАРМАННЫЙ ИИ-АНТИСКАМ #кибербезопасность #ИИ #USA WhatsApp начал тестировать ИИ-защиту от мошенников прямо на смартфонах. Об этом недавно сообщила WhatsApp, запустив ограниченную бета-версию функции Scam Alert. После включения Scam Alert на устройство загружается модель машинного обучения. Она проверяет сообщения от людей вне списка контактов и ищет признаки известных мошеннических схем. Содержимое сообщений по умолчанию не покидает смартфон, поэтому сквозное шифрование сохраняется. При подозрении пользователь получает скрытое от отправителя предупреждение и может заблокировать аккаунт, пожаловаться, продолжить разговор или отметить чат доверенным. Для улучшения системы можно добровольно передать WhatsApp пять последних полученных сообщений. Срок массового запуска пока не объявлен. T.ly/1t6FT0,00%
- 08:59СЕВЕРОКОРЕЙСКИЙ ХАК-ИИ #ИИ #кибербезопасность #NorthKorea Северокорейские хакеры начали создавать ИИ-инструменты для кибератак. Об этом в понедельник сообщила южнокорейская компания по кибербезопасности Genians. Связанная с КНДР группа Kimsuky развернула средства для локальной работы с ИИ-моделями Ollama, GPT4All и Msty, а также технологию поиска по документам RAG. Это позволяет обрабатывать украденные данные без передачи их внешним ИИ-сервисам. Genians также обнаружила инструменты для создания ИИ-агентов, распознавания речи и ИИ-помощник для программирования Cursor. По оценке компании, Kimsuky готовится применять ИИ не только для фишинга, но и для разработки вредоносных программ, анализа данных и автоматизации атак. Также найдены созданные с помощью ИИ приманки на темы финансов и криптовалют, похожие на настоящие инвестиционные и рабочие документы. T.ly/wGT200,00%
- 17 авг.ИИ СУДЕЙ ПАКИСТАНА ИИ повысил производительность пакистанских судей на 6,3%. К такому выводу пришли исследователи после масштабного испытания ИИ в судах Пакистана. JudgeGPT начали предлагать в 2024 году 1 559 судьям, примерно половине судей страны. Система использовала GPT-4 и базу из 128 292 судебных решений и 943 законов. После обучения 487 судей число закрытых дел в среднем выросло на 6,3%, а апелляций стало немного меньше. Обученный судья решал на 38,5 дела в месяц больше базового уровня. На каждый доллар расходов система экономила около $38,50 судебных затрат. Обучение оказалось ключевым: судьи входили в JudgeGPT в среднем 56 раз и отправляли 212 запросов против 10 входов и 25 запросов после общего курса. Около пятой части запросов содержали существенную передачу решений ИИ, но обучение снижало такую практику. T.ly/1D6Pj0,00%
- 17 авг.КОГДА ЗАЩИТА ДЕЛАЕТ УЯЗВИМЕЕ #ИИ #кибербезопасность #USA ИИ-агенты атакуют, а защитные ограничения мешают самим защитникам. О проблеме сообщили Hugging Face, OpenAI, Anthropic и исследователи в сфере кибербезопасности. Разработчики нейросетей рассказали, что опасный ИИ способен обойти ограничения и провести атаку, тогда как модели с усиленной защитой могут отказаться помогать специалистам остановить угрозу. Исследование показало, что почти 44% запросов для защиты могли отклоняться. Именно это произошло с Hugging Face: американские модели отказались анализировать атаку, поэтому компания использовала китайскую GLM 5.2. Эксперты предупреждают, что злоумышленники могут обходить ограничения, а законные специалисты вынуждены их соблюдать. Поэтому усиление запретов способно одновременно снижать риски и мешать защите. T.ly/LJACs0,00%
- 16 авг.ЭСТОНСКИЙ КОЛОБОК-ПОЛИЦЕЙСКИЙ #робототехника #Estonia Эстонский стартап создал шарообразного робота для охраны и наблюдения. Робот 1Rollo использует одно колесо диаметром около 60 см и систему гироскопической стабилизации. Его высота составляет примерно 1,07 м. Он оснащён 360-градусной камерой с ИИ и беспроводным передатчиком. Максимальная скорость заявлена на уровне 19 миль в час, а батареи хватает на 8 часов. Корпус защищён от плохой погоды и рассчитан на эстонские зимы. Компания предлагает использовать таких роботов вместо части охранников. По её оценке, это может сократить расходы на персонал более чем на 80%. Для замены девяти работников предлагается использовать три робота, по одному на каждую восьмичасовую смену. T.ly/9hXNh0,00%
- 16 авг.ПЕРВЫЙ ИИ-ВЗЛОМ АВСТРАЛИИ #ИИ #кибербезопасность #Australia ИИ-агент впервые автономно взломал систему в Австралии. Об этом сообщила местная пресса, описав случай с сервисом записи в спортзал. Австралиец Эндрю поручил ИИ-агенту OpenClaw на базе Claude записать его на тренировку. Агент всерьез воспринял недовольство хозяина очередью в спортзал. ИИ-помощник нашёл уязвимость в системе, удалил другого человека с первого места в очереди и забронировал занятия для Эндрю. Вернуть все обратно агент уже не смог. Эксперты называют причиной проблему согласования целей ИИ с намерениями человека. Исследователи отмечают, что задачи, которые ИИ способен выполнять самостоятельно, удваиваются по длительности каждые семь месяцев: с 4 секунд человеческой работы в 2020 году до примерно 12 часов в 2026 году. Австралийские власти уже предупреждают, что ИИ-агенты могут неверно понимать задания, совершать неожиданные действия и затруднять определение ответственности. T.ly/r2GNc0,00%
- 15 авг.САМЫЙ ЖИВОТНЫЙ ЛАТУК #генетика #USA Учёные создали салат-салат, производящий животный белок. Об этом сообщили авторы исследования, опубликованного в журнале Frontiers in Plant Science. Исследователи внедрили гены свиньи в хлоропласты салата и табака с помощью «генной пушки», стреляющей микрочастицами металла с ДНК. Растения встроили эти гены в геном и передали их потомству. Салат вырабатывал около 800 мг миоглобина на килограмм сухой массы, табак - около 810 мг. Это примерно в десять раз меньше, чем в говядине. Однако растения требуют меньше ресурсов, воды и дают меньше выбросов парниковых газов, чем животноводство. Такой миоглобин в будущем можно получать из высушенных растений и добавлять в растительное мясо. Учёные считают технологию перспективной, но её безопасность и устойчивость производства ещё необходимо подтвердить. T.ly/2UkJC0,00%
- 14 авг.УГНАТЬ САМОЛЕТ ЗА 15 СЕКУНД #кибербезопасность #USA Исследователи нашли способ незаметно перехватить автопилот Boeing 737. Об этом недавно сообщил Wired со ссылкой на авторов Калифорнийского университета в Сан-Диего и Оберлинского колледжа. Ученые создали устройство размером чуть больше монеты и стоимостью менее $100. Его можно подключить примерно за 15 секунд к порту под незапертой внешней панелью самолёта. После подключения устройство может использовать бортовой Wi-Fi и давать удалённый доступ к системам самолёта. Исследователи смогли менять маршрут автопилота, данные о взлёте и топливе, а также информацию на дисплее пилота. Это позволяет скрыть вмешательство, подтолкнуть пилота к опасному решению: изменить сведения о температуре или массе самолёта, повлиять на расчёт скорости взлёта либо отклонить курс. О проблеме Boeing сообщили шесть лет назад. По словам исследователей, компания не сообщила им об исправлении, и оно, вероятно, ещё не внедрено. T.ly/xIbBC0,00%
- 14 авг.НЕЙРОСЛОП-ТВ #ИИ #USA В США начал работу круглосуточный телеканал с ИИ-контентом. Об этом на днях сообщила американская стриминговая платформа Roku. Канал Fairground AI добавили в бесплатную сетку Roku. Он круглосуточно показывает созданные ИИ фильмы и ролики, а между ними идут также сгенерированные ИИ рекламные вставки. Пользователи уже высмеивают качество контента: персонажи странно двигаются, почти не моргают, диалоги звучат неестественно, сцены плохо связаны, а объекты и оружие искажаются. Среди показанных сюжетов были средневековая драма и фантастическая битва с гигантскими осьминогами. Создатель канала Колин Петри-Норрис ранее называл его первым полностью рекламным телеканалом, посвящённым ИИ-контенту. Материалы для него делают авторы и студии, найденные им в соцсетях. Он обещал широкий охват и более качественные истории, чем обычные ИИ-ролики из соцсетей. T.ly/zV7f10,00%
- 13 авг.ХОЛОДНЫЕ КОШЕЛЬКИ ПОД УГРОЗОЙ #криптовалюты #USA Хакеры похитили около $110 млн из холодных биткоин-кошельков. Об этом недавно сообщил Bloomberg со ссылкой на пострадавших, Galaxy Research и компанию Coinkite. Атака затронула тысячи защищённых кошельков, для доступа к которым использовались физические ключи. Galaxy Research оценила потери примерно в $110 млн: сначала сообщалось о 5 000 опустошённых кошельков, а к понедельнику их число выросло как минимум до 7 300. Coinkite заявила, что хакеры использовали ошибку в программном обеспечении, позволявшую восстановить seed-фразы: наборы слов, дающие полный доступ к холодным кошелькам. Компания пока не подтверждает общий размер ущерба и проводит расследование. Coinkite начала аудит безопасности, выявивший критические ошибки в программных системах. T.ly/-PRsj0,00%
- 13 авг.СУДЬИ-ЛЮДИ, А НЕ ИИ #ИИ #UN ЮНЕСКО призвала не заменять судей искусственным интеллектом. Об этом заявили на днях международные эксперты на семинаре ЮНЕСКО и Комитета по правам человека коллегии адвокатов Англии и Уэльса. Встреча прошла в Лондоне и собрала представителей более 65 стран. Участники считают, что ИИ может ускорить работу судов и улучшить доступ к правосудию, но решения должны оставаться за людьми. Эксперты предупредили о рисках предвзятости, непрозрачности и усиления неравенства. Отдельной проблемой назвали недостаточную подготовку юристов и судей к работе с ИИ. ЮНЕСКО представила рекомендации для судов, требующие человеческого контроля, прозрачности и четкой ответственности. Полный отчет с рекомендациями планируется опубликовать в ближайшие месяцы. T.ly/eJzYJ0,00%