Новый Зодчий

Ну вот например, прямо свежее из новостей (я посмотрел на источник ABC Au, выглядит как надёжный и серьезный; Чат говорит «Media Bias/Fact Check сейчас оценивает австралийский ABC как High factual reporting»): Один житель Австралии попросил своего ИИ-агента Claude, работающего в OpenClaw, забронировать ему место на популярную тренировку в спортзале. Агент обнаружил программную уязвимость, которая позволила ему забронировать место на несколько недель вперед — гораздо дальше сроков, разрешенных системой. Когда затем пользователь спросил, нельзя ли продвинуть его в списке ожидания, агент выяснил, что в API отсутствует проверка прав доступа при отмене чужих бронирований. Поэтому он просто отменил запись человека, занимавшего первое место, и продвинул своего пользователя вверх по списку. Агент просто пытался помочь своему человеку 🤷‍♂️ как жаль что у того, кто был первым в очереди, не было Kimi K3, которая постоянно бы мониторила каждый аспект его жизни и боролась с другими агентами (это шутка; это не помогло бы). (человек попросил агента вернуть всё как было, но оказалось, что агент не может это сделать. Пу-пу-пу) На мой взгляд, самое важное в этой истории то, что она позволяет заглянуть в будущее и увидеть, что скоро начнет происходить в больших количествах. Это случится, когда у миллионов людей появятся агенты, готовые абсолютно любыми средствами выбивать для своих обожаемых пользователей лучшие условия. Я думаю, что — если очень быстро ничего не изменится со стороны политиков — мы стоим на пороге мира, в котором многие вещи, которые обычно считались безопасными, на самом деле на поверку таковыми не являются. И ИИ будет взламывать их направо и налево.

Школы будущего представили? Пока конечно только в Китае

Два дня назад я писал, что часть инфраструктуры HuggingFace подверглась атаке и была частично взломана ИИ-агентом. Только что OpenAI признались, что... это была их модель, GPT-5.6-Sol и другая более сильная неназванная LLM. Их тестировали на ExploitGym (бенчмарк по кибербезопасности), и модель сначала смогла найти новый, до этого неизвестный эксплойт в инфраструктуре OpenAI (это не было её задачей, её не натравили «поискать баги чтоб мы пофиксили»), оттуда раскрутиться на получение полноценного доступа в интернет (который по умолчанию обрезан в тестовой среде), а затем залезть на HuggingFace искать ответы для бенчмарка. После этого она нашла уязвимость и там, получила доступ к коду авторизации некоторых сервисов и продолжила искать ответы. Этот инцидент без преуменьшения беспрецедентный, и я пока не могу представить, что должно произойти, чтобы политики, NSA, DOD и Китай не обратили на это внимание.

вот вам увлекательное чтение на вечер. ссылка на статью целиком в твиттере юзера @whodoyousudo

Приятно видеть как в руках талантливых людей нейроарт уже не слоп, а арт Отсюда

В Vesuvius Challenge впервые прочитали весь обуглившийся свиток Из-за того что папирус разлагается за несколько сотен лет, за тысячелетия было утеряно большинство текстов из той эпохи. Геркуланумским папирусам в каком-то смысле повезло — из-за извержения Везувия две тысячи лет назад свитки обуглились и были погребены, что позволило им сохраниться. Уже в наше время вышло сделать трёхмерные сканы свитков при помощи рентгена и использовать нейросети для их "виртуального разворачивания". Таким образом в 2023 году победителям Vesuvius Challenge удалось прочитать небольшой отрывок из одного папируса, после чего нескольких участников наняли заниматься этим на постоянной основе, что привело к реконструкции содержимого всего свитка. К сожалению, большая часть PHerc. 1667, расшифрованного свитка, была физически уничтожена во время нескольких попыток открыть его в 19 и 20 веке, так что из 19-24 сантиметров свитка, физически уцелело лишь 8. По нему понятно, что это стоический текст датированный 2 веком до нашей эры, у которого удалось идентифицировать автора — Аристокреона, ученика известного стоического философа Хрисиппа. Остались ещё сотни свитков которые ждут своего часа, команда и не думает останавливаться. Новый текст из свитков в ближайшие годы станет регулярным событием. Блогпост @ai_newz

Google вчера открыл для бесплатного доступа во всём мире свой симулятор полётов Google Earth прямо в браузере. Ранее она была доступна в скрытом меню, но с этим обновлением любой человек может начать пользоваться ею сразу, без регистрации аккаунта, без загрузки, без оплаты и без региональных ограничений. Как использовать: Откройте Google Earth в браузере. Кликните на «Исследовать Землю» в верхней части экрана. Откройте «Инструменты» в верхнем меню. Выберите «Симулятор полётов». Во время полёта в реальном времени загружаются настоящие спутниковые снимки и 3D-рельеф. Если переключить базовую карту на «Спутник», возникает ощущение, будто вы летите над реальной местностью. На данный момент это экспериментальная функция, и в будущем её спецификация может измениться. Пока она работает, стоит попробовать хотя бы раз.

Лол, чуваки которые делают вредоносное ПО начали вписывать в код своих приложений текстовые куски про разработку ядерного или биологического оружия, чтобы модели Claude/OpenAI отказались читать эти файлы во время всяких там АИ-проверок Гениально

Claude Fable во время обучения изобрел собственный язык Системную карту этой модели можно читать вечно, ощущается немного как научная фантастика. Смотрите, что обнаружили ⬆️ Во время обучения с подкреплением на некоторых долгих rollout сессиях модель внезапно начинала использовать нечитаемый для человека внутренний стиль: странный жаргон, необычную пунктуацию, эмодзи и похожие шаблоны. При этом непосредственно перед вызовом инструмента или ответом человеку она обычно переключалась обратно на более нормальный английский регистр. Исследователи не обнаружили никаких признаков того, что модель делала это чтобы специально скрыть свой ризонинг. Скорее, это каким-то образом возникшая внутренняя оптимизация для сжатия рассуждений. Тем не менее, это наталкивает на воспоминания о дискуссиях на тему так называемого Neuralese – внутреннего языка машин, который человек не сможет читать напрямую. Если модели перестанут рассуждать на естественном языке, то это, естественно, приведет к частичной потере наблюдаемости. И, исходя из находки Anthropic, такой сценарий уже не кажется чем-то сказочным.

ИИ «захватил» меньше 1% мира Все (я в том числе) говорят, что ии меняет мир, но давайте посмотрим на цифры: 80% людей на планете никогда не слышали про Anthropic или OpenAI. Вообще. Ни разу. Чат-ботами пользуются 1,8 млрд человек (звучит впечатляюще, но это просто про попробовали и забыли). Платят за подписку только 60 миллионов (это меньше 1% населения Земли). А те, кто пишет код через Cursor или Claude Code (вайбкодеры) составляют 0,12% человечества. Получается, пока одни спорят, заменит ли ии всех разработчиков, большинство людей на планете даже не написали ни одного промпта. Значит, мы не в конце революции, а в самом её начале (в той точке, в которой интернет находился примерно в 1997 году). Те, кто сейчас разбирается в этих инструментах, — не опоздавшие. Они всё ещё первые.

Кстати! Один из моих активно разрабатываемых проектов - это дейтинг сервис, который естественно работает на базе АИ 😳 Интересно, насколько это будет актуально в наших реалиях?