ИИ Cерафимодальность

описание

Head of product research at Yandex Search & AI. dm: @bdndjcmf

← к каналу @humanagentinteraction

622

подписчиков

Охват к подписчикам

62,5%

ERR

Реакции к просмотрам

2,41%

200 на 21 постов

Пересылки к просмотрам

1,01%

Постов в день

0,4

всего 21

Где отзываются чаще

доля реакций к просмотрам

7 июл.Мы выиграли крупнейший в мире AI-хакатон В Париже начинается Raise Summit — слёт AI-индустрии, который проходит в Лувре и окрестных роскошествах (я уже рассказывал про приглашение в Ритц). Формально он откроется завтра речью Макрона, но для меня саммит начался чуть раньше, в эти выходные, где наша команда разъебала всех конкурентов в треке Googe DeepMind на восьмитысячном хакатоне. Меня позвал участвовать Слава @lumenio, с которым мы познакомились на ивенте Антропиков в галерее Лафайет (факт для истории не важный, но, согласитесь, приятный). Участвовать можно только пятёрками, поэтому скоро к нам присоединился канадо-алжирец Гэбриель, который заявил, что сосисочным составом хакатон не выиграть, и захантил пакистанку Лэйбу и малазийку Манель. Смешнее всего вышло с проектом. Я конечно предложил конструктор мебели, ребятам понравилось, мы начали, а потом Гэбриель пошёл напрямую советоваться к чувакам из ДипМайнда. Те откровенно не поняли, зачем мучиться и собирать руками какой-то диван, если на него можно навести гугл лензу и купить с доставкой за какие-то несчастные 11 000 ₣. Оказалось, что мы жёстко просчитались с целевой аудиторией — питчить-то мы его будем чувакам из Цюриха из элитных подразделений Гугла и Нвидиа, у которых единственная денежная проблема это что нули на экран не вмещаются. Только вот первое место на параллельном треке (от Курсора) заняла китайская команда, которая сделала РОВНО ТО ЖЕ САМОЕ. Так мы переключились на идею Гэбриэля — триаж для госпиталей: какого пациента в каком порядке куда направить. Если вы смотрели Питт, то примерно представляете. Я поначалу приуныл: возможно, расстроился, что Дипмайнд захуеборил мою идею. Не хватало твиста: делаем ии-менеджмент госпиталя — и что? Под самый вечер твист пришёл. Что, если взять не выдуманную больницу, а настоящую? Есть ли хоть одно место в мире, которое делится данными в реальном времени? Конечно, в Гонконге нашлось и такое: обновляемая раз в 15 минут статистика ожиданий по разным отделениям 18 госпиталей. Всю ночь мои агенты рисовали дизайн, на утро оказалось, что данные-то они и забыли подключить, Слава на бегу их подтянул, заодно собрали предсказательную модель на модели Нвидиа (положа руку на сердце — чтобы попасть в большее количество спонсоров; до сих пор кусаем локти, что не догадались обучение через Небиус организовать). После первого раунда защит команда впала в апатию: было чудовищно жарко, презентацию перебили, один из судей придирался — вайб был, что называется, офф. А я почему-то сразу понял, что доёбки — это хорошо: вопрос его, если уж совсем упростить, был "а нахуя тут вообще ИИ", и он просто проверял, знаем ли мы сами, что сделали и зачем. А мы знали. Из-за этого или нет, но проходной мы прошли. Затем нужно было сделать рассказ ещё раз, но уже на всю аудиторию + перед триумвиратом судей. Приободрённые первые удачей, мы пересобрали первое выступление, максимально сократили (я вообще только кнопки нажимал для демонстрации да на вопрос ответил) — и в итоге судьи словно и не нашлись что спросить кроме "а какая у вас таких замечательных GTM". Неловко даже. Команды в треке были очень разные, по субъективным ощущениям — мы могли оказаться на любом из трёх мест. Другая сильная команда сделала оповещения для ЧС, и очень мощно улетели по визуализации. Зато у нас был козырь в виде реалтайма. В перерыве, пока другие треки рассказывали, я поговорил с двумя судьями. Один сказал, что он свой балл конечно не назовёт, но мы молодцы, потому что "обычно советов менторов никто не слушает, а вы меня послушали, и вообще у меня жена в триаже работает, это пиздец". А я сказал, что у него на нотбуке наклейка Antigravity вверх ногами, поэтому это просто Gravity. У второй судьи было удивительно знакомое лицо, я поздоровался по-русски, и выяснилось, что мы бывшие коллеги, только она теперь топ в джетбрейнсе (честности ради — она меня не помнила). А потом мы победили. ==== Я немного запозднился с линкедином: накидайте, пожалуйста, комментов-лайков на пост — это поможет с социализацией на саммите. И на Славин. И в коннекшены добавляйтесь!11,05%
27 июл."Прикольно, что модель для расшифровки голоса Whisper Large-V3 (OpenAI) при работе с русским языком порой по каким-то причинам заменяет произвольный фрагмент услышанного на одну или несколько идущих подряд фраз "Вопрос в том, что все выступления сегодня говорят о мощнейшем безобразии." " (из фейсбука) Это просто очень круто. Проверил наугад несколько примеров, которые находит поиск в Гугле; это все какие-то видео с субтитрами. Смотришь видео, вполне внятный голос, внезапно вместо следующей фразы идет "вопрос в том, что все выступления сегодня говорят о мощнейшем безобразии". Мы смотрим долго в бездну, и бездна смотрит в ответ на нас. И говорит: вопрос в том, что все выступления сегодня говорят о мощнейшем безобразии.4,27%
17 июл.без подписи4,24%
16 авг.Вотермарки Клода работают ровно как я описал, никаких хитрых дополнений. А значит, они уязвимы к двойному переводу https://www.anthropic.com/news/claude-text-watermark3,74%
14 июл.Серафимодальный прекл3,48%
10 июл.какое интересно лицо сейчас у всех кто мне полгода рассказывал, какой у чатгпт замечательный дизайн или я должен говорить "замельный дизайн", ведь ЧАТ ИЗ НЕГО УБРАЛИ (но, к слову, новая gpt модель очень хорошая. пользуйтесь ей через Zed или Superconductor)3,42%
14 июл.у меня кончился лимит на фейбл, так что я пошёл проведать GPT app и это кошмар не только интерфейсно, он ещё и свой хвалёный браузер тупо запустить не может.2,91%
17 июл.без подписи2,72%
15 июл.Рома говорит, ничего не ясно, сайт скучный. Я вообще рекомендую просто скачать и попробовать, у них именно процесс настройки волшебный, но вот короткое видео про продукт и как он работает2,18%
31 июл.Наша любимая рубрика «Мир инсульта»: в Google Earth завезли нано банану. Что? Да.1,74%
26 июл.лучшая игра все топовые модели на вопрос о любимой видеоигре выбирают одну и ту же; по совместительству — лучшую игру, в которую я когда либо играл. (особенно забавно конечно что модели Сол, Терра и Луна — тоже) эксперимент AI Village1,50%
11 авг.сегодня вместо сна послушал интервью Скотта Ааронсона подкасту Градиент про его рисёч в OpenAI. Скотт — ведущий специалист в квантовых алгоритмах, но интересно не это (я про эту область не знаю вообще ничего), а то, что его наняли ровно для того, чтобы решать проблему Safety AI, и нанял лично Илья Суцкевер. причём на этом поприще Скотт занимает довольно яркую позицию: называет Юдковски ИИ-думером, высмеивает суперинтеллект, занятый производством скрепок и т.д. во-первых, из интервью я наконец узнал, как (будут) устроены вотермарки на сгенерированные текст, это изящно. у предсказания токенов есть параметр теплоты: какое слово из множество вариантов стоит поставить следующим. известно, что наиболее человекообразные тексты получаются, если не брать самое вероятное слово, а брать что-то из топа. так вот, идея вотермарки состоит в том, чтобы менять параметр теплоты предопределённым образом, чтобы потом можно было для любого текста посмотреть это распределение. минус, естественно, в том, что для такой проверки нужно собственно быть OpenAI — то есть все влажные мечты копирайтеров про универсальный определитель сгенерированного текста можно (по крайней мере пока) отложить. ну и Скотт честно признаётся, что даже такой метод никак не обезопасит от того, чтобы текст сначала сгенерили на другом языке, а потом перевели обратно (например, транслейтером). задача, говорит, не в том, чтобы победить в кошки-мышки, а в том, чтобы быть более быстрой кошкой, и сделать труд мышки слышком дорогим. интересно, что на момент записи подкаста (май 2023) такой системы ватермарков ещё не было — то есть не факт, что они и сейчас есть, в GPT-4. ещё я задумался, можно ли похожим образом определять авторство конкретных людей. насколько «непохожесть следующего слова на предсказанное гпт» — постоянная метрика человека? если бы я сейчас был в академии, попробовал бы это поизучать. во-вторых, много говорили про, собственно сейфити. тут я как следует разочаровался, потому что хороших аргументов у Скотта нет. на аргумент про скрепки он ответил, что не понятно, почему сверхумный алгоритм сделал бы настолько сверхглупую вещь. и вообще, почему ИИ-думеры рассматривают ничтожную вероятность, что ИИ нас всех убьёт, игнорируя вероятности, что ИИ остановит все войны и наступит полная миссис Дэйвис. тут ведущий ничего не ответил, а я со своей стороны бы сказал — потому что это маловероятное событие с фатальными последствиями. человечество улучшает самолёты и поезда не до тех пор, пока они не будут попадать в аварии в 50% случаев, а пока этот риск не будет сведён к абсолютному минимуму. сам Скотт в своём блоге оценивает опасность уничтожения человечества ИИ в 2%. два процента! это же дохуя! но есть и хорошие новости, правда, снова полученные по аналогии: «если есть что-то, что мы узнали из текущего поколения ИИ, это что они обучаются хоть и не таким же, но похожим на людей образом. перед тем как стать хорошими в тексте, они сначала посредственные в тексте. перед тем как научиться рифмовать, они пишут посредственные стишки. поэтому перед тем как разом уничтожить человечество… в общем, не думаю, что это может произойти внезапно» тут я прям хрюкнул, хорошо. рассказал и про киллсвитч: идея просто ящика с выключателем это хорошо, но в идеале должно быть что-то универсальное. например, промпт, который может ввести любой, и который активирует невидимые для системы механимы отключения. здесь конечно хочется пуститься в сайфайные спекуляции в духе Уоттса, но мы не будем. а сама область, говорит Скотт, называется НЕЙРОКРИПТОЛОГИЯ. сурово. любопытный мужик, интересное интервью, гипотеза, что можно слушать англоязычные подкасты чтобы быстрее уснуть полностью провалилась. https://podcasts.apple.com/fr/podcast/the-gradient-perspectives-on-ai/id1569777340?i=10006126476381,27%