спидран по мл

Как работают трансформеры https://sysblok.ru/knowhow/kak-rabotajut-transformery-krutejshie-nejroseti-nashih-dnej/

Мысли про вычисления на базе GPU - думаю и спрос и предложение будут расти - верю, что и Китай, и США нарастят производство - кажется человечество готово употребить любое количество интеллектуальных вычислений, которое будет доступно - не могу представить ситуацию, что самые умные вычисления не нужны (см антропик) - могу представить ограничения спроса на не самые умные (китайский опен сорс) - тяжело наверное быть фронтир лабораторией: нужно удерживать лидерство чтобы покупали у тебя (ситуация winner take it all) - вопрос: что если мы достигнем предела точности/качества/сложности в задачах программирования? - тогда начнут быть важными другие параметры: цена, скорость - может цензура будет важна? Хочется верить что XAI с фокусом на truth seeking выиграет

ну пацаны, всё же очень просто

https://youtu.be/XfpMkf4rD6E?si=3U55gPRrvjpOAcmv

(ниче не понятно, но оч интересно)

cs336: Lecture 3: Architectures - архитектуры моделей это оч просто - вы же все знаете как работает типичный трасформер, да? - (нет, не знаю) - иду читать как устроен трансформер (приключение на 15 минут)

мативэйшен!

Книги по мл https://x.com/akshay_pachaar/status/1580863836935970816