Охват к подписчикам
134,1%
ERR
Реакции к просмотрам
0,96%
185 на 25 постов
Пересылки к просмотрам
1,48%
284
Постов в день
0,0
всего 25
Где отзываются чаще
доля реакций к просмотрам- 11 авг.ما میدونیم (یا نمی دونیم) که LLM ها بدون حافظه ان. یعنی توی هر پیام جدید سیستم باید کل تاریخچه گفتگو رو از اول برای مدل بخونه تا بتونه یه کلمه جدید تولید کنه ( واسه همینه که توی چتای طولانی، کندتر عمل میکنه و به مراتب هرینه اش بالاتر میره). قبلا میومدن و برای حل این مشکل از تکنیکی به اسم Prompt Caching استفاده میکردن، یعنی محاسبات قبلی ( KV Cache) رو ذخیره میکردن تا هزینه کمتر شه. ولی خب این کش فقط روی همون مدلی کار میکرد که پیداش کرده بود! 👀 اینا رو گفتم تا برسیم به اینکه انویدیا جدیدا چه کرده- یه متد طراحی کرده که میشه KV Cache رو مستقیما به یه مدل دیگه منتقل کرد! مرحله Prefill (همونجایی که کل تاریخچه گفتگو رو از اول میخونه) رو کلا دور می زنه و حافظه قبلی رو با فرمت مختص به خودش ترجمه میکنه. ولی چطوری؟( ممنون~ شما چطوری؟) -نگاشت خطی: فهمیدن که حتی بین مدلای متفاوت لایه شباهت ساختاری وجود داره -ترکیب لایه ها: برای هر لایه در مدل مقصد، 8 لایه برتر از مدل مبدا رو ترکیب میکنن تا شباهت به 79 درصد برسه. -دستکاری RoPE: چرخش های موقعیتی توکن ها رو موقتا برمیدارن، تبدیل ریاضی رو انجام میدن و بعد چرخش مدل جدید رو روش پیاده میکنن. نتایج چطور بوده؟ • ۲.۷ تا ۲۵ برابر سریعتر از پردازش مجدد متن! • حفظ ۷۳ تا ۹۸ درصد از دقت مدل مقصد. این مدل فعلا روی مدل های هم خانواده تست شده ولی فعلا یه بن بست بزرگ رو شکسته توی انتقال حافظه.8,09%
- 11 нояб. 2024 г.без подписи6,10%
- 3 авг.کپشنی ندارم، فقط تعداد استارها رو ببینید =)) چهار تا فایل Markdown vs کرنل لینوکس5,17%
- 24 окт. 2024 г.без подписи4,30%
- 19 июн.без подписи2,47%
- 28 июн.دو روز پیش همینطوری رندوم داشتم نرخ لپتاپهای مختلف رو چک میکردم، که تب رو روی عکس سمت راست بستم و رفتم. امروز تصادفی این تب رو مجدد باز کردم که با عکس سمت چپ مواجه شدم 😆1,85%
- 3 авг.سرویس جدید گوگل برای طراحی UI مبتنیبر AI https://stitch.withgoogle.com/ نسبت به اینکه تازه راه افتاده خروجیهای قابل توجهی میده 👨💻1,81%
- 3 авг.اگه این روزها از Coding Agentها استفاده میکنید (که احتمالاً همهمون دیگه داریم میکنیم :) )، احتمالا اسم Graphify به گوشتون خورده؛ ابزاری که به ایجنت وصل میشه، کدبیس شما رو به یک گراف متنی تبدیل میکنه و با دادن دید کلی به ایجنت، باعث کاهش مصرف توکن میشه. با پیشنهاد یکی از دوستان، مدتی هست به جای Graphify رفتم سراغ Codebase Memory MCP، و خب حداقل از نظر من تجربه بهمراتب بهتری بوده. علاوهبر اینکه پروژه رو خیلی سریعتر ایندکس میکنه، مصرف توکنش حتی از Graphify هم کمتره و به لطف MCP بودنش، خیلی تمیز و بیدردسر با ایجنت همگام میشه. تازه UI گرافش هم خوشگلتره 😅 https://github.com/DeusData/codebase-memory-mcp1,58%
- 12 июн.داشتم ریپوهای گیتهابم رو یه نگاهی میانداختم، که چشمم به این ریپو خورد که مال حدود ۴ ۵ سال پیشه 😄 اون زمان تازه بکاند و PHP کار میکردم و AI ای هم در کار نبود :)) اوج خلافام کپی کردن از stackoverflow بود و چقدر زود گذشت. عمرا فکر میکردم ۴ ۵ سال دیگه توی چنین بدبختی و وضعیتی دست و پا بزنیم. github.com/MahdiyarGHD/KnightTour این هم حدودا مربوط به یک سال بعدشه: github.com/MahdiyarGHD/ToigBot دیتابیسش فایل جیسونه 😁 و چقدر هم خوب کار میکرد. حالا هی بیا سیستم دیزاین کن 🙂↔️1,39%
- 17 апр. 2025 г.без подписи1,38%
- 28 янв. 2025 г.без подписи1,29%
- 18 маяمن که کارم رو دارم انجام میدم دیگه، کی گفت برم دانشگاه توی این خرابشده :/ سوال استاد برای ثبت حضور و در نتیجه حذف نشدن: «دستآوردهای جمهوری اسلامی رو در ۴۷ سال اخیر لیست کنید.» 🤣🤣1,01%