برنامه نویسی رادمان

ساخت و آموزش یک مدل ۳۵۰ میلیون پارامتری از صفر با پایتورچ چقدر هزینه دارد و چه چالش‌هایی دارد؟ http://john463212.substack.com/p/building-a-350m-transformer-from 🔵 @radmanch 🟢 ble.ir/radman_it

شرکته آگهی استخدام زده با حقوق پایه وزارت کار (یعنی ۱۷ میلیون) برای استخدام Backend Developer ، حالا شما برید متن آگهی و نیازمندی هاشون رو بخونید و نظرتون رو بگید. واقعا نمیدونم برای یه سری از شرکت ها باید تاسف خورد که دانش کافی ندارن یا مشکل دیگه ایی دارن که نمی خوام اینجا بگم... لینک آگهی

آسترا، هوش مصنوعی جدید OpenAI، تونسته 10 مسئله‌ی قدیمی و حل‌نشده‌ی ریاضی رو حل کنه؛ از جمله اولین ساختار صریح یک گروه غیرصوفی. جالب‌تر اینکه کل این کار با هزینه‌ای حدود 2000 دلار انجام شده. راه‌حل‌هایی که ارائه داده، فقط ایده‌های خام نیستن؛ همگی تأیید شدن و روی گیت‌هاب منتشر شدن. این دستاوردها حوزه‌های مختلفی مثل علوم کامپیوتر نظری و پیچیدگی مدارهای حسابی رو پوشش می‌دن. بین این نتایج، رد حدس صلبیت کانز (Connes's rigidity conjecture) و حل مسئله‌ی 183 پاول اردوش (Paul Erdős) هم دیده می‌شه؛ مسائلی که سال‌ها جزو چالش‌های جدی ریاضی بودن. این اتفاق می‌تونه یه نقطه‌ی عطف برای استدلال علمی با هوش مصنوعی باشه؛ چون نشون می‌ده AI داره از حل مسئله‌های معمولی عبور می‌کنه و وارد مرحله‌ی کشف‌های واقعی علمی می‌شه. 🔵 @radmanch 🟢 ble.ir/radman_it

راهنمایی جامع برای ورود به دنیای برنامه‌نویسی کامپیوترهای کوانتومی: - آشنایی با مفاهیم پایه محاسبات کوانتومی و کیوبیت‌ها - آموزش طراحی و پیاده‌سازی الگوریتم‌های کوانتومی - کار با فریم‌ورک‌های برنامه‌نویسی کوانتومی و مثال‌های عملی - مناسب برای برنامه‌نویس‌هایی که می‌خوان وارد دنیای Quantum Computing بشن 🔵 @radmanch 🟢 ble.ir/radman_it

مسیر راه و هدف در واقعیت... 🔵 @radmanch 🟢 ble.ir/radman_it

اینی که می‌بینید اسمش Magika هست گوگل به تازگی منتشرش کرده؛ یه سیستم بر پایه هوش مصنوعیه که می‌تونه محتوای واقعی هر فایلی رو تشخیص بده، حتی اگه فایل خودش رو یه چیز دیگه جا زده باشه. مثلاً بدافزاری که قیافه‌ی یه فایل PDF رو گرفته، یا اسکریپت‌های مخفی که خودشون رو شبیه عکس نشون میدن. این ابزار رایگانه و متن‌باز هم هست : securityresearch.google/magika 🔵 @radmanch 🟢 ble.ir/radman_it

هوش مصنوعی رو می‌شه مثل یه بانک درنظر گرفت که بهتون وام فنی می‌ده (وام فنی یعنی وامی که پول نیست بجای پول دانشه) حالا این وام فنی از دید شما یه بدهی فنی هستش و باید یه روزی پسش بدید، بدهی فنی ده ها ساله توی مهندسی نرم افزار استفاده می‌شه و می‌تونه خیلی کمک کنه پیشرفت کنید و یا بر عکس اولش بهتون شتاب بده بعدش دهنتون رو سرویس کنه. خیلیارو دیدم دیگه شل کردن و چیز جدیدی یاد نمی‌گیرن، این کار اشتباهه چون علم و دانش شما قدرت بازپرداخت این وام هست اگر علم و دانشتون رو بالا نبرید روزی خواهد رسید که توی انبوهی از پروداکت های نیمه کاره قفل شدید و دست روی هرچی می‌زارید نمی‌تونید کاملش کنید. 🔵 @radmanch 🟢 ble.ir/radman_it

خیلیا فکر میکنن OSINT یعنی سرچ ساده توی دیتابیس های پابلیک، اینو ببینید از روی عکس چطوری لوکیشن رو پیدا میکنه! 🔵 @radmanch 🟢 ble.ir/radman_it

اگه فکر می‌کنید سیستمتون ضعیفه و هیچ مدلی روش اجرا نمیشه سخت در اشتباه اید، این ابزارو نصب کنید میگه چه مدل هایی روی سخت افزارتون خوب اجرا میشه http://github.com/Andyyyy64/whichllm 🔵 @radmanch 🟢 ble.ir/radman_it

🔴 ‏اگر سایت وردپرسی دارید حتما هسته وردپرس رو آپدیت کنید دو تا باگ SQL Injection و RCE داره نسخه های اصلاح شده: WordPress 6.8 → 6.8.6 یا جدیدتر WordPress 6.9 → 6.9.5 یا جدیدتر WordPress 7.0 → 7.0.2 یا جدیدتر 🔵 @radmanch 🟢 ble.ir/radman_it

کتاب رایگان مبانی مدل‌های زبانی بزرگ (PDF) این کتاب قدم‌به‌قدم توضیح می‌ده که مدل‌های زبانی بزرگ (LLM) چطور ساخته می‌شن و کار می‌کنن. اول از همه درباره Pre-training یا همون مرحله‌ای که مدل از حجم عظیمی از داده‌ها یاد می‌گیره صحبت می‌کنه، بعد می‌ره سراغ ساخت مدل‌های مولد، آموزش اون‌ها در مقیاس بزرگ و نحوه کار با متن‌های طولانی. بعد یاد می‌گیری چطور با Promptهای مختلف از مدل بهترین جواب رو بگیری و با تکنیک‌هایی مثل Chain of Thought کیفیت پاسخ‌ها رو بهتر کنی. در ادامه هم روش‌های هم‌راستا کردن مدل با خواسته‌های انسان، مثل Instruction Fine-tuning و Human Feedback رو توضیح می‌ده و در آخر هم می‌رسه به بخش اجرای مدل؛ یعنی الگوریتم‌های تولید متن، روش‌های سریع‌تر کردن استنتاج و چالش‌های اجرای مدل‌های خیلی بزرگ. 🔵 @radmanch 🟢 ble.ir/radman_it

برنامه نویسی رادمان pinned a photo

سلام روز همگی عزیزان بخیر ، دوستان لطف کردن و یک میتینگ با عنوان زیر تدارک دیدن : 🟠 Microservice Vs Monolithic 🟠 Transport Layer 🟠 Message Broker با حضور و مشارکت خود به برگزاری هر چه بهتر این دورهمی ها کمک کنید 🌹 ساعت برگزاری : 19:30 امشب، جمعه 26 تیر 🟢 لینک : https://calendar.app.google/W7WWB6nzwio9jB2i7 @radmanch

🤖 ربات تلگرام، بدون هاست و سرور! تلگرام قابلیت جدیدی به نام Telegram Serverless معرفی کرده که اجازه می‌ده کد ربات‌ها و مینی‌اپ‌ها رو مستقیماً روی زیرساخت خود تلگرام اجرا کنید؛ یعنی برای خیلی از پروژه‌ها دیگه نیازی به خرید VPS، راه‌اندازی وب‌هوک و مدیریت همیشگی سرور نیست. ✅ مزایا: • راه‌اندازی سریع‌تر و ساده‌تر • حذف هزینه و دردسر نگهداری سرور • دیتابیس داخلی و دسترسی مستقیم به Bot API • مناسب برای ربات‌های سبک و متوسط ❌ محدودیت‌ها: • فعلاً جایگزین کامل VPS نیست • محیط اجرا و پکیج‌های قابل استفاده محدودن • مناسب پردازش‌های سنگین و طولانی نیست • وابستگی کامل کد و اطلاعات پروژه به تلگرام در مجموع، برای ساخت سریع ربات‌های ساده قابلیت خیلی جذابیه؛ ولی پروژه‌های بزرگ و پیچیده همچنان به سرور اختصاصی نیاز دارن. #تلگرام #ربات_تلگرام #TelegramServerless #رادمان 🔵 @radmanch 🟢 ble.ir/radman_it

خیلی‌ها برنامه‌نویسی رو با یاد گرفتن یه زبان یا فریم‌ورک شروع می‌کنن و فکر می‌کنن مهم‌ترین بخش کار، نوشتن کده. ولی هرچی پروژه‌ها بزرگ‌تر می‌شن، می‌بینی کد فقط بخش کوچیکی از ماجراست. System Design یعنی قبل از اینکه حتی یه خط کد بنویسی، بدونی قراره سیستم چطور کار کنه. اگه تعداد کاربران ناگهان ۱۰۰ برابر شد چه اتفاقی می‌افته؟ اگه یکی از سرویس‌ها از دسترس خارج شد، کل سیستم می‌خوابه یا همچنان به کارش ادامه می‌ده؟ چه جاهایی باید Cache داشته باشیم؟ چه زمانی Queue استفاده کنیم؟ دیتابیس SQL انتخاب بهتریه یا NoSQL؟ سرویس‌ها رو جدا کنیم یا با یه Monolith شروع کنیم؟ جذابیت System Design اینه که معمولاً جواب قطعی برای این سؤال‌ها وجود نداره. همه چیز به نیاز پروژه، هزینه، مقیاس و تجربه تیم بستگی داره. به همین خاطر دو مهندس باتجربه ممکنه برای یک مسئله، دو راه‌حل کاملاً متفاوت ارائه بدن و هر دو هم منطقی باشن. به نظرم کسی که System Design یاد می‌گیره، فقط برنامه‌نویس بهتری نمی‌شه؛ یاد می‌گیره مثل یک معمار نرم‌افزار فکر کنه. اونجاست که تصمیم‌ها مهم‌تر از کدها می‌شن و کیفیت یک سیستم، قبل از نوشتن اولین خط کد شکل می‌گیره. 🔵 t.me/radmanch

یکی دیگه از اشتباهات رایج توی مصاحبه های بک اند اینه که طرف سریع میره سمت حل مسئله، بدون اینکه اول مسئله رو درست تعریف و یا درک کنه. مثلا سوال میشه: «سیستم رو طوری طراحی کن که بتونه درخواست های زیاد رو هندل کنه» و اون شخص سریع شروع می کنه به گفتن : ردیس، کافکا، میکروسرویس، لود بالانسر و ... در حالی که مثلا هنوز نپرسیده که : حجم ترافیک چقدره؟ الان read سنگین تره یا write؟ ما واسمون latency مهم تره یا consistency الان bottleneck کجاست؟ "نتیجه این میشه که راه حل از مسئله جلو میزنه" پس یادمون باشه که توی مصاحبه های بک اند، چیزی که بیشتر از تکنولوژی مهمه اینه که چقدر می تونی مسئله رو به شکل درست بشکنی و فرضیات رو شفاف کنی. در واقع اول باید بفهمی اصلا مشکل کجاست. @radmanch

قدیما برنامه نویسی که درک درستی از Overflow نداشت آدم چلاقی محسوب می‌شد این موضوع به قدری مهم بود که حتی اسم سایت StackOverflow هم از این قضیه اومده بود. این مقاله 12 صفحه ای ++C/C بهتون اورفلو توی اعداد صحیح رو توضیح داده users.cs.utah.edu/~regehr/papers/overflow12.pdf @radmanch

برگردیم به سال 2019 روزی که GPT-2 اومد و مردم رو شگفت زده کرد! تازه اولین روزایی بود که ماشین داشت متن خود ساخته حرفه ای تولید می‌کرد. وقتی ازش می‌پرسیدی آسمان چرا آبیه می‌گفت: پاسخ به این سوال بستگی به این دارد که منظور شما از «آسمان» چیست. کلمه «آبی» معانی مختلفی دارد و درک اینکه کدام یک در اینجا کاربرد دارد، مهم است. در انگلیسی، ما از اصطلاح «آسمان» به دو صورت استفاده می‌کنیم: به عنوان صفتی که چیزی شفاف یا شفاف را توصیف می‌کند (مانند «آسمان شفاف بود») و به عنوان اسمی که به بخشی از جو بالای سر ما اشاره دارد (مانند «آسمان آبی است»). به عبارت دیگر، وقتی می‌گوییم «آسمان آبی است»، در مورد خود آسمان صحبت می‌کنیم - نه فقط رنگ آن. اما وقتی در مورد آبی بودن آسمان صحبت می‌کنیم، در واقع در مورد هوای بالای سرمان صحبت می‌کنیم. بنابراین اگر می‌خواهید بدانید که چرا آسمان آبی است، باید از خود بپرسید که آیا آسمان شفاف است یا مات. اگر مات است، پس آسمان آبی است زیرا هیچ ابری سر راه آن نیست. اگر شفاف است، پس آسمان آبی است زیرا ابری سر راه آن است. البته شاید یکم جوابش خنده دار باشه ولی اون زمان انقلابی بود. @radmanch

این رو ببینید باتری گوشی سامسونگ نیست گرافیک N1X هستش که قدرت پردازشیش در حد 5070 هستش و پاییز به بازار لپ تاپا میاد یه پردازنده 20 هسته‌ای به نام Grace که بخش پردازشی اون با همکاری شرکت مدیاتک و بر پایه معماری کم‌مصرف ARM طراحی شده. یه گرافیک نسل جدید از معماری Blackwell با 6144 هسته کودا که قدرتی در حد و اندازه یک کارت گرافیک دسکتاپ رده‌بالا مثل RTX 5070 رو ارائه می‌ده. تا 128 گیگابایت حافظه رم LPDDR5X که به صورت مشترک و یکپارچه و بدون تاخیر (توسط فناوری NVLink-C2C) هم توسط CPU و هم GPU استفاده می‌شود. این یعنی دیگر محدودیت کمبود حافظه گرافیکی (VRAM) برای رندرهای سنگین وجود نداره! @radmanch