Out of Distribution

آقای گوگل دیروز از مدل Gemini 3.7 Flash رونمایی کرد. اون هم در حالی که تازه سه هفته پیش Gemini 3.6 Flash رو منتشر کرده بود. گول البته نسبت به اون نسخه قبلی یک جامپ بزرگ خوب داشته و فلش ۳.۷ دوشادوش Sonnet 5 و Terra 5.6 قرار می‌گیره، با این تفاوت که هزینه دلاری…

دیروز Grok آپدیت جدید 4.6 رو داده و یک پرش بزرگ نسبت به 4.5 داشته و الان از نظر شاخص‌های هوشمندی بالاتر از Sol 5.6 و پایین تر از Opus 5 قرار می‌گیره. نکته اما اینه که حدود ۶۰ درصد نسبت به این دو تا ارزونتره. اونا اگر ۵ دلار و ۲۵ دلار به ازای هر میلیون توکن…

نگاه اول ما به آدم‌ها اینه که معمولا جایگاه‌ها و موضوعات شغل‌هاشون رو با خودشون حمل می‌کنند. آقا پویا رضایی، CTO شرکت دیوار، البته فارغ از ماهیت فنی‌شون، دل‌مشغولی‌های علمی و فکری خودشون رو هم دنبال می‌کنند. کانال و بلاگی دارند که درش اغلب راجع به ریاضی و اینها می‌نویسند و مطالب جالبی منتشر می‌کنند. ایشون رو می‌تونید در کانال زیر دنبال کنید: @FractalNotes

دیروز Grok آپدیت جدید 4.6 رو داده و یک پرش بزرگ نسبت به 4.5 داشته و الان از نظر شاخص‌های هوشمندی بالاتر از Sol 5.6 و پایین تر از Opus 5 قرار می‌گیره. نکته اما اینه که حدود ۶۰ درصد نسبت به این دو تا ارزونتره. اونا اگر ۵ دلار و ۲۵ دلار به ازای هر میلیون توکن ورودی و خروجی هستند اما برای گروک این نرخ به میزان ۲ دلار و ۶ دلار هست. البته همچنان میزان کانتکسی که میتونه هندل کنه ۵۰۰k هست که نصف sol و opus عه. در این رقابت، گوگل کجاست؟ کسی نمی‌دونه.

ما یک فامیل دوری داریم که بنده چندین سال بود ندیده بودمشون. امشب نذری میخواستن بیارن بدن از همین وسیله بنده دیدمشون. بعد دیدم پسر خانواده بعد از چند سال چه قدر قد کشیده و ریش و سبیل به هم زده. یاد یک خاطره ای از قدیم افتادم.‌ شاید ۱۰-۱۵ سال پیش اینها به همراه یکی دیگر از آشنایان اومده بودند افطاری خونه ما. بعد از افطار، این پسره و یک پسر از اون آشنا و داداش ما می‌رفتند جنگ کرم‌ها بازی میکردند. بنده هم میرفتم می‌خوابیدم. یک زمان اومدم بیرون دیدم وضعیت بازیشون این شکلیه که داداش ما اکثر کرم‌هاش رو از دست داده و یکی دو تا براش مونده در عین حال اما اون دو نفر اوضاعشون خوب بود.‌ مشخص بود که برادر ما نهایتا می‌تونه دو یا سه دور رو دوام بیاره ولی قطعا بعدش بی برو برگرد می‌بازه. دیدم داره بی هدف نشون میگیره بهش گفتم دست نگه دار. اون موقع هم تازه با ژوگه لیانگ آشنا شده بودم فاز استراتژی چیدن و اینها داشتم. رو کردم به اون دو نفر بیانیه صادر کردم که ما تصمیم داریم به هیچ کدوم از شما در نوبت‌های خودمون شلیک نکنیم. منتها اگر هر کدومتون به ما شلیک کنه ما اون رو به سختی پاسخ می‌دیم بهش. ما میدونیم که این بازی رو میبازیم ولی هر کدوم شما که بخواد با ما درگیر بشه با تلفات نیروهاش اون وقت قطعا بعد از نابودی ما، در جلوی فرد باقی مونده خواهد باخت. ما این کار رو کردیم و اون دو نفر هم واقعا با ما وارد درگیری نشدند و نهایتا بعد از این که خودشون رو محکم زدند ما وارد شدیم و خیلی میلیمتری بازی رو بردیم. از کل مهمونی های ماه رمضون اون سالها فقط همچین سکانس عجیبی در ذهنم مانده!

یک مسأله منطقی ولی نابدیهی اینه که نمره ۴.۷ اسنپ فود دو رستوران تو بالاشهر و پایین شهر احتمالا نباید معنی مشابه بودن اون دو رستوران رو بدن

درباره دزدیدن Reasoning Trace بسیاری از مدل‌های زبانی پرچمدار فعلی این شکلی کار می‌کنند که شما وقتی بهشون متن ورودی رو می‌دید، اول متن دنباله استدلال یا Reasoning Trace رو تولید می‌کنند و بعد به تولید کردن راه حل نهایی و جواب پایانی می‌پردازند. این Reasoning Trace رو اما بسیاری از پروایدرها برای مدل‌هاشون به خاطر اهمیتی که اون ریزنینگ تریس داره به شما نشون نمی‌دن.شما مثلا وقتی در سایت خود GPT یا Gemini با LLM صحبت می‌کنید، صرفا یک خلاصه‌ای از اون ریزنینگ تریس به شما نشون داده می‌شه و شما نمی‌تونید بفهمید دقیقا مدل چه چیزی تولید کرده. اما وقتی از طریق API Call با مدل‌ها صحبت می‌کنیم چی؟ نکته جالبی که هست اینه که شما وقتی با api به یک مدل ریکوئست می‌زنید، علاوه بر جواب نهایی که می‌گیرید، عبارت رمزشده reasoning trace رو هم دریافت می‌کنید، رمزی که شما نمی‌تونید بازش کنید. اما حالا چرا این رو برای شما می‌فرستند؟ چون اگر خواستید دفعه بعدی به مدل پیام بدید این رو در کنار history بفرستید. این حالا شرح مساله بود. همونطور که گفتم شرکت‌ها روی reasoning traceهای مدل‌هاشون حساسند. به سه دلیل احتمالی. اولا این که شما اگر بتونید reasoning trace رو دستکاری کنید و بفرستید می‌تونید رفتار مدل رو دستکاری کنید. دوما، خیلی وقتا مدل secretهای حساسی رو تو reasoning trace قرار می‌ده که کاربر نباید ببینه و سوما این که بخشی از قدرت مدل‌های زبانی وابسته به کیفیت reasoning traceهاشون هست. اگر کسی بتونه reasoning traceهای اینا رو بدزده می‌تونه با فاین تیون کردن مدل خودش، قدرت خودش رو افزایش بده. حالا چند ماه قبل یک آقایی اومد یک سری آزمایش جالب رو همین قضیه ریزنینگ تریس‌های رمزشده انجام داد که می‌تونید اینجا ببینید. دو تا چیز جالبی که نشون داد یکی این بود که شما میتونید ریزنینگ تریس رمزشده یک سشن رو بیاید جای ریزنینگ تریس رمزشده یک سشن دیگه بفرستید و مدل هم عادی برخورد می‌کنه، به این معنا که احتمالا همه اینا با یک کلید دارند رمز می‌شن. نکته دوم هم این که نشون داد که میشه با بازپرسی از مدل و حملات زمانی، مقداری از اطلاعات درون ریزنینگ تریس رو دزدید. مثلا اگر بهش بگید که اگر بیت سکرتت صفره بیا این پردازش رو انجام بده اگر یکه برو فلان کار کوتاه تر رو بکن. چند روز گذشته اما یک مقاله جالبی به نام How to Steal Reasoning Without Reasoning Traces ترند شد. این مقاله ستینگش رو اینجوری طراحی کرده. فرض ما یک مدل قربانی به نام V داریم که خیلی کیفیتش خوبه ولی ریزنینگ تریس‌هاش رو بر ما پنهان کرده. از طرفی یک مدل S ای هم داریم که ضعیف تر از V هست ولی اوپن سورسه و می‌تونیم فاین تیونش کنیم تا ریزنینگ تریس‌هاش بهتر بشه. آیا راهی دارم که بتونم یک جوری ریزنینگ تریس‌های V رو بدزدم؟‌ برای این مساله اومده یک راه حلی پیشنهاد داده که در اون دو تا مدل کمکی دیگه به نامهای 'V و I رو هم اضافه کرده. مدل 'V باید این جوری باشه که بشه ریزنینگ تریس‌هاش رو دید و I هم باید اینجوری باشه که بشه فاین تیونش کرد. مراحل راه حل هم این طوریه که اول یک دیتاست ریزنینگی در نظر می‌گیریم بعد می‌دیمش به 'V و یک تعداد ورودی و خروجی و ریزنینگ تریس به دست میاد. در مرحله بعدی مدل I رو این داده‌ها آموزش می‌دیم به طوری که با ورودی گرفتن ورودی و خروجی بتونه ریزنینگ تریس رو تولید کنه. در مرحله بعدی حالا همین دیتاست رو میدیم به V و ازش خروجی‌ها رو می‌گیریم و بعد حالا این ورودی و خروجی‌های V رو می‌دیم به I و ازش ریزنینگ تریس می‌گیریم و بعد حالا این ورودی‌ها رو می‌دیم به S و طوری آموزشش می‌دیم که ریزنینگ تریس و خروجی‌ها رو تولید کنه. در نهایت مقاله در آزمایشاتش نشون داده که هم عملکرد مدل S بهتر می‌شه و هم این که ریزنینگ تریس‌های اصلی با اورلپ خوبی بازیابی می‌شن و این کار از نظر اقتصادی می‌تونه برای شرکت‌های کوچکتر بصرفه. لینک مقاله: https://arxiv.org/pdf/2603.07267

انگشت‌نگاری از توکن‌ها: واترمارک‌کردن توسط Claude آقای Claude اعلام کرده از این پس متن‌هایی که تولید می‌کنه رو واترمارک (یعنی نشانه) روشون می‌ذاره تا بعدا بتونه بفهمه هر متنی رو هوش مصنوعی تولید کرده یا انسان. اما دو سوال که به ذهن میاد اینه که خب چرا و چطور؟ در مورد چرایی دو دلیل هست:‌ اولا اتحادیه اروپا قانون گذاشته که تمامی سازندگان مدل‌های مولد باید خروجی‌های مدل‌هاشون رو جوری علامت گذاری کنند که مشخص باشه این محتوا توسط هوش مصنوعی تولید شده. از جنبه قانونیش مهمتر اما اینه که الان که حجم داده‌های تولید شده توسط AI زیاد شده شرکت‌های توسعه دهنده AI نیاز دارند وقتی برای آموزش مدل‌هاشون دنبال دیتا می‌گردند تشخیص بدن این دیتا توسط آدم تولید شده یا هوش مصنوعی. از این رو اگر واترمارکی داشته باشند که بتونه بهشون بگه این متن رو هوش مصنوعی تولید کرده می‌تونن راحت‌تر فیتلرش کنند. اما چطور میخوان واترمارک بگذارند؟ خب اگر جنس داده خروجی ما تصویر بود می‌تونستیم یک جوری در پیکسل‌ها جوری مقداردهی داشته باشیم بدون این که به چشم انسان بیاد برای مدل معنادار باشه اما متن رو اصلا آیا میشه واترمارک روش گذاشت؟ جواب بله است. دقیقا حالا مشخص نیست کلاد چطوری نشانه گذاری کنه ولی بیاید یک نمونه پیشنهادی رو با هم ببینیم. خب LLMها اینجوری اند که توکن به توکن کلمه تولید می‌کنن. حالا یک الگوریتم پیشنهادی می‌تونه این طوری باشه که وقتی می‌خواد توکن بعدی رو تولید کنه بیاد یک Hash ای تابع کلمات تولید شده قبلی بسازه. حالا بر حسب این Hash بیاد کلمات بعدی رو به دو دسته لیست سبز و لیست قرمز تولید کنه. حالا میاد امتیاز کلمات سبز رو برای انتخاب بیشتر می‌کنه و امتیاز کلمات لیست قرمز رو هم برای انتخاب کمتر می‌کنه. سوال چرا کلمات قرمز رو کلا حذف نمی‌کنه؟ پاسخ این که چون ممکنه کلمه بعدی یک فکت باشه مثلا جمله دو به علاوه دو می‌شه "چهار" اگر چهار تو قرمز قرار بگیره خیلی ضایع می‌شه. بنابراین صرفا امتیازات کلمات تغییر پیدا میکنه حالا اگر چهار امتیازش خیلی بالا باشه مقداری کم میشه ولی همچنان به احتمالا بالایی انتخاب میشه. حالا وقتی مثلا یک متن صد کلمه ای تولید کرد وقتی اون طرف الگوریتم میخواد چک کنه آیا این توسط آدم تولید شده یا هوشواره نگاه میکنه اگر لایکلیهودش بر حسب لیست سبز بیشتر از مثلا ۹۰ درصد بود تشخیص میده AI تولید کرده وگرنه آدمه. لینک: https://support.claude.com/en/articles/16266773-how-claude-marks-ai-generated-content

دل کیست که گویم از برای غم توست یا آنکه حریم تن سرای غم توست لطفیست که میکند غمت با دل من ورنه دل تنگ من چه جای غم توست منسوب به ابوسعید ابوالخیر

دل کیست که گویم از برای غم توست یا آنکه حریم تن سرای غم توست لطفیست که میکند غمت با دل من ورنه دل تنگ من چه جای غم توست منسوب به ابوسعید ابوالخیر

چند ساعت پیش نشسته بودم پشت میز، دیدم صادق دال (که مهندس نرم افزار خوبیه) در طبقه در حال راه رفتنه. صداش زدم گفتم صادق این اواخر چه یاد گرفتی، گفت openlineage گفتم چه هست؟ توضیح داد که در شرکت‌های بزرگ وقتی که تعداد دیتاسورس‌ها و حجم‌دیتاها از یک ور و تعداد جاب‌ها از یک ور دیگه زیاده، مشکلی که زیاد پیش میاد اینه که نمی‌فهمی که کدوم دیتاهای تو دارند استفاده می‌شن و اگر می‌شن کجا استفاده میشن و چه جوریه. openlineage مثل یک کانکتور میاد روی دیتاسورس‌ها و جاب‌های تو (از ایرفلو گرفته تا اسپارک و فلینک و ...) می‌شینه و موقع اجرا ثبت و گزارش می‌کنه که هر job ات داره از چه دیتاهایی استفاده می‌کنه و هر دیتایی‌ات در چه jobهایی به کار هست و می‌تونی اینجوری بفهمی کدوم دیتاهات به درد نمیخورن و یا دستکاری یک دیتات کجاها رو می‌تونه تحت تاثیر قرار بده. openlineage حالا امکانات بیشتری هم داره و میتونه حتی در سطح columnهای دیتاهات هم همین گراف وابستگی درآوردن رو انجام بده و کمک بکنه بفهمی یک ستون‌ات کجاها استفاده می‌شه و کدوم ستون‌هات بلااستفاده اند. لینک: openlineage.io پی‌نوشت: صادق دال رو می‌تونید در این کانالش دنبالش کنید.

فارغ مرا ز رهگذر صبح و شام کن کار مرا به گردش چشمی تمام کن

خداحافظی با جف دین مهمترین خبر دیروز عالم نرم‌افزار، خداحافظ jeff dean بعد از ۲۷ سال از گوگل بود. برای کسایی که jeff dean رو نمی‌شناسند باید بگم که جف احتمالا تاثیرگذارتین مهندس زیرساخت در تاریخ محاسبات در مقیاس اینترنتی هستش و جزو خدایگان تاریخ مهندسی نرم…

وای بر خضر که زندانی عمر ابدست شبنم غنچۀ بیداردلان چشم بدست صیقل سینۀ روشن‌گهران دست ردست خودنمایی چه بلاهای نمایان دارد ایمن از زنگ بود آینه تا در نمدست به دل پاک نظر کن نه به دستار سفید سطحیان را نظر از بحر گهر بر زبدست پیش ازین خانۀ صیاد ز خاروخس بود این زمان خرقۀ پشمین و کلاه نمدست در دل هرکه حسد نیست غم دوزخ نیست تخم آن آتش جان‌سوز شرار حسدست ما ازین هستی ده‌روزه به جان آمده‌ایم وای بر خضر که زندانی عمر ابدست مرگ را بی‌خبران دور ز خود می‌دانند چار دیوار جسد در نظر من لحدست نیست در عالم ایجاد به جز تیغ زبان بی‌گناهی که سزاوار به حبس ابدست نیست در چشمۀ خورشید غباری صائب چشم کوته‌نظران پرده‌نشین رمدست

نشئه از AI، خمار از آینده؛ گزارش یک روز mcp‌زدگی در شرکت امروز بعد از چند روز مرخصی به تیم برگشتم. چیزی که نظرم رو جلب کرد این بود که نسبت به آخرین دفعه‌ای که دیده بودمشون انگار خیلی در استفاده از AI شوخ و شنگولتر به نظر می‌رسیدن، گویی چیزی مصرف کردند. وسط‌های روز وسط تسکم داشتم گیر می‌کردم، رفتم با ملماسی صحبت کنم. در واقع یاد حرف موروثی افتادم که موقع جذب ملماس گفته بود از محاسن بارز ملماس اینه که AI رو خوب به بردگی می‌کشه و می‌تونیم ازش یاد بگیریم. من هم برای همین پیش ملماس رفتم و چند دقیقه ازش پرسیدم چه طوری با AI کار می‌کنه. یک چند تا چیز گفت و برام تازگی داشت و نهایتا گفت که mcp فلان چیز هم هست، من تستش نگرفتم ولی میگن کار نمی کنه. من هم رفتم نشستم پشت کارم.اول کلا تسک اصلی را دایوررت کردم و افتادم به بازی کردن با فرمول ملماس تا دستم بیاید کجای کاریم. بعد هم صرفا برای روکم‌کنی رفتم سراغ همان MCP کذایی که ملماس میگفت کار نمی‌کنه و در کمال تعجب بالا آمد! بعدش شروع کردم تسکم رو توضیح دادن و عالی شد. مقدار خوبی دلار خرج شد اما کاری که فکر نمی‌کردم به این راحتی بتونم انجام بدم رو امروز خیلی سریع با کمک AI و MCPها انجام دادم بدون این که یک خط کد خودم بنویسم. آخر سر هم به خود AI گفتم که تسکم رو تبدیل به یک skill کنه. آخر روز هم یک incident روی سرویسی که اصلا روش آنبورد نبودم پیش اومد، اول دست و پام رو گم کردم فکر کردم نمی‌تونم حلش کنم؛ ولی اون رو هم باز با AI و MCP درش آوردیم. آخر روز دیگه یک حس شیدایی و ولع مسخ‌کننده‌ای نسبت به skill و mcp و ... داشتم. با این وجود اما ته دلم صدای قار قار کلاغ‌ها میومد. می‌دونستم که اوضاع خیلی خرابه. ما دیگه عملا تخصصی نداریم، و داریم به استقبال بی‌کار شدن می‌ریم.

امروز شروع به خوندن این کتاب کردم و اندکی حالم گرفته شد. در واقع بیشتر ترسیدم.