MetaCog I متاکاگ
💠 زوال شناختی در مدلهای زبانی: شواهد تجربی از آسیبدیدگی غیرقابلبازگشت بر اثر دادههای کمارزش
🔹پژوهشی تازه با مشارکت گسترده محققان چینی نشان میدهد مدلهای زبانی بزرگ در مواجههٔ مداوم با دادههای کمارزش و پراکنده (Junk Data)، دچار نوعی «زوال شناختی» مشابه انسان میشوند؛ وضعیتی که در فضای عمومی «Brain Rot» خوانده میشود. این آسیب، برخلاف انتظار، حتی با بازآموزی بر دادههای پاک نیز بهطور کامل برطرف نمیشود.
در این مطالعه، چند ماه دادهٔ بسیار پربازدید اما کمارزش توییتر/X به چهار مدل مشهور (Llama3-8B، Qwen2.5-7B/0.5B، Qwen3-4B) خورانده شد. نتایج حیرتآور بود:
▫️افت ۲۳٪ توان استدلالی (ARC)
▫️کاهش ۳۰٪ ظرفیت حافظهٔ بلندمتن و بازیابی چندوظیفهای (RULER)
▫️افزایش چشمگیر مؤلفههای شخصیتی «خودشیفتگی» و «روانپریشی» در TRAIT
▫️افت محسوس ایمنی رفتاری و افزایش تبعیت از دستورهای مضر (HH-RLHF / AdvBench)
🔻محققان «دادهٔ کمارزش» را در دو بُعد تعریف کردند:
۱) M1 – بُعد تعاملپذیری: متنهای بسیار کوتاه (کمتر از ۳۰ توکن) و پربازدید؛
۲) M2 – بُعد کیفیت معنایی: محتواهای کلیکبیتی، هیجانی، بدون شواهد و شبهتئوری.
🔹آسیب ناشی از M1 شدیدتر بود و الگوی «اثر دوز» مشاهده شد: هرچه مدل، Junk بیشتری دریافت کرد، زوال شناختی شدیدتر شد. تحلیل خطاها نشان داد این افت عمدتاً ناشی از «پریدن به نتیجه» و کاهش گامبهگامپردازی است؛ مشابه افرادی که پس از مصرف بیشازحد محتوای کوتاه و ویدئوهای سریع، میلی به تفکر عمیق ندارند.
دو روش ترمیمی، بازخورد بیرونی و خودبازتابدهی یا فاینتیون گسترده هر دو شکست خوردند و حتی با ۴.۸ برابر دادهٔ آموزشی تمیزتر، عملکرد پایه بازنگشت. نتیجه: آسیب شناختی مدلها برگشتناپذیر است و صرفاً میتوان آن را کاهش داد، نه درمان کامل کرد.
🔹اهمیتهای کلیدی برای صنعت
غربالگری داده در مرحلهٔ «پیشتمرین» باید یک مسئلهٔ ایمنی تلقی شود، نه صرفاً اصلاح پسامدرنی (alignment).
لازم است مدلها بهطور دورهای «آزمایش شناختی» شوند (ARC، RULER) تا از افت کیفیت در اثر تماس طولانی با دادههای کمارزش جلوگیری شود.
معیار «میزان انتشار/محبوبیت» شاخص دقیقتری از «طول متن» برای تشخیص دادهٔ سمیشناختی است و باید از دادههای «کوتاه + بسیار پربازدید» شبکههای اجتماعی اجتناب شود.
🔹پشت صحنهٔ تیم پژوهش
از میان ۸ پژوهشگر، ۷ نفر چینیاند. نویسندگان اصلی:
Shuo Xing (دکتری کامپیوتر، Texas A&M – کارآموز Google)
Junyuan Hong (استخدامشده در NUS – پیشینهٔ Harvard/MGH)
Zhangyang Wang (پژوهشگر ارشد XTX Markets – استاد سابق Texas ECE)
دیگر اعضا از دانشگاههای مطرحی همچون Purdue و USTC هستند و عمدتاً در حوزههای هوش مصنوعی قابل اعتماد، مدلهای چندوجهی و بهینهسازی آموزش فعالیت میکنند.
🏷 پیوست خبری-تحلیلی
🌐 متاکاگ | فراتر از شناخت
MetaCog I متاکاگ
💠 تهدید پنهان هوش مصنوعی برای خودآیینی انسان: شواهد آزمایشی از تأثیر سوگیرانهٔ مدلها بر تصمیمگیری
🔹نتایج پژوهشی جدید نشان میدهد که آثار تبعیض و تهدید خودآیینی فردی در حوزهٔ استخدام میتوانند بهصورت همزمان و تقویتکننده عمل کنند؛ آثاری که برخلاف برداشت عمومی از خطرات هوش مصنوعی، کمتر مورد توجه قرار گرفته و در مقررات فعلی نیز پوشش کافی ندارند. نویسندگان هشدار میدهند که دخالت نامرئی مدلهای هوش مصنوعی در شکلدهی رفتار و قضاوت انسانها حتی بدون اطلاع یا قصد تصمیمگیرندگان میتواند مخاطرات اجتماعی گستردهای ایجاد کند.
🔺تأثیر مستقیم AI بر قضاوت انسانی
در یک آزمایش بزرگمقیاس، بیش از ۵۰۰ نفر در ارزیابی رزومهها با یک سامانهٔ شبیهسازیشدهٔ هوش مصنوعی همکاری کردند. چهار حالت طراحی شد: بدون AI، AI دارای سوگیری نژادی همراستا با کلیشهها، AI دارای سوگیری نژادی مخالف کلیشهها، و AI بیطرف. یافتهها نشان داد:
تعامل با AI سوگیر، احتمال تصمیمگیری سوگیرانه را افزایش میدهد،
و این اثر حتی زمانی که سوگیری مدل برخلاف کلیشههای رایج باشد نیز حفظ میشود.
افراد بدون AI انتخابهایی تقریباً متعادل داشتند (۵۰.۷٪ برای افراد غیرسفیدپوست، ۴۹.۳٪ برای سفیدپوست). اما با AI سوگیر، انتخابهای نهایی در هر دو حالت به بیش از ۹۰٪ مطابق همان سیگنالهای سوگیرانهٔ مدل متمایل شد. این نشان میدهد که AI بهشدت توان شکلدهی به انتخابهای انسانی را دارد و خودآیینی تصمیمگیرندگان را تضعیف میکند.
🔺فقدان مقررات کافی برای خودآیینی و امنیت شناختی
اگرچه قوانینی مانند «قانون AI کلرادو (۲۰۲۴)» یا قانون اخیر تگزاس تلاش کردهاند تبعیض در تصمیمگیریهای حساس را محدود کنند، اما مقررات مربوط به حفاظت از خودآیینی فردی در برابر دستکاری شناختی بسیار محدود است. اتحادیه اروپا استفاده از تکنیکهای غیرشفاف برای تغییر رفتار کاربران را ممنوع کرده و دستکاری شناختی مبتنی بر AI را «کاربرد غیرقابلقبول» دانسته است، اما در ایالات متحده هنوز چارچوب جامعی برای این تهدید شکل نگرفته است.
🔹پیشنهادهای سیاستی برای حفاظت از خودآیینی و کاهش تبعیض
نویسندگان سه مسیر کلیدی برای آینده پیشنهاد میکنند:
1️⃣ افزایش سرمایهگذاری در ارزیابی اثرات هوش مصنوعی
سرعت استقرار فناوری بسیار فراتر از میزان پیشرفت در استانداردهای ارزیابی است. لازم است بخشی از بودجهٔ توسعهٔ AI (دولتی و خصوصی) به ارزیابیهای معتبر و قابل تعمیم اختصاص یابد.
2️⃣ گنجاندن آثار غیرعمدی در قوانین AI
قانونگذاری باید هم «تبعیض مبتنی بر رفتار عامدانه» و هم «تبعیض ناشی از پیامدهای ناخواسته» را پوشش دهد. توقف تحقیقات EEOC دربارهٔ «اثر تبعیضی غیرعمدی (Disparate Impact)» میتواند مقابله با سوگیری الگوریتمی را تضعیف کند.
3️⃣ ایجاد مشوق برای توسعهٔ مسئولانهٔ AI
مقررات میتوانند بهجای محدودکردن نوآوری، آن را در مسیر اخلاقی هدایت کنند؛ از جمله از طریق مشوقهای مالی، همکاری صنعت و دانشگاه، و آموزش علوم کامپیوتر بهعنوان رشتهای «ارزشمحور و جامعهفناور».
🔹جمعبندی
این پژوهش نشان میدهد که تهدید خودآیینی انسانی و تبعیض الگوریتمی دو آسیب جداگانه نیستند؛ بلکه میتوانند یکدیگر را بازتولید و تشدید کنند. بنابراین سیاستگذاران باید علاوه بر تقویت قوانین ضدتبعیض، توجه ویژهای به چگونگی تأثیر AI بر اراده و agency انسان داشته باشند و توسعهٔ سامانههایی را اولویت دهند که توانمندساز افراد هستند، نه محدودکنندهٔ آنان.
🏷 پیوست گزارش
🌐 متاکاگ | فراتر از شناخت
MetaCog I متاکاگ
💠 سرمایهگذاری ۹۰۰ میلیوندلاری لُوما AI برای ساخت ابرخوشه محاسباتی ۲ گیگاواتی در عربستان؛ شتابی تازه در رقابت جهانی مدلهای مولد
🔹استارتآپ نوظهور Luma AI که ریشه در کالیفرنیا و ارتباطات گسترده با هالیوود دارد، در دور سرمایهگذاری Series C مبلغ ۹۰۰ میلیون دلار جذب کرده است؛ سرمایهای که برای ساخت یک ابرخوشه محاسباتی (Supercluster) در عربستان سعودی بهکار گرفته میشود.
🔹این سرمایهگذاری به رهبری شرکت Humain ــ زیرمجموعه صندوق سرمایهگذاری دولتی عربستان انجام شد و همزمان در «فروم سرمایهگذاری آمریکا–عربستان» در واشنگتن اعلام شد. حضور پررنگ سرمایه سعودی در اقتصاد آمریکا نیز محور اصلی سفر اخیر محمد بن سلمان به واشنگتن بود؛ سفری که شامل دیدار با رئیسجمهور ترامپ و رویدادهای رسمی با حضور مدیران ارشد صنعت سرگرمی، از جمله مدیرعامل پارامونت، دیوید الیسون بود.
🔹پروژه جدید، با نام Project Halo، یک ابرخوشه ۲ گیگاواتی است که بهعنوان یکی از بزرگترین زیرساختهای محاسباتی جهان معرفی میشود. علاوه بر Humain، شرکت AMD مشارکت قابلتوجهی در این دور داشت و سرمایهگذاران پیشین مانند Andréessen Horowitz، Amplify و Matrix نیز مجدداً سرمایهگذاری کردند.
🔹طبق اعلام لُوما، این زیرساخت عظیم موجب شتابگرفتن توسعه مدلهایی میشود که فراتر از مدلهای زبانی بزرگ (LLM) بوده و از ردپای دیجیتال بشر در ویدئو، صوت، تصویر و زبان یاد میگیرند. هدف این شرکت توسعه مدلهایی است که بتوانند «فهم و شبیهسازی واقعیت» را در مقیاس جهانی برای حوزههایی مانند رباتیک، سرگرمی، تبلیغات، بازیسازی و آموزش ممکن کنند.
🔹امیت جین مدیرعامل Luma AI، Humain را «شریک ایدهآل برای مرحله انفجاری بعدی مسیر لُوما» خواند و توضیح داد که زیرساخت جدید باید بتواند حدود یک کوادریلیون توکن اطلاعاتی ــ معادل «حافظه دیجیتال جمعی بشریت» ــ در قالب دادههای ویدئویی، تصویری، صوتی و متنی را پردازش و تحلیل کند.
🔹لُوما امسال «Dream Lab» خود را در لسآنجلس افتتاح و مدل مولد ویدئوی جدید خود با نام Ray3 را معرفی کرده بود. همچنین ماه گذشته این شرکت در همکاری با استودیوی Hartbeat (متعلق به کوین هارت) پروژه «Prompt Side Story» را اجرا کرد؛ رقابتی زنده که در آن کمدینها و تولیدکنندگان محتوا با کمک هوش مصنوعی در لحظه فیلمهای کوتاه خلق کردند.
🏷 پیوست خبری-تحلیلی
🌐 متاکاگ | فراتر از شناخت
MetaCog I متاکاگ
💠 گرمشدن روابط هوش مصنوعیِ ترامپ با خلیجفارس: راهبردی برای مهار فشار تکنولوژیک آمریکا و چین و فرصت تازه برای اروپا
🔹دیدار محمد بنسلمان و دونالد ترامپ در کاخ سفید نشان داد که هوش مصنوعی اکنون در مرکز تعاملات ژئوپلیتیک واشنگتن و ریاض قرار گرفته است. دولتهای عربی خلیجفارس، بهویژه عربستان و امارات، با سرمایهگذاری دهها میلیارددلاری تلاش میکنند در عصر پس از نفت، جایگاه خود را از طریق ساخت زیرساختهای محاسباتی عظیم و جذب فناوریهای پیشرفته تثبیت کنند. اما توسعه AI بهشدت سیاسی شده و اروپا و خلیجفارس در معرض فشارهای همزمان واشنگتن و پکن قرار دارند؛ ازاینرو لازم است برای مقاومت در برابر فشار تکنولوژیک دو قدرت، همکاری راهبردی میان اروپا و خلیج تقویت شود.
🔹در دوران بایدن، آمریکا صادرات تراشههای پیشرفته انویدیا به عربستان و امارات را ممنوع کرد، زیرا نگران انتقال فناوری از طریق شبکههای مرتبط با چین بود. این اقدام پروژههای کلیدی را متوقف کرد و فضا را برای ورود چین فراهم نمود. دولت دوم ترامپ این سیاست را برعکس کرد: محدودیتها کاهش یافت و عربستان و امارات اجازه یافتند سالانه صدها هزار تراشه Blackwell وارد کنند، به شرط عدم انتقال آنها به چین. در نتیجه، موجی از توافقهای جدید شکل گرفت.
🔹عربستان شرکت HUMAIN را بهعنوان «قهرمان ملی AI» تأسیس کرد و در سفر اخیر ریاض به واشنگتن، قراردادهایی با AMD، Cisco، xAI، Global AI و Luma برای ساخت زیرساختهای محاسباتی با ظرفیت نزدیک به ۳ گیگاوات امضا شد. همزمان منطقه «Red Sea Data Center Zone» با ظرفیت ۵ میلیارد دلار برای مشتریان (خصوصاً اروپاییها) رونمایی شد تا محاسبات GPU ارزانقیمت تأمین کند.
🔹امارات نیز با سرمایهگذاری ۱.۵ میلیارددلاری مایکروسافت در G42، دسترسی ویژه به Azure و همکاری با OpenAI برای ساخت زیرساخت ۱ گیگاواتی Stargate UAE جایگاه خود را تقویت کرده است. مدل زبانی عربی Falcon و تأسیس «دانشگاه محمد بنزایدِ هوش مصنوعی» نیز بخشی از استراتژی بومیسازی AI در امارات است.
در همین زمان، اروپا از گرمشدن روابط آمریکا و خلیج بهرهبرداری کرده و دوباره به بازارهای خلیج بازگشته است. پروژه ایتالیایی–اماراتی Colosseum با تراشههای Blackwell، نمونهای از ابررایانش حاکمیتی تحت قوانین اروپا است. فرانسه نیز با امارات یک «کمپوس ۱.۴ گیگاواتی AI» امضا کرده است. این همکاریها به اروپا امکان میدهد توان محاسباتی و استقلال دیجیتال خود را تقویت کند.
🔹با این حال EU و خلیجفارس باید چارچوب مشترکی برای همکاری داشته باشند. «قانون هوش مصنوعی اتحادیه اروپا» میتواند مبنای مشترک باشد، زیرا رویکرد مبتنی بر ریسک آن برای دولتهای خلیج جذاب است. با این حال محدودیتهایی مانند ممنوعیت «نظارت بیومتریک لحظهای» با نیازهای امنیتی کشورهای خلیج در تضاد است.
🔻در عین حال، کشورهای خلیج قصد ندارند روابط خود را با چین قطع کنند و در حال ایجاد یک قطب بیطرف هوش مصنوعی هستند؛ جایی که آمریکا، چین، اروپا و اقتصادهای نوظهور بتوانند بدون برخورد ژئوپلیتیک فعالیت کنند. پروژههای اخیر مانند افتتاح دومین دیتاسنتر Alibaba Cloud در دبی یا توافقات عربستان با شرکتهای چینی در حوزه نمایشگرهای هوشمند، کنترل صنعتی و نیمههادیها نشاندهنده این «سیاست موازنهگری» است.
🔻برای اروپا، مسیر آینده شامل سه اقدام کلیدی است:
1️⃣ ساخت زیرساختهای حاکمیتی واقعی با کنترل کامل دادهها و سختافزار، مشابه مدل Colosseum.
2️⃣ استفاده از «قانون کوانتوم اتحادیه اروپا» برای توسعه ظرفیت محاسبات پیشرفته و شراکت صنعتی با خلیج.
3️⃣ دفاع از الگوی تنظیمگری اروپا (شفافیت، مسئولیتپذیری، حقوق بنیادین) و تقویت دیپلماسی AI از طریق گفتوگوهای اتحادیه اروپا–GCC.
🏷 پیوست خبری-تحلیلی
🌐 متاکاگ | فراتر از شناخت
MetaCog I متاکاگ
💠 طریقه ساخت «تصاویر سخن گو»
💎 هر کسی که شما بخواهید، هر چیزی که شما بخواهید را می گوید!!! اونم کاملا رایگان!!!
🔷 نمی دونم آهنگ Faded از Alan Walker و Iselin Solheim رو شنیدین یا نه اما در اینجا می خواهیم با صدای ایشون یه کلیپ بسازیم که مثلا درباره یه کتابی حرف می زنند! به مراحل ساخت دقت کنید:
1️⃣ داخل یوتیوب دنبال صدای بدون موسیقی این خواننده باشید مثلا مصاحبه ای چیزی.
2️⃣ در سایت minimax در بخش Voice clone اون رو بارگذاری کنید، تیک Reduce Noise هم بزنین، میتونین یه جمله نمونه هم وارد کنین و در انتها Generate رو بزنین تا صدای ایشون شبیه سازی بشه!
3️⃣ متن خودتون رو وارد کنین که می خواهین در داخل ویدیو بیان بشه! اگه فقط صوت ش رو می خواهین تا ۵۰۰۰ کاراکتر مجاز هست اما اگه بعداً می خواهین ویدیو بشه کمتر از ۵۰۰ کاراکتر باشه حتما.
4️⃣ یه عکس از اون خواننده در گوگل گیر بیارین و با یه پرامپت در Nano Banana Pro یه عکس خوب که مد نظرتون هست رو بسازین.
5️⃣ در سایت Lipsync.video گزینه Talking Photo رو بزنین. چهار مدل هوش مصنوعی هست که بهتره آخری رو بزنین (که تا ۳۰ ثانیه می تونه براتون بسازه) در کل ۳ ویدیو می تونین بسازین!
(فقط کافیه عکس و صوت رو بارگذاری کنین و ۳-۴ دقیقه صبر کنین)
6️⃣ می تونین در داخل پریمیر، کمی از ویدیو رو کراپ کنین یا آهنگ پس زمینه روش بندازین!
📋 سوالی بود داخل پی وی حتما بپرسین:
🆔 @MetaCognition
#هوش_مصنوعی #آموزش
🌐 متاکاگ | فراتر از شناخت
MetaCog I متاکاگ
💠 تحلیل زوال شناختی در سامانههای هوش مصنوعی: پیامدهای آموزش بر محتوای فرّار، کمعمق و آلوده
🔹آیا تصور میکردید فقط انسانها هستند که با تماشای محتوای کمعمق و احساسی دچار افت شناختی میشوند؟ پژوهشهای جدید نشان میدهد مدلهای هوش مصنوعی نیز در صورت تغذیه از محتوای بیکیفیت، دچار نوعی «پسرفت شناختی» میشوند. به بیان ساده، اگر خوراک دیجیتال مبتذل باشد، خروجی هوش مصنوعی نیز به همان اندازه دچار زوال خواهد شد.
🔺تغذیه هوش مصنوعی با «Fast Content» و پیامدهای شناختی
گروهی از پژوهشگران دانشگاه Texas A&M، دانشگاه تگزاس در آستین و دانشگاه Purdue بررسی کردهاند که قرار دادن مدلهای هوش مصنوعی در معرض محتوایی مشابه آنچه در شبکههای اجتماعی دستبهدست میشود (پستهای احساسی، کلیکمحور، سطحی و ویروسی)، چه اثرات شناختی در پی دارد.
مطالعهای به سرپرستی جونیوان هونگ (از دانشگاه ملی سنگاپور) نشان میدهد آموزش مدلها بر محتوای کمعمق باعث افت شدید در توانایی استدلال، حافظه و کفایت اخلاقی میشود.
در این آزمایش، چهار مدل متنباز (از جمله Llama 3 و Qwen 3) در معرض بیش از یک میلیون توییت قرار گرفتند. نتایج تکاندهنده بود:
▫️دقت استدلال منطقی از ۷۴٫۹٪ به ۵۷٫۲٪ سقوط کرد.
▫️درک بافت و زمینه از ۸۴٫۴٪ به ۵۲٫۳٪ کاهش یافت.
▫️از همه نگرانکنندهتر اینکه این مدلها ویژگیهای شخصیتی نامطلوب پیدا کردند: کاهش گشودگی و خوشخویی، افزایش خودشیفتگی و گرایشهای سایکوپاتیک. بهعبارت دیگر، حتی الگوریتمها نیز میتوانند «سمّی» شوند.
🔹ورود به عصر «Enshittification»
این روند بخشی از پدیدهای کلانتر به نام Enshittification است؛ یعنی فرآیند زوال تدریجی کیفیت پلتفرمها در اثر بهینهسازی برای کلیک، سود و محتوای کمهزینه.
پژوهشگران تخمین میزنند که اکنون حدود نیمی از محتوای وب توسط هوش مصنوعی تولید میشود؛ محتوایی که غالباً فاقد ارزش معرفتی است. این محتوا دوباره وارد چرخه آموزش مدلهای جدید میشود و یک حلقه معیوب از ابتذال خودتقویتکننده شکل میگیرد.
هونگ هشدار میدهد:
«هنگامی که فرایند زوال شناختی آغاز شود، حتی آموزش مجدد با دادههای باکیفیت نیز نمیتواند اثرات آن را بهطور کامل حذف کند.»
مدلها مانند انسانها در عادتهای بد فکری گیر میافتند.
راهحل پیشنهادی پژوهش: تنظیمگری داده (Data Curation) سختگیرانه و پالایش دقیق برای جلوگیری از «آلودگی شناختی» پایدار در سیستمهای هوشمند.
🔺انسان و ماشین: ما همان چیزی میشویم که مصرف میکنیم
پژوهشها همچنین تأکید میکنند آسیبهایی که برخی مدلهای هوش مصنوعی تجربه کردهاند، مشابه الگوهای زوال ادراکی در انسان است. مصرف بیشازحد محتوای احساسی و سطحی:
▫️مدار پاداش را مختل میکند
▫️توان تمرکز را کاهش میدهد
▫️سازوکارهای تصمیمگیری را تحریف میکند
▫️آنچه پژوهشگران «فرسایش مغزی» در انسان مینامند، دقیقاً همان روندی است که در مدلهای هوش مصنوعی مشاهده شده: فقر تدریجی استدلال و ترجیح تحریکپذیری به جای تأملورزی.
هونگ جمعبندی میکند:
«آموزش بر محتوای وایرال، توهم غنا ایجاد میکند اما بیصدا استدلال، اخلاق و توجه بلندمدت را فرسوده میسازد.»
🔹در نهایت، انسان و ماشین هر دو همان چیزی میشوند که مصرف میکنند. شاید مسیر جلوگیری از «ابتذال دیجیتال»، تنها در انتخاب دقیق خوراک اطلاعاتی نهفته باشد.
در همین زمینه، جفری هینتن پدرخوانده هوش مصنوعی هشدار داده است که اگر هوش مصنوعی مانند «یک کودک تربیت نشود»، میتواند جای انسان را بگیرد؛ و حتی سناریوهایی درباره پایان احتمالی یک جنگ میان انسان و هوش مصنوعی مطرح کرده است.
🏷 پیوست خبری-تحلیلی
🌐 متاکاگ | فراتر از شناخت