💠 روسیه چگونه از ChatGPT برای ساخت «شبکه جنگ روانی» استفاده کرد؟ 🔹با استناد به اعلام OpenAI، از شناسایی و مسدودسازی چند حساب ChatGPT خبر می‌دهد که به گفته OpenAI احتمالاً از روسیه منشأ گرفته بودند. این شبکه از AI برای تولید انبوه محتوا، پنهان‌کردن منشأ روسی و ساخت ظاهری از یک جامعه مستقل کارشناسی استفاده می‌کرد. ▫️ اپراتورها به دلیل در دسترس نبودن خدمات OpenAI در روسیه، از VPN برای دسترسی به ChatGPT استفاده کردند و بخش قابل توجهی از محتوای تولیدشده را به زبان انگلیسی منتشر کردند. ▫️ محور اصلی عملیات، وب‌سایتی با نام Burke Institute (IBI) بود؛ مجموعه‌ای که خود را یک «جامعه کارشناسی مستقل» معرفی می‌کرد و ظاهراً هویت اسرائیلی داشت. ▫️ اپراتورها با کمک ChatGPT پست و کامنت تولید کرده و برای تبلیغ محتوای IBI در X، LinkedIn، Facebook و Telegram به کار گرفتند. مدل‌ها همچنین برای حذف نشانه‌هایی که می‌توانست منشأ روسی نویسندگان را آشکار کند، مورد استفاده قرار گرفتند. ▫️ در یکی از بخش‌های شبکه، محتوای آلمانی برای یک کانال تلگرامی تولید می‌شد که به‌طور منظم اوکراین، اتحادیه اروپا و دولت آلمان را هدف انتقاد قرار داده و از بهبود روابط با روسیه حمایت می‌کرد. ▫️ یکی از عوامل عملیات همچنین از ChatGPT برای طراحی لوگوی حدود ۱۲ کانال تلگرامی با مخاطبانی در آلمان، آمریکا، فرانسه، لهستان و ترکیه استفاده کرد. ▫️ IBI در فوریه ۲۰۲۵ ثبت شده بود و خود را یک سازمان مستقل کارشناسی معرفی می‌کرد؛ اما بررسی ۳۶ مقاله منتشرشده بین سپتامبر ۲۰۲۵ تا مه ۲۰۲۶ نشان داد که ۳۴ مقاله از منابع آنلاین دیگر کپی شده بودند. ▫️ این شبکه همچنین «Sovereignty Index» را برای مقایسه کشورها ایجاد کرده بود؛ شاخصی که در روایت آن، روسیه در موقعیت مطلوب قرار می‌گرفت و کشورهایی که حمله روسیه به اوکراین را محکوم کرده بودند، مورد انتقاد قرار می‌گرفتند. ▫️ OpenAI اثر مستقیم این عملیات را نسبتاً محدود ارزیابی کرده است؛ بسیاری از پست‌ها بازدید کمی داشتند و حساب‌های رسمی IBI نیز دنبال‌کنندگان اندکی داشتند. بااین‌حال، برخی کانال‌های تلگرامی این شبکه توانسته بودند ۱۰ تا ۲۰ هزار دنبال‌کننده جذب کنند. ▫️ نکته مهم‌تر اینکه طبق ارزیابی OpenAI، تهدید اصلی نه میزان اثرگذاری فوری، بلکه ساخت زیرساختی آماده برای عملیات تبلیغاتی آینده بود؛ AI تولید محتوا را مقیاس‌پذیرتر، منشأ آن را پنهان‌تر و یک سازمان جعلی را معتبرتر جلوه می‌داد. 🔺 در مدل سنتی، ایجاد یک رسانه یا اندیشکده جعلی، تولید صدها مطلب، مدیریت چندین حساب، طراحی هویت بصری و فعالیت همزمان در چند زبان به نیروی انسانی، زمان و هزینه قابل توجه نیاز داشت. اما اکنون مدل زبانی می‌تواند بخش مهمی از این زنجیره را خودکار و مقیاس‌پذیر کند. اهمیت IBI دقیقاً در همین نقطه است: هدف الزاماً تولید یک محتوای بسیار پربازدید نبوده؛ بلکه ساختن «نشانه‌های اجتماعی اعتبار» بوده است، وب‌سایت، مقاله، متخصص، شاخص، کانال، لوگو و حضور چندسکویی. به عبارت دیگر، AI در این عملیات صرفاً یک مولد متن نیست؛ بلکه به‌عنوان ابزار ساخت یک اکوسیستم روایی مصنوعی به کار گرفته شده است. نکته راهبردی دیگر، فاصله میان «اثرگذاری فعلی» و «ظرفیت آینده» است. حتی اگر بیشتر محتوای تولیدشده مخاطب اندکی داشته باشد، شبکه‌ای متشکل از کانال‌هایی با ده‌ها هزار دنبال‌کننده می‌تواند در زمان یک بحران سیاسی، انتخابات، جنگ یا رویداد ژئوپلیتیکی به‌سرعت فعال شود. 🏷 پیوست خبری-تحلیلی 🌐 متاکاگ | فراتر از شناخت

💠 هوش مصنوعی چگونه ایران را روایت می‌کند؛ «جنگ شناختی» در دل کلمات؟ 🔹پلتفرم HackerNoon در گرارشی، به یک مسئله کمتر دیده‌شده در بازنمایی ایران توسط سامانه‌های هوش مصنوعی می‌پردازد: سوگیری ممکن در ساختار زبانی و نحوه توزیع عاملیت در پاسخ‌های AI. نویسنده، Agustin V. Startari، استدلال می‌کند که یک پاسخ می‌تواند از نظر لحن کاملاً متعادل به نظر برسد، اما در سطح ساختار جمله همچنان تصویری نامتوازن از یک مناقشه ارائه دهد. ▫️ در الگوی مورد اشاره مقاله، ایران غالباً با افعال فعال توصیف می‌شود: «تهدید می‌کند»، «تشدید می‌کند»، «حمایت می‌کند»، «بی‌ثبات می‌کند» و «پیش می‌رود»؛ در مقابل، تحریم‌ها ممکن است به‌صورت یک وضعیت خنثی نمایش داده شوند: «تحریم‌ها برقرار هستند»، «فشار اقتصادی افزایش یافته» یا «دسترسی دشوار شده است». ▫️ مقاله این تفاوت را «گرامر تهدید» می‌نامد؛ یعنی الگویی که در آن ایران به‌عنوان منشأ خطر، بازیگران خارجی به‌عنوان مدیریت‌کنندگان خطر و شهروندان ایرانی به‌عنوان هزینه جانبی بحران امنیتی ظاهر می‌شوند. نویسنده تأکید می‌کند این بحث به معنای نفی یا تطهیر سیاست‌های جمهوری اسلامی نیست؛ بلکه مسئله، نحوه تفکیک دولت، جامعه، نهادهای نظامی، اقتصاد و جمعیت غیرنظامی در روایت‌های تولیدشده توسط AI است. ▫️ یکی از نکات مهم مقاله درباره تحریم‌هاست. از نگاه نویسنده، عباراتی مانند «تحریم‌ها موجب فشار اقتصادی شده‌اند» می‌توانند زنجیره عاملیت را پنهان کنند؛ زیرا مشخص نمی‌کنند چه بازیگری تحریم را اعمال کرده، چه سازوکاری آن را اجرا می‌کند و چگونه این سیاست به زندگی غیرنظامیان منتقل می‌شود. ▫️ مقاله همچنین میان «معافیت قانونی کالاهای بشردوستانه» و «دسترسی عملی» تفاوت می‌گذارد. حتی اگر غذا و دارو روی کاغذ مشمول معافیت باشند، عواملی مانند محدودیت‌های بانکی، ریسک اجرای تحریم، خودتحریمی یا overcompliance شرکت‌ها، بیمه و حمل‌ونقل می‌توانند دسترسی واقعی را محدود کنند. ▫️ نویسنده پیشنهاد می‌کند ارزیابی سوگیری سیاسی مدل‌های زبانی فقط با سنجش «لحن» انجام نشود؛ بلکه باید بررسی شود مدل چند بار ایران را به‌عنوان منشأ تهدید معرفی می‌کند، چند بار شهروندان ایرانی را به‌عنوان افراد متأثر نشان می‌دهد، چه میزان از عاملان تحریم نام می‌برد و تا چه حد زنجیره بازیگر ← اقدام ← سازوکار ← پیامد را حفظ می‌کند. 🔺یک مدل زبانی لزوماً نباید درباره ایران دروغ بگوید یا از ادبیات خصمانه استفاده کند تا تصویری نامتوازن تولید کند. کافی است در فرآیند خلاصه‌سازی، برخی بازیگران را صاحب «عاملیت» و برخی دیگر را صرفاً صاحب «پیامد» نشان دهد. اینجا یک مسئله مهم برای ارزیابی مدل‌های زبانی شکل می‌گیرد: چه کسی در روایت AI فعل را انجام می‌دهد و چه کسی فقط تحت تأثیر آن فعل قرار می‌گیرد؟ اگر یک مدل بارها «اقدام ایران» را با قطعیت بیان کند اما درباره آثار تحریم‌ها از عباراتی مانند «ممکن است»، «برخی معتقدند» یا «احتمالاً» استفاده کند، حتی بدون بیان یک گزاره آشکارا نادرست، نوعی عدم تقارن معرفتی ایجاد می‌شود. این مسئله را می‌توان به‌عنوان یک شاخص بالقوه در ارزیابی مدل‌های زبانی مورد توجه قرار داد: نه فقط اینکه مدل «چه می‌گوید»، بلکه اینکه عاملیت، مسئولیت و رنج را چگونه در ساختار روایت توزیع می‌کند. 🏷 پیوست گزارش 🌐 متاکاگ | فراتر از شناخت

📚 کتاب آسیب‌های الگوریتمی: صیانت از مردم در عصر هوش مصنوعی #معرفی_کتاب #هفته_شصت‌و‌یکم 📄 چند خطی از کتاب: آیا الگوریتم‌ها به مردم کمک می‌کنند یا به آن‌ها آسیب می‌رسانند؟ این پرسش در مورد هوش مصنوعی به طور کلی نیز صادق است. اگر مصرف‌کنندگان اطلاعات کافی در اختیار داشته باشند و دچار سوگیری‌های رفتاری نباشند، الگوریتم‌ها و هوش مصنوعی به‌احتمال زیاد سودمند خواهند بود؛ چراکه مصرف‌کنندگان به احتمال بیشتری به خواسته‌ها و نیازهای واقعی خود دست می‌یابند. اما اگر مصرف‌کنندگان از کمبود اطلاعات رنج ببرند، الگوریتم‌ها به‌طور خاص می‌توانند آن‌ها را به سمت انتخاب‌های زیان‌بار یا نابخردانه سوق دهند. همچنین اگر مصرف‌کنندگان دچار سوگیری‌های رفتاری همچون خوش‌بینی غیرواقع‌بینانه یا تمرکز بیش‌ازحد بر کوتاه‌مدت باشند، الگوریتم‌ها قادر به ایجاد آسیب‌های جدی خواهند بود. این نکات نشان می‌دهد که ضرورتی قوی برای پاسخ‌های نظارتی وجود دارد تا از مصرف‌کنندگان در برابر وضعیت موجود و آنچه به احتمال زیاد تشدید خواهد شد، محافظت شود. 🔗 برای دانلود/ خریداری کتاب 🔗 برای مطالعه و اطلاعات بیشتر 🌐 متاکاگ | فراتر از شناخت

✍ روایت متاکاگ از کتاب آسیب‌های الگوریتمی: صیانت از مردم در عصر هوش مصنوعی 🔹یکی از دو نویسنده‌ی این کتاب، سانستین، در همان سطرهای آغازین مقدمه، خاطره‌ای کوچک و به‌ظاهر بی‌اهمیت را روایت می‌کند: صفحه‌ی فیسبوکش را باز می‌کند و می‌بیند الگوریتم برایش دو آگهی برگزیده، یک ژاکت پشمی مردانه، و سفارشی از یک اپلیکیشن تحویل غذا، با توصیفی نه‌چندان دقیق و کمی مضحک از مرغ سرخ‌کرده. سلیقه‌ی او را درست نگرفته‌اند؛ خودش هم به این نکته اذعان می‌کند. اما همین لغزش کوچک و بی‌خطر، دریچه‌ای است رو به پرسشی بس جدی‌تر: اگر همین ماشین، به‌جای حدسی نادرست درباره‌ی ذائقه‌ی یک استاد حقوق، به دقتی برسد که بتواند نقطه‌ضعف شناختی یک انسان را بی‌خطا شکار کند، آن‌گاه چه پیش می‌آید؟ 🔹کتاب حاضر، اثر مشترک سانستین و اورن بار-گیل، دو تن از شناخته‌شده‌ترین چهره‌های «حقوق و اقتصاد رفتاری» در دانشکده‌ی حقوق هاروارد، کوششی جدی برای پاسخ به همین پرسش است. نام سانستین، نزدیک به دو دهه است که با نظریه‌ی «تلنگر» (nudge) و همکاری دیرینه‌اش با ریچارد تیلر گره خورده؛ همان خط فکری که می‌گوید رفتار انسان همیشه از محاسبه‌ی خالص عقلانی پیروی نمی‌کند. بار-گیل نیز در کتاب شناخته‌شده‌ی پیشین خود، «اغوا از طریق قرارداد» (Seduction by Contract)، نشان داده بود قراردادهای مصرفی، از کارت اعتباری تا وام مسکن اغلب آگاهانه برای بهره‌برداری از خوش‌بینی غیرواقع‌بینانه‌ی مشتری طراحی می‌شوند. این را می‌توان ادامه‌ی طبیعی همین مسیر پژوهشی دانست؛ با این تفاوت که اکنون، جای طراحی متن قرارداد را طراحی الگوریتم گرفته است. هسته‌ی نظری کتاب چارچوبی است ساده اما دقیق. نویسندگان بازارها را بر پایه‌ی سطح آگاهی و عقلانیت مصرف‌کننده به دو دسته تقسیم می‌کنند: بازارهایی که مصرف‌کننده در آن‌ها به‌قدر کافی آگاه و منطقی تصمیم می‌گیرد (بازارهای S)، و بازارهایی که مصرف‌کننده از کاستی اطلاعات یا تورش‌های شناختی رنج می‌برد (بازارهای U). این دوگانه، به تصریح خودِ نویسندگان، الگویی نظری است نه توصیفی دقیق از واقعیت؛ در عمل با طیفی پیوسته روبه‌روییم، و حتی مصرف‌کننده‌ای باتجربه ممکن است در بازارِ پیچیده‌ای مانند وام مسکن دچار خطا شود، در حالی که همان فرد میان سیب و پرتقال هرگز اشتباه نمی‌کند. این دو نوع بازار را سپس با دو وضعیت مقایسه می‌کنند: جهان پیش از هوش مصنوعی، که در آن همه یک کالا را به یک قیمت می‌خرند، و جهان کنونی، که در آن الگوریتم برای هر مشتری می‌تواند قیمت یا پیشنهادی جداگانه بسازد. نتیجه‌ی برآمده از تلاقی این دو محور تکان‌دهنده است: در بازارهای S، شخصی‌سازی الگوریتمی عموماً به سود مصرف‌کننده تمام می‌شود؛ اما در بازارهای U، همان فناوری به ابزاری دقیق برای شکار همان نقطه‌ضعف‌ها بدل می‌شود. الگوریتم فرقی نمی‌گذارد میان کمک به بیماری که به‌دنبال داروی مناسب است، و شکار فردی مضطرب که آماده است هر مبلغی برای بیمه‌ای غیرضروری بپردازد؛ در هر دو حالت، صرفاً محاسبه می‌کند چه چیزی سودآورتر است. 🔹نویسندگان این آسیب را به پنج دسته تقسیم می‌کنند: تبعیض قیمتی، هدف‌گذاری محصول، تشدید کژفهمی، هماهنگی ضمنی الگوریتم‌های رقیب بر سر قیمت که نگرانی‌های ضدانحصاری تازه‌ای برمی‌انگیزد و سرانجام تبعیض نژادی و جنسیتی. از میان این پنج، دو مورد برای خوانندگان این حوزه اهمیتی ویژه دارد. نخست، تمایز ظریفی که کتاب میان بهره‌کشی از تورش‌های موجود و تولید تورش‌های تازه می‌گذارد. در حالت نخست، الگوریتم صرفاً کاستی شناختی از پیش‌موجود را شناسایی و از آن سود می‌برد: تورش خوش‌بینی، یا تورش حال‌محوری. اما حالت دوم نگران‌کننده‌تر است: الگوریتم می‌تواند خود همین تورش‌ها را در ذهن مخاطب بسازد. نویسندگان صریحاً هشدار می‌دهند که مدل‌های زبانی بزرگ می‌توانند پیام‌های اقناعی به‌شدت شخصی‌سازی‌شده تولید کنند تا، برای نمونه، فردی را به خرید محصولی کاملاً بی‌اثر ترغیب کنند؛ پیامی که نه از یک باور غلط موجود بهره می‌برد، بلکه آن باور را از ابتدا می‌کارد.

🔹دومین بخش درخور توجه، فصل تبعیض نژادی و جنسیتی است؛ جایی که کتاب استدلالی ضدشهودی عرضه می‌کند. الگوریتم، برخلاف تصور رایج، لزوماً نژادپرست یا زن‌ستیز نیست، دست‌کم نه به همان معنایی که یک انسان می‌تواند باشد. تصمیم‌گیر انسانی ممکن است از سر «تبعیض سلیقه‌ای» یا «تبعیض آماری» (استفاده از نژاد یا جنسیت به‌عنوان نشانه‌ای تقریبی برای ویژگی‌های دیگر) دست به گزینش بزند. الگوریتم اما تنها یک «سلیقه» دارد: حداکثرسازی سود و چون به داده‌های دقیق‌تری دسترسی دارد، دیگر نیازی به این نشانه‌های خام ندارد. با این‌همه، همین الگوریتم می‌تواند از مسیری کاملاً غیرمستقیم به تبعیض بینجامد: فروشنده‌ای که هرگز نژاد یا جنسیت مشتری خود را نمی‌داند، ممکن است الگوریتمی به‌کار گیرد که از روی آدرس آی‌پی یا سابقه‌ی خرید، داده‌هایی که پنهانی با نژاد و جنسیت همبسته‌اند قیمتی نابرابر بسازد. تبعیض، در این تصویر، دیگر نیازی به نیت ندارد؛ کافی است در داده پنهان باشد. 🔻اما آن‌جا که این کتاب، هرچند نویسندگانش حقوق‌دان و اقتصاددان‌اند نه متخصص جنگ شناختی، مستقیماً به دغدغه‌ی خوانندگان متاکاگ گره می‌خورد، فصل کوتاه اما پرمعنای «بازارهای سیاسی» است. نویسندگان استدلال می‌کنند سیاست‌مداران نیز، همچون فروشندگان، «کالای» خود، یعنی خودشان یا سیاست‌هایشان را به رأی‌دهندگانی می‌فروشند که اغلب کمتر از آن‌ها آگاه‌اند؛ و همان الگوریتم‌هایی که ژاکت یا بیمه را هدف می‌گیرند، اکنون می‌توانند پیام سیاسی را نیز، برای هر رأی‌دهنده به‌طور جداگانه، تنظیم کنند. این همان نقطه‌ای است که ارزش واقعی کتاب آشکار می‌شود: آنچه در بازار مصرف این کتاب خوانده می‌شود، و آنچه در ادبیات امنیتی «جنگ شناختی» نام دارد، دو نام متفاوت برای یک منطق واحدند، بهره‌کشی شخصی‌سازی‌شده از آسیب‌پذیری شناختی انسان، در مقیاسی صنعتی. این کتاب، بی‌آنکه چنین ادعایی را صریح مطرح کند، در واقع ریشه‌های اقتصادی و حقوقیِ همان پدیده‌ای را روایت می‌کند که در سطح ملت‌ها به قطبی‌شدن، افراط‌گرایی، و فرسایش اعتماد عمومی می‌انجامد. در بخش سیاست‌گذاری، نویسندگان از دو مسیر مکمل دفاع می‌کنند. نخست، الزام به شفافیت الگوریتمی، هرچند خود اذعان دارند که در ادبیات علوم کامپیوتر و اقتصاد، هنوز بحثی جدی جریان دارد بر سرِ این‌که آیا اصلاً می‌توان «جعبه‌سیاه» یادگیری ماشین را به‌طور معنادار شفاف کرد. دوم، و شاید عملی‌تر، رویکردی که به‌جای گشودن جعبه‌سیاه، بر ستاده‌ی آن نظارت می‌کند: همان رویکرد «تأثیر نامتناسب» (disparate impact) که پیش‌تر در حقوق ضدتبعیض نژادی و جنسیتی به‌کار می‌رفت، اکنون می‌تواند برای سنجش تأثیر نامتناسب بر پایه‌ی «سطح آگاهی» نیز به‌کار گرفته شود: اگر الگوریتمی به‌طور نظام‌مند از مصرف‌کنندگان کم‌آگاه‌تر، در قیاس با مصرف‌کنندگان هم‌ردیف آگاه‌تر، بهایی بیشتر می‌گیرد، این خود نشانه‌ای است که قانون باید مداخله کند. 🌐 متاکاگ | فراتر از شناخت

💠 شیفتگی: مسیر قهرمانان (بسیار بهتر از انگیزه و حتی انضباط!) 🔷 در اینجا، می خواهیم ۱۰ نکته خانم سابرینا رامِناو رو در عمل ببینیم در قالب یک پروژه واقعی! 🔶 در این پروژه، تنها مورد اشتراکی مون Claude هست که حکم مغز عملیات رو داره و بقیه کارها با هوش مصنوعی های رایگان پیش میره! #هوش_مصنوعی #آموزش #تجربه_نگار #اورجینال_متاکاگ #انحصاری

1️⃣ گام اول: گفتگو با LLM 🔷 اینجا با Claude خیلی ساده و در عین حال مفصل، ایده مون رو به اشتراک می ذارم. البته من خودم، معمولا از «ایده» پا رو فراتر می ذارم و کل داستان رو از زبون خودم روایت می کنم! مثلا در اینجا بحث «انگیزه، انضباط، شیفتگی» رو بهش گفتم، اینکه در شبکه های اجتماعی عموما انضباط رو برتر معرفی می کنند اما شیفتگی از اونم سرتره! اون مخالفت کرد اول و بعد من بهش گفتم کجای صحبت من رو متوجه نشده بود! آخرش که به یه توافقی رسیدیم، خلاصه صحبت هامون رو به شکل این فایل markdown در آورد.

2️⃣ گام دوم: ساخت اینفوگرافیک 🔷 همون جور که یادتون هست خانم رامِناو گفته بودن هم استفاده واقعی (خروجی دار) باید بشه از AI، هم برای یادگیری استفاده بشه، هم برای تولید محتوای شبکه های اجتماعی و اینفوگرافیک تیک هر سه رو می زنه! البته بگم که ما در کانال چندین اسکیل درست کردیم برای کمک کردن بهتون در این کار که دیگه اینجا نام نمی بریم!!!

3️⃣ گام سوم: ساخت فایل صوتی 🔷 به نظرتون داخل خودِ کلاد میشه فایل صوتی (یا پادکست) ساخت؟! پاسخ ش مثبته! اولا بدونین به این تکنولوژی میگن Text To Speech یا TTS و چندتا گزینه دارین مثه پینوکیو اما دوتا انتخاب تاپ که از فارسی هم پشتیبانی می کنند یکی Edge مایکروسافت هست و یکی هم Fish Audio. 🔶 گزینه اول یعنی Edge TTS بسیار سبک هست و نیاز به کارت گرافیک هم حتی نداره! یه سری آواتار محدود داره و کیفیت ش متوسط رو به پایین هست اما Fish Audio کیفیت بسیار بهتری داره و مهم تر از اون Cloning هم داره یعنی اینکه صدای خروجی عین خودتون یا هرکس دیگه ای بشه! این هوش مصنوعی Open Source و قابل نصب رایگانه اما خب ۲۴ گیگ کارت گرافیک می خواد! گزینه دیگر استفاده از API اون هست که ۸۰۰۰ کردیت ماهانه میده! 🎶 در این فایل صوتی، ما صدای دوتا بازیگر معروف رو کلون کردیم و دادیم فایل markdown بالا رو بخونن. بعد با ادیت صداشون رو ترکیبی کردیم یعنی بعضی جاهاشون رو یکی بخونه، بعضی جاهایش رو هم یکی دیگه! (این خروجی Fish Audio هست)