گزارش مرکز پژوش های مجلس شورای اسلامی:تحلیل الزامات تنظیم گری الگوریتم های توصیه گر در رسانه های دیجیتال

تحول ساختار رسانه ای و وابستگی فزایندۀ توزیع و دیده شدن محتوا به الگوریتم های توصیه گر، کنترل انسانی بر جریان اطلاعات را به طور جدی کاهش داده و نقش سامانه های هوشمند را در شکل دهی روایت ها، ترجیحات و تجربه کاربران برجسته کرده است. این شرایط، ضرورت شکل گیری چارچوب های حقوقی شفاف و نهادهای تنظیم گر مؤثر را برای کاهش پیامدهای منفی اجتماعی، ارتقای عدالت اطلاعاتی و حفظ اعتماد عمومی دوچندان می سازد. 🔹یافته های پژوهش نشان می دهد که در ادبیات علمی چهار سازوکار اصلی توصیه گری شامل فیلتر مشارکتی، فیلتر مبتنی بر محتوا، الگوریتم های یادگیری عمیق و یادگیری تقویتی شناسایی شده اند که هر یک، در کنار افزایش دقت شخصی سازی، می توانند موجب کاهش تنوع اطلاعاتی، تقویت سوگیری ها، تشدید قطبی سازی و بروز آثار منفی روانی شوند. 🔹مطالعه تطبیقی چارچوب های تنظیم گری در کشورهای مختلف نیز حاکی از وجود چهار الگوی حقوق محور، بازارمحور، اقتدارمحور و ترکیبی است. با وجود تفاوت در سطح مداخله دولت و ظرفیت نهادی، میان این الگوها اجماعی روشن درباره ضرورت شفافیت الگوریتمی، پاسخ گویی، ارزیابی مخاطرات و نظارت مستمر وجود دارد. 🔹بررسی تجربه های تطبیقی نشان می دهد فقدان این سازوکارها به تعمیق قطبی سازی، کاهش تنوع اطلاعاتی و تضعیف اعتماد عمومی منجر می شود؛ در حالی که رویکردهای تدریجی و مبتنی بر مدیریت مخاطرات می توانند توازنی میان نوآوری و کنترل پیامدهای منفی برقرار کنند. 🔹در مقابل، ارزیابی وضعیت ایران بیانگر آن است که فقدان چارچوب حقوقی منسجم، نبود نهاد تخصصی و مستقل برای نظارت بر الگوریتم ها، و کمبود ابزارهای نظام مند شفاف سازی عملکرد آنها، حکمرانی الگوریتمی را محدود به مداخلات واکنشی ساخته است. بر این اساس، تدوین قوانین الزام آور شفافیت، ایجاد نهاد نظارتی تخصصی، انجام ارزیابی های دوره ای مخاطرات و تقویت سازوکارهای اعتراض و پاسخ گویی کاربران، از الزامات اساسی حکمرانی الگوریتمی در ایران به شمار می آید.

🔻چرا شرکت‌های هوش مصنوعی از نابودی جهان می‌گویند؟ 🔻پشت پرده «بازاریابی ترس» / واکاوی ادعاهای آخرالزمانی غول‌های فناوری ▪️چرا یک شرکت باید درباره محصول خودش طوری حرف بزند که انگار یک هیولای غیرقابل کنترل است؟ هیچ‌گاه یک رستوران برای فروش محصول خود تبلیغ نمی‌کند که «آنقدر لذیذ است که فروشش غیراخلاقی است!». ▪️شانون والور، استاد اخلاق هوش مصنوعی در دانشگاه ادینبرو، معتقد است که این «روایت‌های غیرطبیعی» باعث می‌شود مردم احساس ناتوانی کنند. وقتی فناوری به عنوان یک نیروی ماورایی معرفی شود، نهادهای قانون‌گذار احساس می‌کنند قدرت کنترل آن را ندارند و تنها کسانی که می‌توانند ما را نجات دهند، خودِ شرکت‌های سازنده هستند. khabaronline.ir/xpQdP

استارت‌آپ‌ها چگونه با هوش مصنوعی بازطراحی می‌شوند؟ 🔸هوش مصنوعی در حال تغییر نقش بنیان‌گذاران استارت‌آپ‌ها از انجام‌دهنده کارها به طراح سیستم‌های خودکار است. با شروع انقلاب هوش مصنوعی در عملیات کسب‌وکار، تعداد فزاینده‌ای از بنیان‌گذاران از اتکا به فرایندهای کاملاً دستی فاصله گرفته‌اند و به استفاده از AI به‌عنوان یک پشتیبان قدرتمند یا حتی یک هم‌بنیان‌گذار برای خودکارسازی وظایف کلیدی روی آورده‌اند. 🔸نتیجه آن شده که به‌جای آشفتگی و ناکارآمدی، بنیان‌گذارانی که با رویکردی سنجیده و استراتژیک به ادغام هوش مصنوعی می‌پردازند، یک مزیت رقابتی واقعی ایجاد کرده‌اند. https://pvst.ir/nyd

⬅️ شیشه‌ای و مدرن؛ ظاهر اپلیکیشن جمینای با طراحی جدید تغییر می‌کند ‌ ▫️ در طراحی جدید اپلیکیشن جمینای، نوار واردکردن دستورات (Prompt Box) به شکلی کپسولی درآمده است. در سمت راست این نوار، دسترسی به ورودی صوتی و قابلیت Gemini Live حفظ شده، اما تغییر اصلی را در سمت چپ می‌بینیم که یک دکمه + جایگزین گزینه‌های پراکنده شده است. با لمس این دکمه، منویی از پایین صفحه باز می‌شود که شامل یک کاروسل برای دسترسی سریع به گالری تصاویر، دوربین و عکس‌های اخیر است. همچنین گزینه‌های مدیریت فایل، نوت‌بوک‌ها و سایر آپلودها در انتهای همین منو گنجانده شده‌اند. ‌ ▫️ گوگل در نسخه جدید، ابزارهای تخصصی را در فهرستی منظم همراه با توضیحات ارائه می‌دهد. این ابزارها شامل تولید تصویر و ویدیو، موسیقی، Canvas، تحقیق عمیق و یادگیری هستند. درحال‌حاضر، این بازطراحی به صورت یک عرضه محدود در اختیار برخی کاربران iOS قرار گرفته و هنوز جزئیات دقیقی از زمان انتشار نسخه نهایی برای کاربران اندروید در دسترس نیست. ‌

🔻«هوش مصنوعی‌شویی»؛ اصطلاحی برای توصیف شرکت‌هایی که به بهانه هوش مصنوعی تعدیل نیرو می‌کنند. 🔹در حالی که بحث‌ها در مورد تأثیر واقعی هوش مصنوعی بر نیروی کار ادامه دارد، سم آلتمن، مدیرعامل OpenAI گفته برخی از شرکت‌ها در زمینه تعدیل نیرو به «هوش مصنوعی‌شویی» (AI washing) روی آورده‌اند، یا به عبارتی، کاهش نیروی کار خود را به دروغ به تأثیرات این فناوری نسبت می‌دهند. 🔹پدیده هوش مصنوعی‌شویی در شرایطی مورد توجه قرار گرفته است که داده‌های جدید در مورد تأثیر این فناوری بر بازار کار، داستان مبهم و بی‌نتیجه‌ای در مورد نحوه نابودی مشاغل انسانی توسط این فناوری (یا حتی حرکت به سمت تحقق این موضوع) را روایت می‌کند. 🔹به عنوان مثال، مطالعه‌ای که در ماه فوریه توسط NBER منتشر شد، نشان داد که از میان هزاران مدیر ارشد اجرایی موردبررسی در ایالات متحده، بریتانیا، آلمان و استرالیا، نزدیک به ۹۰درصد عنوان کرده‌اند که هوش مصنوعی هیچ تأثیری بر اشتغال در محیط کار در طول سه سال گذشته (پس از انتشار ChatGPT در اواخر سال ۲۰۲۲ ) نداشته است. 🔹«مارتا گیمبل»، مدیر اجرایی و هم‌بنیان‌گذار آزمایشگاه بودجه ییل نیز عمل هوش مصنوعی‌شویی را به شرکت‌هایی نسبت می‌دهد که کاهش حاشیه‌های سود و درآمد حاصل از ناتوانی در مدیریت مؤثر مصرف‌کنندگان محتاط و تنش‌های ژئوپلیتیکی را به گردن هوش مصنوعی می‌اندازند.

♦️ کودکان با کشیدن سبیل روی صورت، سیستم های تشخیص سن آنلاین را گول می زنند و موفقند 🔺یک گزارش جدید نشان می‌دهد کودکان بریتانیایی با ثبت تاریخ تولد جعلی، استفاده از کارت هویت دیگران و حتی ریش و سبیل‌های خلاقانه فیلترهای ایمنی آنلاین را دور می‌زنند. 🔹یک‌سوم کودکان می‌گویند در دو ماه گذشته محدودیت‌های سنی آنلاین را دور زده‌اند؛ بعضی از آنها این کار را با کشیدن سبیل قلابی روی صورتشان برای فریب نرم‌افزار تشخیص چهره انجام داده‌اند. 🔹یک مادر به پژوهشگران گفت پسرش را در حالی غافلگیر کرده که با مداد ابرو روی صورتش سبیل کشیده بود تا از سامانه تخمین سن با تشخیص چهره عبور کند. این ترفند جواب داد؛ سامانه سن او را ۱۵ سال ثبت کرد، در حالی که او ۱۲ ساله بود.

در برنامه "خانواده و زندگی" سیمای مازندران درباره چت بات های هوش مصنوعی و کارکردهایشان, نحوه استفاده در شرایط قطع اینترنت بین الملل و مهارت تعامل هوشمندانه و موثر با این ابزارها برای رسیدن به نتایج بهتر توضیحاتی ارائه کردم.ویدئوی این بخش از برنامه را میتوانید از طریق این لینک مشاهده کنید: https://my.uupload.ir/p/v9EvO9WM

♦️عواقب جنگ با ایران هوش مصنوعی را هم تکان خواهد داد. 🔺میدل ایست آی در گزارشی آورده است: 🔹️ جنگ ایران بر رقابت جهانی هوش مصنوعی بر سر انرژی اهمیت دارد. جنگ به طور مستقیم به قلب رقابت جهانی بر سر هوش مصنوعی ضربه می‌زند، چون توسعه AI به‌شدت به انرژی ارزان و پایدار وابسته است. 🔹مراکز داده هوش مصنوعی مصرف‌کننده عظیم برق هستند و اختلال در عرضه انرژی، هزینه این زیرساخت‌ها را بالا برده و برنامه‌ریزی های سرمایه‌گذاری را تحت تاثیر خود قرار داده است. 🔹رقابت واقعی در حوزه هوش مصنوعی فقط بر سر فناوری نیست، بلکه بر سر دسترسی به انرژی، ثبات ژئوپلیتیکی و امنیت زنجیره تأمین است.

📌 عبور دیپ‌فیک‌ از سیاسیون؛ حالا نوبت جیب شماست 🔻 پیشرفت‌های تازه در تولید تصویر با هوش مصنوعی، به‌ویژه ابزار جدید ChatGPT Images 2.0 از OpenAI، زنگ خطر تازه‌ای برای کلاهبرداری‌های دیجیتال به صدا درآورده است. این ابزار می‌تواند تصاویر فوق‌واقع‌گرایانه‌ای تولید کند که تشخیص جعلی بودن آن‌ها برای کاربران عادی بسیار دشوار است؛ از تصاویر طنزآمیز سیاستمداران گرفته تا اسناد کاملاً جعلی اما متقاعدکننده. 🔻 نکته نگران‌کننده اینجاست که این مدل، برخلاف نسل‌های قبلی، در تولید تصاویر حاوی متن بسیار دقیق عمل می‌کند؛ قابلیتی که آن را به ابزاری قدرتمند برای جعل مدارک تبدیل کرده است. نویسنده گزارش می‌دهد که توانسته با کمترین تلاش، بیش از ۱۰۰ تصویر جعلی تولید کند: از نسخه‌های پزشکی و کارت‌های شناسایی گرفته تا رسیدها، فاکتورها و اعلان‌های بانکی. حتی تولید اسکرین‌شات‌هایی شبیه به پیام‌های بانکی یا رسیدهای خدماتی، می‌تواند به‌راحتی در حملات فیشینگ استفاده شود و کاربران را به افشای اطلاعات حساس ترغیب کند. 🔻 این تهدید بی‌سابقه نیست، اما مقیاس و سرعت آن بی‌سابقه است. طبق گزارش FBI کلاهبرداری‌های مرتبط با هوش مصنوعی در سال گذشته نزدیک به یک میلیارد دلار خسارت به آمریکایی‌ها وارد کرده‌اند. کارشناسان هشدار می‌دهند که کاربرد این فناوری تنها به خلاقیت کلاهبرداران محدود می‌شود. 🔻 با وجود سیاست‌های محدودکننده، به نظر می‌رسد سازوکارهای امنیتی هنوز کافی نیستند. هرچند شرکت‌ها از متادیتا یا واترمارک برای شناسایی تصاویر استفاده می‌کنند، این نشانه‌ها به‌راحتی قابل حذف هستند. در نتیجه، بانک‌ها، نهادهای دولتی و حتی کاربران عادی با چالشی جدی روبه‌رو هستند. 🔻 در نهایت، نویسنده تأکید می‌کند که خطر اصلی نه در دیپ‌فیک‌های سیاسی پر سر و صدا، بلکه در نمونه‌های کوچک، هدفمند و روزمره است؛ همان‌هایی که می‌توانند به‌سادگی حساب بانکی شما را هدف بگیرند. https://www.theatlantic.com/technology/2026/05/chatgpt-images-deepfakes-fraud/687023 ‌