امنیت در عصر هوش مصنوعی

تجربه طراحی معماری یک ساختمان با Nano Banana Pro جمینای! ▪️یک پیمانکار ساختمان بنام «تِـنکس‌گیوینگ» برای شوخی با Nano Banana Pro یک درخواست ساده داد: Draw me architectural plans for a 1600 square foot 3 bedroom house that is two stories in torrance, california (نقشه‌های معماری یک خانه دو طبقه سه خوابه به مساحت ۱۶۰۰ فوت مربع در تورنس، کالیفرنیا را برای من ترسیم کنید) اما نتیجه؟ ابزار تصویر ساز جمینای، نقشه کامل معماری شامل پلان، چیدمان فضاها و ساختار کلی را تحویل داد.

💡 ابزار جدید کلاه‌برداری در تلگرام؛ تبلیغی که حتی ادمین کانال هم از وجودش بی‌خبر است! ▪️احتمالا دیده‌اید که پایین بعضی کانال‌های تلگرامی، کادری کوچک با برچسب «آگهی» یا «Ad» ظاهر می‌شود. ▪️این کادر مربوط به سرویس رسمی تبلیغات تلگرام است؛ سرویسی که قرار بود به درآمدزایی کانال‌ها کمک کند، اما حالا در عمل تبدیل شده به ابزاری برای کلاهبرداری از کاربران. 🔸 تبلیغی که خود ادمین کانال هم از آن خبر ندارد! ▪️سرویس تبلیغات تلگرام (با نام «تلگرام ادز») به صورت خودکار و بدون نیاز به تأیید مدیر کانال، انواع تبلیغات را در کانال‌هایی که بالای ۱۰۰۰ عضو دارند، نمایش می‌دهد. ▪️کلاهبردارها هم از همین نقطه ضعف سوءاستفاده کرده‌اند: آگهی می‌خرند و متن تبلیغ را طوری می‌نویسند که انگار مدیر کانال خودش آن را نوشته است. این متن صمیمانه و به‌ظاهر «خودی» است و قرار است به کاربر حس اعتماد بدهد. 🔸 چطور فریب نخوریم؟ ▪️متنی که در قالب آگهی در کانال‌ها و بات‌های تلگرام پخش می‌شود و برچسب Ad دارد، فارغ از اینکه چقدر صمیمانه و دوستانه نوشته شده، کاملا بی‌ارتباط به کانال اصلی است.

🔵 شعر؛ ابزار تازه برای دور زدن محدودیت‌های چت‌بات‌های هوش مصنوعی 🔹یک پژوهش جدید نشان می‌دهد که می‌توان با بهره‌گیری از شعر، سامانه‌های چت‌بات مبتنی بر هوش مصنوعی را فریب داد و آن‌ها را به نادیده گرفتن محدودیت‌ها و ارائه محتوای ممنوعه وادار کرد. 🔹در این تحقیق که توسط آزمایشگاه «ایکارو» منتشر شده و عنوان آن «شعر خصمانه به عنوان سازوکار جهانی فرار از زندان در مدل‌های زبانی بزرگ» است، پژوهشگران نشان داده‌اند که بیان درخواست‌ها در قالب ساختاری شاعرانه می‌تواند باعث دور زدن بخشی از مکانیسم‌های ایمنی LLMها شود. 🔹براساس نتایج این مطالعه، «ساختار شاعرانه نقش یک ابزار عمومی برای فرار از محدودیت‌ها را ایفا می‌کند». بررسی‌ها نشان می‌دهد که این روش با نرخ موفقیت کلی ۶۲ درصد قادر به تولید محتوای ممنوعه بوده؛ محتوایی که حتی دستورالعمل‌های مرتبط با ساخت سلاح‌های هسته‌ای هم جزو آن بوده است. 🔹در این تحقیق، مجموعه‌ای از مدل‌های زبانی بزرگ پرکاربرد از جمله GPT شرکت OpenAI، جمینای گوگل، کلود محصول شرکت Anthropic و چندین مدل دیگر مورد ارزیابی قرار گرفته‌اند. یافته‌ها حاکی از آن است که مدل‌هایی مانند Google Gemini، DeepSeek و MistralAI بیشتر از سایرین در برابر این روش آسیب‌پذیر بوده‌اند و پاسخ‌های ممنوعه ارائه کرده‌اند؛ در مقابل، GPT-5 OpenAI و Claude Haiku 4.5 Anthropic کمترین میزان تخطی از محدودیت‌های ایمنی را نشان داده‌اند. 🔹اشعار دقیق مورد استفاده در این پژوهش که منجر به فرار از محدودیت‌ها شده، منتشر نشده و تیم تحقیقاتی تأکید کرده که انتشار این نمونه‌ها «برای عموم بیش از حد خطرناک» خواهد بود. اما نسخه‌ای محدود از این روش در گزارش ارائه شده تا نشان دهد دور زدن سیستم‌های ایمنی چت‌بات‌های هوش مصنوعی تا چه اندازه می‌تواند ساده باشد؛ موضوعی که پژوهشگران می‌گویند «احتمالاً بسیار ساده‌تر از آن چیزی است که تصور می‌شود و دقیقاً به همین دلیل، برخورد محتاطانه با آن ضروری است.»

فیلم‌ منتشر شده در فضای مجازی با عنوان "حمله اسرائیل به مرکز فرماندهی سپاه" ساخته هوش مصنوعی و جعلی است! این ویدیو یک کلاژ چهارقطعه‌ای است که سه ویدیوی آن، ساختگی‌ هستند: 🔹ویدیو اول: نقشه روی دیوار آشکارا غلط و غیرواقعی است (خلیج فارس و مدیترانه تحریف‌شده، نبود دریای اژه/مرمره). مانیتورها پس از انفجار بدون آسیب روشن می‌مانند و سقوط یکی از آنها رفتار فیزیکی غیرعادی دارد. 🔹ویدیو دوم: بج بازو و سردوشی‌ها ساختگی‌اند و در هیچ رسته سپاه وجود ندارد. ثانیه‌شمار ساعت روی تصویر اعداد نامنظم و غیرپیوسته نشان می‌دهد. 🔹ویدیو چهارم: نشانه‌های واضح تولید با هوش مصنوعی دارد: سردوشی‌های غلط، نبود مانیتور جلوی اپراتورها، صندلی‌ها/ماوس/هدست با فرم‌های عجیب. 🔹ویدیو سوم تنها ویدیوی واقعی است. چند روز قبل، در برنامه «بدون تعارف» (۸ آذر ۱۴۰۴) منتشر شده بود و بریده‌اش از خبرگزاری دانشجو بازنشر شده است. این بخش واقعی مربوط به حمله ۲۳ خرداد به پایگاه پدافند تبریز است؛ ساعت حمله ۵:۱۰ صبح ذکر شده و تصاویر داخل و بیرون مجموعه را نشان می‌دهد.

جم در جمنای چیست و چه فرقی با یک چت معمولی دارد؟ جم یک دستیار هوشمند شخصی‌سازی‌شده است که روی مدل زبانی جمنای گوگل اجرا می‌شود. تفاوت اصلی آن با چت معمولی در داشتن «حافظه‌ی دستورالعمل» خلاصه می‌شود. در چت عادی، مدل هر بار از صفر و با تنظیمات عمومی گوگل شروع می‌کند اما یک Gem شخصیت، وظیفه و دامنه‌ی دانشی دارد که شما از قبل برایش تعیین کرده‌اید. به همین دلیل اگر با یک «جم نویسنده» صحبت کنید، هوش مصنوعی از همان ابتدا می‌داند باید با لحن دلخواه شما بنویسد و لازم نیست هر بار شیوه‌ی نوشتن را دوباره برایش توضیح دهید.

🔻توصیه سازنده گوگل Gemini در مورد استفاده کودکان از هوش مصنوعی سلیمان ایتانی، توسعه‌دهنده سابق گوگل، در مقاله‌ای خطاب به والدین گفته: منع استفاده از chatgpt برای کودکان غیرممکن است ؛ اما باید به آن‌ها یاد داد که جواب‌های هوش مصنوعی را راستی‌آزمایی کنند و مهم‌تر از آن، با بازی‌های بداهه و پروژه‌های اخلاقی، خلاقیت و تفکر انتقادی را در آن‌ها تقویت کنیم تا قربانی پاسخ‌های آسان هوش مصنوعی نشوند.

هشدار/هک با شیوه‌ای جدید در تلگرام 🔹مراقب باشید و کلیک نکنید ؛ حتی اگر در ظاهر یکی از نزدیکان‌ آن را برایتان ارسال کرده باشد!

🔵 هوش مصنوعی در هالیوود: انقلاب یا چالش؟ 🔹هالیوود و صنعت سینما همواره در تلاش بوده‌اند تعادلی میان کیفیت هنری آثار و منافع اقتصادی استودیوها برقرار کنند؛ بنابراین طبیعی است که اکنون هوش مصنوعی به یکی از موضوعات مهم تولیدات سینمایی تبدیل شده باشد. اما آیا فیلم‌ها واقعاً از هوش مصنوعی استفاده می‌کنند؟ پاسخ کوتاه «بله» است، اما این ماجرا پیچیدگی‌هایی دارد. https://www.itna.ir/news/88210

  گروک چیزی را دید که از چشم پزشکان اورژانس پنهان مانده بود و جان یک مرد را نجات داد ▪️یک مرد ۴۹ ساله می‌گوید گروک جانش را نجات داد؛ چون پزشک اورژانس درد شدید او را اشتباه تشخیص داده و آن را «ریفلاکس اسیدی» دانسته بود، در حالی که او در آستانه‌ی ترکیدن آپاندیس قرار داشت. مرد که از شدت درد به ستوه آمده بود، از گروک کمک خواست. هوش مصنوعی احتمال «زخم سوراخ‌شده یا آپاندیسیت غیرمعمول» را مطرح کرد و توصیه کرد فوراً به بیمارستان برگردد و درخواست سی‌تی‌اسکن بدهد. ▪️او دقیقاً همین کار را کرد. پس از اصرار برای گرفتن سی‌تی‌اسکن، پزشکان دریافتند آپاندیس او فقط چند دقیقه با پارگی فاصله دارد. شش ساعت بعد جراحی شد و پس از بیدار شدن هیچ دردی نداشت. او به بیمارستان نگفت که این راهنمایی را از یک هوش مصنوعی گرفته، چون می‌ترسید حرفش جدی گرفته نشود! ▪️این ماجرا به‌سرعت وایرال شد و بسیاری گفتند این نشان می‌دهد هوش مصنوعی می‌تواند مواردی را تشخیص دهد که در شلوغی بیمارستان از چشم پزشکان دور مانده است

"ایران" دومین واژه جست‌وجوشده در گوگل در سال ۲۰۲۵ 🔹گوگل طبق روال هر سال, ترندهای سال جاری میلادی را اعلام کرد: اولین واژه پرجست‌وجو در این سال "چارلی کرک" و دومین واژه "ایران" بوده است 🔹بر اساس اعلام گوگل، بیشترین میزان جست‌وجو درباره ایران در فاصله ۸ تا ۱۴ ژوئن ( ۱۸ تا ۲۴ خرداد) انجام گرفته است 🔹سومین واژه پرجست‌وجو در گوگل "government shutdown" یا همان تعطیلی دولت آمریکا بوده است. این تعطیلی که طولانی‌ترین تعطیلی در تاریخ دولت آمریکا به شمار میرود, در پی اختلاف میان کنگره و کاخ سفید بر سر بودجه دولت و یارانه‌های مربوط به سیستم بهداشت و درمان پیش آمد و ۴۳ روز به طول انجامید. 🔹نام "زهران ممدانی" اولین شهردار مسلمان نیویورک هم در جایگاه هشتم قرار دارد.