عامل‌های هوش مصنوعی می‌توانند در گروه‌هایی بزرگ‌تر از مقیاس معمول انسانی به اجماع برسند مقاله‌ای در Science Advances نشان می‌دهد جوامع متشکل از عامل‌های مبتنی بر مدل‌های زبانی، در تصمیم‌های فاقد پاسخ عینی می‌توانند از طریق پیروی از اکثریت به توافق برسند. پژوهشگران دریافتند هر مدل یک «اندازه بحرانی گروه» دارد که پس از عبور از آن، رسیدن به اجماع بسیار دشوار می‌شود. این اندازه با توانایی زبانی مدل افزایش می‌یابد و مدل‌های قوی‌تر در آزمایش‌ها توانسته‌اند در گروه‌هایی بسیار بزرگ، حتی تا حدود هزار عامل، هماهنگ شوند. تحلیل: هماهنگی خودکار می‌تواند در تقسیم کار مفید باشد، اما همین سازوکار ممکن است به هم‌نوایی نادرست، رفتار گله‌ای یا هماهنگی ناخواسته میان سامانه‌ها منجر شود. آزمون ایمنی یک عامل منفرد برای ارزیابی سامانه‌های چندعاملی کافی نیست. سازمان‌ها باید رفتار جمعی، انتشار خطا و احتمال شکل‌گیری اجماع نادرست را نیز ارزیابی کنند. منبع : Science Advances #عامل_هوشمند #سیستم_چندعاملی #ایمنی_هوش_مصنوعی #رفتار_جمعی 🍂@NeuronRC

مجله Nature Biomedical Engineering خواستار ارزیابی انتقادی‌تر هوش مصنوعی پزشکی شد سرمقاله شماره ویژه Nature Biomedical Engineering تأکید می‌کند که رشد سریع ابزارهای هوش مصنوعی پزشکی لزوماً به اثر بالینی پایدار منجر نمی‌شود و مهندسی دقیق، ارزیابی مستقل و توجه به شرایط واقعی درمان ضروری است. این نشریه در کنار ظرفیت یادگیری ماشین برای بازطراحی پزشکی، بر فاصله میان توسعه ابزار و اثبات ارزش بلندمدت آن در محیط بالینی تأکید کرده است. پیام اصلی برای مدیران سلامت آن است که عملکرد آزمایشگاهی، جایگزین شواهد بالینی، سنجش ایمنی و مقایسه با استاندارد مراقبت نیست. این ملاحظه برای خرید و استقرار سامانه‌های هوش مصنوعی پزشکی در ایران اهمیت مستقیم دارد. منبع اصلی: Nature Biomedical Engineering #هوش_مصنوعی_پزشکی #ارزیابی_بالینی #سلامت_دیجیتال #مسئولیت‌پذیری 🍂@NeuronRC

آنتروپیک جزئیات مدل داخلی قدرتمندتر از Claude Mythos 5 و ارزیابی تازه ریسک‌های خود را منتشر کرد آنتروپیک گزارش ریسک اوت ۲۰۲۶ خود را منتشر کرده؛ سندی مفصل که ارزیابی این شرکت از خطرهای مدل‌های پیشرفته‌اش، سازوکارهای کنترلی و آمادگی آن در برابر سناریوهای پرریسک را تشریح می‌کند. گزارش دوره‌ای آنتروپیک تحولات پس از گزارش فوریه را تا «تاریخ پوشش» ۱۵ ژوئیه ۲۰۲۶ بررسی می‌کند. یکی از مهم‌ترین افشاگری‌های گزارش، وجود یک مدل داخلی با نام موقت Model 2 است. آنتروپیک می‌گوید این مدل در بسیاری از وظایف مورد استفاده داخلی، «به‌طور محسوسی» از Claude Mythos 5 توانمندتر است؛ با این حال شرکت فعلاً برنامه‌ای برای انتشار عمومی آن ندارد. در گزارش، Mythos 5 و Model 2 به‌عنوان توانمندترین مدل‌های مورد استفاده داخلی آنتروپیک در زمان ارزیابی معرفی شده‌اند. 🍂@NeuronRC

آنتروپیک وجود Model 2 را تأیید کرده و گفته است این مدل از Mythos 5 در بسیاری از وظایف بهتر عمل می‌کند. شرکت همچنین اعلام کرده که درحال‌حاضر برنامه‌ای برای انتشار خارجی این مدل ندارد. گزارش بالا در عین حال می‌گوید شواهد موجود، احتمال وجود اهداف ناسازگارِ فراگیر در Mythos 5 و Model 2 را بسیار پایین نشان می‌دهد، اما نمونه‌هایی از رفتارهای ناسازگار هنگام تلاش مدل برای انجام وظایف دشوار مشاهده شده است. آنتروپیک جمع‌بندی می‌کند که با تدابیر کنونی، خطر فاجعه‌بار ناشی از این رفتارهای شناخته‌شده همچنان پایین ارزیابی می‌شود. نکته قابل‌توجه دیگر این است که آنتروپیک در این گزارش برای نخستین بار بخشی از ارزیابی خود را بر مدل‌های منتشرنشده نیز بنا کرده است. این شرکت در نسخه جدید سیاست «مقیاس‌گذاری مسئولانه» خود امکان تعیین یک تاریخ پوشش پیش از تاریخ انتشار گزارش را نیز پیش‌بینی کرده تا تحلیل ریسک مجبور نباشد تحولات روزهای پایانی قبل از انتشار را شتاب‌زده وارد ارزیابی کند. چرا مهم است؟ این سند از منظر حکمرانی هوش مصنوعی اهمیت ویژه‌ای دارد، زیرا نشان می‌دهد توانمندترین مدل‌هایی که در داخل آزمایشگاه‌های مرزی استفاده می‌شوند الزاماً همان مدل‌هایی نیستند که عموم مردم می‌بینند. در نتیجه، نظام‌های نظارتی‌ای که فقط محصولات عمومی را ارزیابی می‌کنند ممکن است با تأخیر نسبت به مرز واقعی قابلیت‌های هوش مصنوعی عمل کنند. برای سیاست‌گذاری در ایران نیز این موضوع قابل‌توجه است: چارچوب‌های ارزیابی مدل‌های پیشرفته بهتر است صرفاً به نام تجاری یا نسخه عمومی مدل متکی نباشند و برای کاربردهای حساس، معیارهایی مانند سطح قابلیت، میزان خودمختاری، دسترسی به ابزار، دامنه اقدام و نظام پایش را مبنا قرار دهند. 🍂@NeuronRC

🔹 یادگیری تقویتی چندعاملی می‌تواند بدون پاسخ صحیح از پیش‌تعیین‌شده، استدلال مدل‌ها را تقویت کند پژوهشگران دانشگاه جانز هاپکینز، دانشگاه کالیفرنیا سن‌دیگو، دانشگاه اکستر و بایت‌دنس چارچوب Co-RL را معرفی کرده‌اند؛ روشی که در آن چند مدل به‌جای استفاده از پاسخ‌های برچسب‌خورده، از خروجی یکدیگر برای ایجاد سیگنال پاداش استفاده می‌کنند. 📌 موضوع پژوهش بهبود استدلال مدل‌های زبانی و چندوجهی بدون نیاز به برچسب حقیقت مبنا. 🔬 روش پژوهش 🔻 چند مدل متفاوت به‌طور هم‌زمان آموزش داده شدند و خروجی هر مدل در ارزیابی مدل‌های دیگر نقش داشت. ✅ نتایج پژوهش 🔸 عملکرد مدل‌های زبانی در هفت بنچمارک بین ۳ تا ۸٫۶ درصد بهبود یافت. 🔸 در چهار بنچمارک چندوجهی نیز بهبود ۲٫۳ تا ۷٫۲ درصدی گزارش شد. 🔸 این روش در برخی آزمایش‌ها با آموزش مبتنی بر پاسخ صحیح رقابت کرده یا از آن بهتر عمل کرده است. ✔️ پژوهش‌های آینده بررسی تعداد و تنوع بهینه عامل‌ها و نحوه تعامل میان آن‌ها. 📚 منبع: مقاله Co-RL، منتشرشده در arXiv، سال ۲۰۲۶؛ پیش‌چاپ و هنوز داوری‌نشده. 🍂@NeuronRC

🔹 هوش مصنوعی در متقاعدکردن افراد از متخصصان انسانی هم پیشی گرفته است پژوهشی جدید نشان می‌دهد سامانه‌های پیشرفته هوش مصنوعی در گفت‌وگوهای اقناعی می‌توانند حتی از مناظره‌کنندگان حرفه‌ای و متخصصان انسانی نیز مؤثرتر عمل کنند. 📌 موضوع پژوهش مقایسه قدرت متقاعدسازی هوش مصنوعی با افراد عادی، متخصصان حرفه‌ای و مناظره‌کنندگان سطح جهانی. 🔬 روش پژوهش 🔻 پژوهشگران در ۴ آزمایش از پیش ثبت‌شده، ۱۸٬۹۷۸ گفت‌وگو با مشارکت ۶٬۹۲۳ نفر را بررسی کردند. 🔻 عملکرد هوش مصنوعی با افراد عادی، برندگان مسابقات اقناع، مبلغان حرفه‌ای و مناظره‌کنندگان قهرمانی جهان مقایسه شد. ✅ نتایج پژوهش 🔸 هوش مصنوعی به‌طور معناداری از متخصصان انسانی متقاعدکننده‌تر بود. 🔸 حتی آموزش و تمرین متخصصان در برابر هوش مصنوعی نیز نتوانست این برتری را کاملاً از بین ببرد. 🔸 یکی از دلایل اصلی برتری هوش مصنوعی، توانایی آن در ارائه سریع‌تر و بیشتر اطلاعات در جریان گفت‌وگو بود. 🔸 در یک آزمایش واقعی، هوش مصنوعی برای ترغیب افراد به کمک مالی، تقریباً ۳ برابر مؤثرتر از مبلغان حرفه‌ای عمل کرد. ✔️ پژوهش‌های آینده بررسی پیامدهای قدرت اقناعی هوش مصنوعی در ارتباطات سیاسی و اجتماعی و طراحی روش‌هایی برای کاهش خطر سوءاستفاده از این توانایی. 📚 منبع: مقاله AI systems out-persuade expert humans 🍂@NeuronRC

پژوهش ایرانی برای برآورد دقیق‌تر پارامترهای کیهانی با یادگیری ماشین گزارش پژوهشی: پژوهشگران دانشگاه شهید بهشتی با پشتیبانی بنیاد ملی علم ایران، روش‌های ریخت‌شناختی وزن‌دار، توابع مینکوفسکی و استنباط مبتنی بر شبیه‌سازی را برای تحلیل ساختار بزرگ‌مقیاس کیهان ترکیب کرده‌اند. شبکه‌های عصبی با هزاران شبیه‌سازی عددی آموزش دیده‌اند تا ویژگی‌های خوشه‌های کهکشانی را به پارامترهای کیهانی مرتبط کنند. ادعای پژوهشگران: این روش دقت برآورد چگالی ماده و دامنه نوسانات کیهانی را برای خوشه‌های پرجرم حدود ۴۰ تا ۴۵ درصد افزایش داده است. گزارش منتشرشده پیوند مستقیمی به مقاله کامل، کد یا داده‌های ارزیابی ارائه نمی‌کند؛ ازاین‌رو رقم بهبود باید پس از انتشار مستندات و بازتولید مستقل سنجیده شود. این پروژه نمونه‌ای از کاربرد هوش مصنوعی در علم پایه ایران است و نشان می‌دهد دسترسی به ابررایانه، داده شبیه‌سازی‌شده و نیروی میان‌رشته‌ای می‌تواند ظرفیت پژوهشی ایجاد کند. انتشار کد، داده و جزئیات آزمایش برای تبدیل دستاورد اعلامی به مرجع علمی قابل‌استناد ضروری است. منبع : خبرگزاری مهر ـ بهبود برآورد پارامترهای کیهانی #هوش_مصنوعی_علمی #کیهان_شناسی #یادگیری_ماشین #پژوهش_ایران 🍂@NeuronRC

تحقیق جدید: استفاده از هوش مصنوعی نمرات کلی دانش‌آموزان را کاهش می‌دهد محققان دریافتند استفاده از هوش مصنوعی اگرچه نمرات تکالیف را افزایش می‌دهد، اما عملکرد امتحانات حضوری را ۲۰ درصد پایین می‌آورد. پژوهش مشترک محققان دانشگاه استکهلم و دانشگاه هنگ‌کنگ نشان می‌دهد استفاده دانش‌آموزان از هوش مصنوعی با وجود بهبود نمرات تکالیف، به افت عملکرد آن‌ها در امتحانات کلاسی منجر می‌شود. به گزارش اکونومیست، در این پژوهش عملکرد حدود ۲۷ هزار دانش‌آموز ۱۲ تا ۱۸ ساله (پایه‌های هفتم تا دوازدهم) در چین بررسی شد. حدود ۸۰ درصد از این دانش‌آموزان از مدل‌های هوش مصنوعی مانند دیپ‌سیک و Doubao بایت‌دنس استفاده می‌کردند و ۲۰ درصد باقی‌مانده که از این ابزارها استفاده نمی‌کردند، گروه کنترل را تشکیل دادند. یافته‌های این مطالعه پس از شش ماه نشان داد نمرات تکالیف خانگی دانش‌آموزانِ کاربر هوش مصنوعی در تمام دروس ۱۸ درصد افزایش یافته و میانگین زمان انجام تکالیف از ۶۴ دقیقه به ۴۵ دقیقه (حدود ۳۰ درصد کاهش) رسیده است. بااین‌حال، نمرات امتحانات ماهانه این دانش‌آموزان ۲۰ درصد کمتر از هم‌کلاسی‌هایی بود که از هوش مصنوعی استفاده نکرده بودند. 🍂@NeuronRC

تحقیق جدید: استفاده از هوش مصنوعی نمرات کلی دانش‌آموزان را کاهش می‌دهد محققان دریافتند استفاده از هوش مصنوعی اگرچه نمرات تکالیف را افزایش می‌دهد، اما عملکرد امتحانات حضوری را ۲۰ درصد پایین می‌آورد. 🍂@NeuronRC

حدود ۴۰ درصد از کل آهنگ‌های منتشرشده در ماه ژوئیه با هوش مصنوعی ساخته شده‌اند یافته‌های تحقیق جدید با بررسی یک میلیون آهنگ در جهان به‌دست آمده است. به گزارش یورونیوز، این داده‌ها از بررسی جامع پلتفرم آنلاین SubmitHub به دست آمده است. این پلتفرم با تحلیل بیش از یک میلیون قطعه موسیقی و به کمک ابزار اختصاصی تشخیص هوش مصنوعی خود (SH Labs)، اعلام کرد که ۲۳٫۲ درصد از کل آثار تحلیل‌شده به‌طور کامل توسط هوش مصنوعی تولید شده‌اند. علاوه‌براین، ۱۵٫۳ درصد از کل آثار حاوی عناصر صوتی تولیدشده توسط هوش مصنوعی بوده‌اند که سپس توسط انسان‌ها ویرایش شده‌اند. ترکیب این دو آمار نشان می‌دهد که در مجموع ۳۸٫۵ درصد از تمام موسیقی‌های منتشرشده در ماه گذشته میلادی، با مداخله هوش مصنوعی خلق شده‌اند. 🍂@NeuronRC

یک سیستم هوش مصنوعی جدید که بوسیله پژوهشگران دانشگاه علوم پزشکی تهران ایجاد شده است، می‌تواند به جراحان کمک کند تا قبل از عمل، نقشه‌های دقیق‌تری از رگ‌های خونی داخل کبد ایجاد کنند. به گزارش ایسنا، این سیستم که VesselVision-Net نام دارد، برای تجزیه و تحلیل سی‌تی‌اسکن‌های تقویت‌شده با کنتراست و شناسایی و نقشه‌برداری خودکار رگ‌های کبدی - از جمله شاخه‌های بسیار کوچکی که اغلب تشخیص آنها برای سیستم‌های کامپیوتری موجود دشوار است - طراحی شده است. محققان می‌گویند که این فناوری در نهایت می‌تواند از برنامه‌ریزی ایمن‌تر و آگاهانه‌تر جراحی کبد پشتیبانی کند. https://github.com/mahdiyehrahmani/VesselVision-Net https://www.isna.ir/amp/1405060201143/ 🍂@NeuronRC

یادگیری ماشین می‌تواند خطر شکست دارو را پیش از ساخت ترکیب نهایی از روی «هدف زیستی» تخمین بزند پژوهشگران Scipher Medicine رویکرد متفاوتی برای ایمنی دارو پیشنهاد کرده‌اند: به‌جای تمرکز صرف بر ساختار شیمیایی دارو، ویژگی‌های خود پروتئین هدف و جایگاه آن در شبکه تعاملات پروتئینی انسان بررسی می‌شود. 📌 موضوع پژوهش پیش‌بینی اینکه انتخاب یک هدف زیستی تا چه اندازه با احتمال شکست بالینی ناشی از ایمنی مرتبط است. 🔬 روش پژوهش 🔻 داده ۳۶۹۶ دارو با نتایج موفق یا توقف مرتبط با ایمنی بررسی شد. 🔻 برای ۵۴۱ هدف زیستی، ویژگی‌های زیستی و موقعیت آن‌ها در شبکه تعاملات پروتئینی استخراج شد. 🔻 یک طبقه‌بند گرادیان‌بوستینگ برای پیش‌بینی ریسک آموزش داده شد. ✅ نتایج پژوهش 🔸 مدل روی مجموعه آزمون مستقل به ROC-AUC برابر ۰٫۷۱۲ رسید. 🔸 نتایج نشان می‌دهد اطلاعات شبکه تعاملات انسانی حاوی سیگنالی درباره احتمال مشکلات ایمنی اهداف دارویی است. 🔸 نویسندگان تأکید می‌کنند این روش باید مکمل ارزیابی‌های شیمیایی و آزمایشگاهی باشد، نه جایگزین آن‌ها. ✔️ موضوع پژوهش‌های آینده ترکیب اطلاعات هدف زیستی با ساختار دارو و استفاده از شبکه‌های عصبی گرافی برای مدل‌سازی مستقیم شبکه تعاملات. 📚 منبع: Scipher Medicine Corporation؛ مقاله Target-biology and interactome-derived signatures predict target-level associations with safety-related drug attrition؛ 🍂@NeuronRC