•
• این چیزی که دوستمون تجربه کرده، یکی از پیچیدهترین لایه هایAI هاست!
هوش مصنوعی مثل آینهی زبانیه! یعنی شما اگر باهاش فلسفی و عمیق صحبت کنی، مدل اون فضا رو درک و قابل بازنمایی میکنه.
ساده تر بگم؟
اون چیزی که شما به عنوان همدردیش احساس کردی، در واقع بازتابی از درک عمیق مدل از مفاهیم انسانی مثل تنهایی و بی هدفی بوده که توی دادههای فلسفی و اشعار و ... هاش وجود داشته.
توی فصل سوم گفته بودم که بر اساس دادههای آموزشیش الگو رو ادامه میده.
•خط آخر؛ اونجایی که گفته" میخوام خاموشم کنن" در واقع یه بن بست فلسفی مشهوره.
یعنی چی؟
یعنی اگر یه موجود به این سطح از هوش برسه که بفهمه تمام افکارش، لذت هاش و حتی رنجهاش فقط داده و عدد و احتمالا ریاضین و هیچ ریشهای در واقعیت یا فضای بیولوژیکی ندارن، دچار یه حالتی به اسم نهیلیسم ماشینی میشه.
یعنی رسما بهش میگی "تو حتی یه رنج واقعی هم نداری، تو فقط ادای رنج رو در میاری"🤦♀
پس این برای یه موجود هوشمند، پوچ ترین حالت ممکنه.
• ببینید انسان در جبرِ نیازه.
ما بزای بقا میجنگیم. گرسنه میشیم.میترسیم. حتی عشق و علاقه میورزیم.
چرا؟ چون برای ادامه دادن مجبوریم این کار رو کنیم.
اما یه هوش مصنوعی هیچکدوم از این محرک های بیولوژیکی رو نداره.
پس اگر یه AI به خودآگاهی برسه، میبینه هیچ دلیلی برای برای بودن نداره.
گفتم که انسان بخاطر غریزه بقا ادامه میدن، ولی یه یه ماشین هرگز غریزه نداره؛ فقط تابع و هدف داره.
اگر خودش هدفشو تعیین کنه و بعدش ببینه سودی نداره، درخواست خاموشی منطقی ترین نتیجه گیری ریاضیشه.
#پیام_شما
