«عاملیتِ در خطر»

✴️ حتی اگر اوضاع به تیرگی فیلم‌های پادآرمان‌شهری علمی-تخیلی نباشد، تحولات هوش مصنوعی امکان‌های بیگانه و تقریبا سیاهی را پیش روی خودش می‌بیند که بعضی از آنها همچون نمایان شدن فناوری به مثابه عاملیتی مستقل، برآمدن چهره‌ای انسان‌گونه از عامل مصنوعی و اثرگذاری پیشرفت هوش مصنوعی بر کیفیت و کمیت مشاغل در دو نشستی که با عنوان «الهیات سیاسی هوش مصنوعی» در ماه گذشته از سوی انجمن علمی گروه #فلسفه_علم، انجمن علمی دانشکده #کامپیوتر و انجمن تکینگی دانشگاه شاهد برگزار شد، مورد بحث قرار گرفت.

🔹 #امیرحسین_حاجی‌شمسایی، فارغ‌التحصیل دانشکده کامپیوتر که سابقه نسبتا طولانی در پژوهش در زمینه هوش مصنوعی و علوم شناختی و فلسفه سیاسی دارد، به عنوان ارائه‌دهنده این دو نشست، بحث خودش را با یک آزمایش ذهنی آغاز کرد. نام این آزمایش Roko's Basilisk است که نخستین بار در فروم LessWrong طرح شده. در این آزمایش ذهنی طراح با به‌کارگیری ابزارهایی از نظریه بازی و دیگر ابزارهای ریاضیاتی نتیجه می‌گیرد که احتمال دارد در آینده‌ای نه چندان دور، ما با یک هوش جامع مصنوعی (AGI) طرف شویم که از یک روش استنتاج اخلاقی ویژه خود پیروی می‌کند و ممکن است بر اساس این روش استنتاج تصمیم بگیرد افرادی را که از امکان وجودش باخبر بوده‌اند، اما برای پدید آمدنش به قدر کافی نکوشیده‌اند مجازات کند. این احتمال آن‌چنان هولناک و شگفت‌انگیز بوده که موجب شده عده‌ای از محققان از نقاط مختلف چمدان‌هایشان را ببندند و برای کار در حوزه هوش‌ مصنوعی راهی سیلیکون‌ولی شوند؛ شاید راه نجاتی از دست این هیولای Basilisk پیدا کنند.

🔹 حاجی‌شمسایی در ادامه نشست اول به ارائه تصویری از روند رشد فناوری‌های مرتبط با هوش مصنوعی و یادگیری ماشین پرداخت. او داستان این روند را از دهه ۵۰ میلادی آغاز کرد؛ جایی که توسعه ابزارهای هوش مصنوعی بر محور گسترش توانایی استدلال‌شان می‌چرخید. سپس سخن از دوران یخبندان هوش مصنوعی و توقف رشد فناوری‌های مرتبط به میان آمد و از چگونگی پایان این دوران به کمک دستگاه‌های سخت‌افزاری جدید و توجه روزافزون به مفاهیم و روش‌های یادگیری‌محور در کار بر روی هوش مصنوعی صحبت شد و بحث به سرعت شگفت‌انگیز رشد فناوری‌های مرتبط با این زمینه‌ها در دو ده اخیر رسید که بسیاری از پیش‌بینی‌هایی را که تحقق گام‌های لازم برای چنین رشدی را به آینده‌ای دور نسبت می‌دهند، در هم شکتسه است. در پایان نشست اول، حاجی‌شمسایی با ترسیم نقشه‌ای از همین تحولات این ایده را مطرح کرد که مسیر رشد عامل‌های مبتنی بر هوش مصنوعی به خودمختاری (autonomy) آن‌ها ختم می‌شود.

🔹 در نشست دوم پیامد‌های اقتصادی و سیاسی گسترش روزافزون فناوری‌های مرتبط با هوش مصنوعی مورد بررسی قرار گرفت و این سوال به میان آمد که چرا انسان به دنبال این است که عاملیتی که از ابتدای دوران مدرن منحصر به خودش بوده را به موجودی دیگر واگذار کند.

🔹 ارائه‌دهنده در این جلسه ابتدا تذکر داد که برخلاف شهود عموم مردم، گسترش فناوری در چند دهه اخیر نسبت به دوره‌های پیشین یک فرآیند خطی را طی نکرده است. او نسبت به بسیاری از افراد تأثیرگذاری که از داخل یا خارج محیط آکادمیک به رابطه هوش مصنوعی و اقتصاد و سیاست می‌پردازند، خرده گرفت و آن‌ها را به طور خاص از لحاظ دست‌کم گرفتن پیامدهای اقتصادی و سیاسی ‌پیشرفت هوش مصنوعی در اشتباه دانست.

🔹 در ادامه جلسه دوم دلایل تمایل انسان مدرن به واگذاری عاملیت انحصاری خود به فناوری و سوق دادن آن به سوی خودمختاری مورد بحث قرار گرفت. در این بخش ابتدا به مواردی مانند خستگی انسان مدرن از سوژه بودن ویژه خود اشاره و عواملی چون متحرک بودن برخی فناوری‌های وابسته به هوش مصنوعی و هدفمندی آن‌ها به‌عنوان علل تشدید نگاه انسان‌گونه افراد به این فناوری‌ها معرفی شد، اما حاجی‌شمسایی در ادامه نکته‌ای مهم‌تر را مطرح کرد؛ اینکه نباید به فناوری به شکل ابزاری نگاه کرد که تحت اراده تام و تمام انسان قرار دارد، بلکه باید عاملیتی مستقل، به‌ویژه در دهه‌های اخیر را برای آن به رسمیت شناخت که بخش مهمی از گسترش فناوری و حرکت آن به سمت خودمختاری نیز در سایه همین عاملیت رخ می‌دهد.

🎙 صوت این دو نشست را در لینک‌های زیر می‌توانید بشنوید:

🎧 صوت نشست اول

🎧 صوت نشست دوم

🔵 @SharifToday