بسیاری از هنرمندان نگران قدرت هوش مصنوعی در شکل های مختلف آن هستند. پیشرفت مدلهای متن به تصویری مانند DALL-E 2، Midjourney و Stable Diffusion روز به روز بیشتر می شود. اما حالا حتی برخی از افراد سرشناس همچون ایلان ماسک که در توسعه این فناوری شرکت دارند نیز نگران شده‌اند. وقتش شده که بیشتر از همیشه از این نورسیده فناوری بترسیم.
فعالان نوآوری از چه چیزی بیم دارند؟
بیش از ۱۰۰۰ نفر از کسانی‌که در این زمینه فعالیت داشته‌اند، در یک نامه نگرانی ها و دغدغه هایشان را در مورد این تکنولوژی جدید گفته اند. ایلان ماسک که یکی از سرمایه گذاران اولیه در این زمینه است، به همراه دیگر مدیران، برای ممنوعیت ۶ ماهه فوری مدل های مختلف هوش مصنوعی تقاضا داده اند. آنها بیان کرده اند که ادامه این برنامه ها با این روند ممکن است خطرات بالقوه ای برای آینده تمدن داشته باشد.
این نامه را موسسه آینده زندگی منتشر کرده است. در این نامه متخصصان هشدار می دهند که هوش مصنوعی به یک رقابت خطرناک تبدیل شده است. در نقطه ای هستیم که سیستم های هوش مصنوعی با هوش انسان رقابت می کنند. این رقابت بسیار خطرناک است. و ممکن است خطرات عمیقی برای جامعه و بشریت به وجود آورد.
آنها می‌خواهند تا شش ماه توسعه GPT-4 از سوی OpenAI متوقف شود. در این نامه همچنین آمده است که اگر توقف به سرعت اجرا نشود، دولت‌ها باید وارد شوند و تعلیق را اجرا کنند.
در نامه، به طور غمگینی پرسیده می‌شود: “آیا باید همه‌ی شغل‌ها را به وسیله‌ی اتوماسیون از بین ببریم؟ حتی کارهایی که برایمان لذت بخش هستند؟ آیا باید ذهن‌های غیر انسانی را توسعه دهیم که ممکن است در آینده تعدادشان بیشتر از ما شوند؟ ذهنهایی که با هوش بیشتر می توانند ما را پشت سر بگذارند؟ آیا هوش مصنوعی می تواند انسان را منسوخ کند و جایگزین بشر شود؟ آیا ما باید کنترل تمدن انسانی خود را از دست بدهیم؟
پروتکل هایی برای هوش مصنوعی
در ادامه این نامه تأکید شده است که: “سیستم‌های هوشمند قدرتمند باید تنها در صورتی توسعه داده شوند که اطمینان حاصل شده باشد اثرات آنها مثبت و خطرات آنها قابل مدیریت باشند”. آنها درخواست کرده اند که آزمایشگاه های هوش مصنوعی و متخصصین باید در این زمان توقف پیشرفت؛ مجموعه ای از پروتکل های ایمنی را برای طراحی و توسعه هوش مصنوعی، توسعه دهند. پروتکل هایی که به صورت دقیق با کمک متخصصین خارجی و مستقل، بازبینی و نظارت شوند.
چه چیزی ترسناک است؟
ترس از اینکه هوش مصنوعی ممکن است منجر به پایان تمدن آنگونه که ما می دانیم شود، چیز جدیدی نیست. اما آنچه که ترسناک است اکنون ترس خود توسعه دهندگان این مدلهای هوش مصنوعی است. حالا که افراد درگیر در این زمینه، نگران هستند، اوضاع کمی فرق کرده است.
این نامه را عماد مستق، مدیر عامل Stability AI توسعه‌دهنده Stable Diffusion و همچنین ایلان ماسک، که قبلاً سرمایه‌گذار در توسعه‌دهندگان DALL-E و ChatGPT Open AI بود، امضا کرده اند. سایر امضاکنندگان این نامه، استیو وزنیاک، هم‌بنیانگذار اپل، یوشوا بنیگو دانشمند کامپیوتر کانادایی، استوارت راسل محقق هوش مصنوعی، محققان آزمایشگاه تحقیقاتی هوش مصنوعی آلفابت DeepMind و رئیس طراحی متا کریستوفر ریردون هستند.
نگرانی‌های آنها سرعت سرگیجه‌آور توسعه هوش مصنوعی را نشان می‌دهد. اکنون به نقطه‌ای رسیده ایم که حتی توسعه‌دهندگان مدلهای هوش مصنوعی نیز نمی‌دانند ساخته‌هایشان دقیقاً چه کاری می‌توانند انجام دهند یا چگونه رفتار خواهند کرد. این نشان می‌دهد که ما باید راه‌هایی را برای کنترل هوش مصنوعی بیابیم. همچنین لازم است قوانین جدیدی باید برای حل مسائل خاص مانند کپی رایت و دیپ‌فیک تعریف شوند.
