در روزهای اخیر، کاربران با استفاده از هوش مصنوعی Midjourney، تصاویر جعلی زیادی را ساخته و وایرال کرده اند. تصاویر منتشر شده مانند تصاویری از دستگیری دونالد ترامپ، پاپ فرانسیس و حتی یک زلزله‌ای جعلی بودند. جعلی‌بودن این تصاویر به سرعت شناسایی شد.
گویا کاربران زیادی دست به سوءاستفاده زده اند. همین امر باعث شده است شرکت Midjourney تصمیم بگیرد امکان استفاده رایگان از مدل هوش مصنوعی خود را لغو کند. در نسخه رایگان آزمایشی، کاربران می‌توانستند تا ۲۵ تصویر جعلی بسازند. بعد از این اتفاق کاربران باید برای دسترسی به قابلیت های میدجرنی باید حداقل ماهانه ۱۰ دلار پرداخت شود.
مدیرعامل Midjourney، دیوید هولز، در دیسکورد این موضوع را مطرح کرده است. او گفته به دلیل تقاضای بالا و همچنین سوءاستفاده کاربران، شرکت تصمیم گرفته است تا ارائه نسخه رایگان آزمایشی این مدل را متوقف کند. هولز بیان کرد که ابزارهای امنیتی جدید نمی‌توانند از سوءاستفاده کاربران در نسخه رایگان جلوگیری کنند. او لغو این امکان را ضروری اعلام کرد. با این حال، هولز گفت در آینده مدل هوش مصنوعی Midjourney دوباره به صورت رایگان در دسترس کاربران قرار خواهد گرفت.
نگرانی ها و مشکلات هوش مصنوعی Midjourney
با توجه به تعداد زیادی از تصاویر جعلی که با استفاده از این مدل ساخته شده‌اند، نگرانی های زیادی در مورد سوءاستفاده از این ابزارها وجود دارد. خطرات و نگرانی هایی از قبیل:
افزایش فراوان در انتشار اخبار جعلی و دیپ‌فیک‌ها
با اینکه تعدادی از این تصاویر جعلی در کمتر از 24 ساعت شناسایی شده‌اند، اما همچنان این تصاویر در فضای مجازی پخش می‌شوند. انتشار این تصاویر ممکن است کاربران زیادی را به اشتباه بیندازد. و عده ای آنها را به عنوان اخبار واقعی در نظر بگیرند.
آسیب رساندن به سیاستمداران و شخصیت‌های مشهور
این ابزارها می‌توانند به راحتی برای ساخت تصاویر جعلی از سیاستمداران، شخصیت‌های مشهور و حتی شما استفاده شوند. این ممکن است باعث آسیب جدی به موجودیت و شخصیت بسیاری افراد جامعه شود.
نقض حریم خصوصی در هوش مصنوعی Midjourney
با استفاده از این ابزارها، افراد می‌توانند تصاویر جعلی از دیگران ساخته و در فضای مجازی منتشر کنند. این کار می‌تواند به نقض حریم خصوصی بسیاری افراد حتی افراد ناشناس منجر شود.
بیشتر بخوانید: با هوش مصنوعی هنرمند “Midjourney” آشنا شوید
با توجه به این نگرانی‌ها، تصمیم Midjourney برای محدود کردن دسترسی خود به کاربران پولی برای استفاده تجاری، قابل درک است. با این حال، این تصمیم ممکن است در آینده بازنگری شود. هوش مصنوعی می تواند با شرایطی متفاوت تر به‌صورت رایگان در اختیار کاربران قرار گیرد. شرایطی که بتواند از سوءاستفاده های احتمالی کاربران جلوگیری کند.
آیا Midjourney دوباره رایگان می‌شود؟
Midjourney، یکی از مدل‌های هوش مصنوعی پیشرفته است که با استفاده از شبکه‌های عصبی عمیق، قادر به تولید تصاویر با کیفیت بالا و مشخصات دلخواه کاربر است. به تازگی، نسخه 5 این مدل بهبود‌های قابل توجهی داشته است. به عنوان مثال، نورپردازی و بافت تصاویر بهبود یافته و این امکان وجود دارد که تصاویر اشخاص و مکان‌های مختلف تولید شوند. با این حال، این پیشرفت‌ها باعث شده است که برخی از کاربران به سوءاستفاده از این ابزار بپردازند و تصاویر جعلی تولید کنند.
این امر قبلاً هم برای Midjourney رخ داده است. به عنوان مثال، در سال گذشته، این شرکت ساخت تصاویر رئیس‌جمهور چین را ممنوع کرده بود. اما با توجه به پیشرفت‌هایی که در نسخه 5 این مدل دیده می‌شود، شرکت در حال تلاش برای ارائه رویکردی مناسب به منظور کاهش سوءاستفاده از این ابزار است. در حال حاضر، نسخه رایگان این مدل در دسترس کاربران قرار ندارد، اما شرکت امیدوار است که در آینده نسخه آزمایشی و رایگان را مجدداً ارائه دهد. هولز، مدیر عامل Midjourney، اعلام کرده است که شرکت تحت مدیریتش در حال تلاش برای ارائه رویکردی مناسب به منظور ارائه دوباره نسخه رایگان است.