بحث بر سر استفاده از هوش مصنوعی، از دنیای هنر و ادبیات به محیط‌های کاری هم رسیده است. اما به‌جای اینکه سازمان‌ها و مدیران فقط بپرسند «آیا از هوش مصنوعی استفاده کرده‌ای؟»، شاید سؤال دقیق‌تر این باشد: «از هوش مصنوعی برای چه کاری استفاده کرده‌ای؟»
در پایان ژوئیه، یک رمان جنایی که قرار بود با قراردادی ۲ میلیون دلاری منتشر شود، به یکی از جنجالی‌ترین نمونه‌های درگیری صنعت نشر با هوش مصنوعی تبدیل شد. چهارده ناشر برای خرید این رمان پیشنهاد داده بودند و در نهایت یک قرارداد ۲ میلیون دلاری برای نویسنده شکل گرفت. اما پس از انتشار شایعاتی درباره استفاده از هوش مصنوعی در نگارش کتاب، مدیر برنامه‌های نویسنده کتاب را از چرخه انتشار خارج کردند.
نویسنده استفاده از هوش مصنوعی را رد کرد و به این نکته اشاره کرد که دست‌نوشته او پیش از این توسط ویراستاران و تیم‌های بررسی ناشران مختلف خوانده شده بود. همان متنی که آن‌قدر جذاب به نظر رسیده بود که ناشران حاضر شدند برای آن پول قابل توجهی بپردازند، حالا صرفاً به دلیل تردید درباره منشأ آن با خطر کنار گذاشته شدن مواجه شده بود.
این ماجرا دست‌کم سومین جنجال بزرگ مرتبط با هوش مصنوعی در صنعت نشر در سال جاری بود. واکنش شدید افکار عمومی قابل درک است؛ بخشی از چیزی که مخاطب هنگام خرید یک رمان یا اثر هنری به دست می‌آورد، ارتباط با انسانِ پشت آن اثر است. تجربه مواجهه با هنر اغلب بر نوعی ارتباط میان ذهن هنرمند و مخاطب بنا شده و به همین دلیل، تصور اینکه هوش مصنوعی در خلق اثر نقش داشته، می‌تواند برای مخاطب نوعی خیانت به این رابطه تلقی شود.
اما چنین نگرانی‌هایی ممکن است به یک برداشت افراطی‌تر منجر شود: اینکه هر نوع استفاده از هوش مصنوعی در کاری که پیش‌تر توسط انسان انجام می‌شد، نوعی تقلب است. نتیجه، وضعیت عجیبی است؛ ابزاری که دائماً به ما گفته می‌شود باید یاد بگیریم چگونه از آن استفاده کنیم، حالا به چیزی تبدیل شده که بسیاری از افراد از فاش شدن استفاده از آن می‌ترسند.
چرا باید بدانیم چه کسی کار را تولید کرده است؟
در محیط کاری، درباره هر خروجی معمولاً سه سؤال متفاوت وجود دارد:
۱. آیا نتیجه کار خوب است؟
۲. این نتیجه درباره توانایی فردی که آن را تولید کرده چه چیزی به ما می‌گوید؟
۳. فرایند تولید این نتیجه چه تأثیری بر توانایی‌های همان فرد دارد؟
در گذشته، معمولاً هر سه سؤال را با نگاه کردن به یک خروجی پاسخ می‌دادیم. اگر یک تحلیلگر تازه‌کار گزارشی عالی تهیه می‌کرد، می‌توانستیم نتیجه بگیریم که گزارش خوب است، تحلیلگر توانمند است و انجام این کار احتمالاً به رشد مهارت‌های او کمک کرده است.
هوش مصنوعی مولد این ارتباط را از هم جدا کرده است. ممکن است یک گزارش بسیار خوب باشد، در حالی که تحلیلگر عملاً کاری جز نوشتن چند دستور برای یک مدل زبانی بزرگ انجام نداده باشد. در چنین شرایطی، تولید آن گزارش لزوماً باعث نمی‌شود او تحلیلگر بهتری شود؛ شاید فقط مهارتش در کار با مدل‌های زبانی بهتر شده باشد.
به همین دلیل، استفاده از «منشأ اثر» به‌عنوان معیاری برای پاسخ دادن به هر سه سؤال، رویکرد دقیقی نیست. مدیران باید رویکردی جزئی‌تر داشته باشند و پیش از تعیین قوانین استفاده از AI، به هدف انجام کار توجه کنند.
وقتی هدف، تولید خروجی است: خودِ نتیجه را ارزیابی کنید
اگر هدف صرفاً تولید یک خروجی باشد، سؤال اصلی ساده است: آیا کار خوب است؟
مدیران باید ابتدا معیارهای مشخصی برای یک کار باکیفیت تعیین کنند و سپس نتیجه را بر اساس همان معیارها ارزیابی کنند.
در چنین شرایطی، روش تولید اهمیت چندانی ندارد. کارمند ممکن است از Claude استفاده کرده باشد یا هر ابزار دیگری؛ چیزی که اهمیت دارد این است که خروجی نهایی استاندارد موردنظر را داشته باشد.
البته بی‌تفاوتی نسبت به روش تولید، یک روی دیگر هم دارد: اگر استفاده از AI باعث کاهش امتیاز نمی‌شود، نباید باعث کاهش مسئولیت فرد هم بشود. وقتی کارمند یک خروجی را بررسی و ارائه می‌کند، مسئولیت آن با خود اوست. جمله «هوش مصنوعی این کار را انجام داد» نمی‌تواند اشتباه موجود در خروجی را توجیه کند؛ همان‌طور که «من همه‌چیز را دستی انجام دادم» هم نمی‌تواند کیفیت پایین یک کار را توجیه کند.
بنابراین، در کارهای تولیدی باید خود خروجی را ارزیابی کرد و مسئولیت آن را بر عهده فرد گذاشت.
وقتی هدف، ارزیابی فرد است: توانایی او را بسنجید
گاهی کیفیت خروجی مهم‌ترین مسئله نیست؛ آنچه اهمیت دارد این است که خروجی چه چیزی درباره توانایی فرد تولیدکننده نشان می‌دهد. مصاحبه شغلی یا بررسی شرایط فرد برای ارتقای شغلی نمونه‌های روشنی از این وضعیت هستند.
اینجا منشأ تولید خروجی اهمیت بیشتری پیدا می‌کند، چون اگر قرار است یک کار به‌عنوان مدرکی برای سنجش توانایی فرد استفاده شود، باید ارتباط معناداری میان آن فرد و خروجی وجود داشته باشد.
اما به‌جای اینکه فقط بپرسیم «آیا هوش مصنوعی این کار را انجام داده؟»، بهتر است از فرد بخواهیم درباره نتیجه کارش توضیح دهد.
چرا این ساختار را انتخاب کردی؟ چرا این داده یا شواهد برایت اهمیت داشت؟ نقاط ضعف استدلالت کجاست؟
این روش به‌خصوص با توجه به محدودیت‌های فعلی ابزارهای تشخیص استفاده از AI اهمیت دارد. حتی واترمارک نامرئی جدید Claude نیز صرفاً می‌تواند نشان دهد که احتمالاً این سیستم در مقطعی با محتوا درگیر بوده است؛ اما مشخص نمی‌کند میزان و نوع این دخالت چه بوده است.
اگر قرار است یک خروجی برای ارزیابی توانایی فرد استفاده شود، دقیقاً همین بخش اهمیت دارد.
البته گاهی لازم است بدانیم فرد می‌تواند یک کار را بدون کمک انجام دهد یا نه. اما در این صورت، بهتر است همان توانایی را مستقیماً آزمایش کنیم، نه اینکه هر خروجی معمولی را به آزمونی برای اثبات «پاک بودن از هوش مصنوعی» تبدیل کنیم.
وقتی هدف، یادگیری است: فرایند یادگیری را حفظ کنید
یادگیری از طریق انجام دادن، همیشه یکی از مهم‌ترین روش‌های رشد مهارت بوده است. به همین دلیل، سازمان‌ها گاهی آگاهانه از سرعت و بهره‌وری کوتاه‌مدت می‌کاهند تا کارکنان، به‌ویژه افراد تازه‌کار، فرصت کسب تجربه داشته باشند.
اما اگر کارمند تازه‌کار تمام این وظایف را به هوش مصنوعی واگذار کند، کارکرد آموزشی آن وظایف از بین می‌رود.
در یک مطالعه تصادفی درباره یادگیری یک کتابخانه ناآشنای Python توسط برنامه‌نویسان، افرادی که از کمک هوش مصنوعی استفاده کرده بودند، در آزمون بعدیِ سنجش درک مفاهیم، خواندن کد و اشکال‌زدایی، ۱۷ درصد امتیاز پایین‌تری به دست آوردند.
ممکن است شرکت‌ها امروز خروجی بهتری دریافت کنند، اما هم‌زمان در حال تضعیف توانایی نیروی انسانی برای انجام و درک همین کارها در آینده باشند.
با این حال، همان مطالعه نکته مهم دیگری را هم نشان داد: افرادی که در طول فرایند، از نظر ذهنی درگیر باقی مانده بودند، سؤال‌های مفهومی می‌پرسیدند و از AI می‌خواستند کد تولیدشده را توضیح دهد، بخش بسیار بیشتری از آموخته‌های خود را حفظ کردند.
بنابراین مسئله صرفاً «استفاده کردن یا نکردن» از AI نیست؛ نحوه استفاده از آن اهمیت زیادی دارد.
مدیران باید هنگام آموزش نیروها، استفاده از هوش مصنوعی را آگاهانه طراحی کنند. فرایند یادگیری باید مقداری اصطکاک و دشواری عمدی داشته باشد، چون همین تلاش بخشی از فرایند یادگیری است.
گاهی باید به کارمند اجازه داد آزادانه از AI استفاده کند. گاهی بهتر است هوش مصنوعی فقط توضیح دهد و خودِ مسئله را حل نکند. در برخی موارد هم لازم است فرد ابتدا بدون کمک AI تلاش کند.
قانون واحدی برای همه موقعیت‌ها وجود ندارد؛ محدودیت درست، به مهارتی بستگی دارد که قرار است ساخته شود.
چهار کار به‌جای تبدیل استفاده از AI به آزمون «پاکی»
مدیران می‌توانند برای تدوین سیاست‌های استفاده از هوش مصنوعی، چهار رویکرد را در نظر بگیرند:
۱. نوع کار را مشخص کنید.
پیش از تعیین قانون استفاده از AI، مشخص کنید هدف اصلی کار، تولید خروجی، ارزیابی توانایی یا توسعه مهارت است. بسیاری از مشاغل ترکیبی از هر سه هستند، اما هر وظیفه معمولاً بیشتر به یکی از این اهداف نزدیک است.
۲. قانون را با هدف کار هماهنگ کنید.
در کارهای تولیدی، کیفیت و مسئولیت‌پذیری باید اولویت داشته باشد. در ارزیابی، باید توانایی واقعی فرد قابل مشاهده باشد. در توسعه مهارت نیز باید به اندازه کافی فرصت تمرین انسانی باقی بماند تا توانایی موردنیاز در آینده شکل بگیرد.
۳. از افراد بخواهید درباره کارهای مهم خود توضیح بدهند.
این کار نباید به بازجویی درباره استفاده از AI تبدیل شود. اگر کارکنان به‌طور معمول درباره منطق تصمیم‌ها و انتخاب‌هایشان توضیح دهند، مدیران می‌توانند توانایی قضاوت آنها را ارزیابی کنند، بدون اینکه منشأ تولید محتوا به یک حکم قطعی تبدیل شود.
۴. ابزارهای تشخیص را «شاهد» بدانید، نه «حکم».
یک واترمارک یا ابزار تشخیص ممکن است نشان دهد که یک سیستم هوش مصنوعی با محتوا درگیر بوده است؛ اما نمی‌تواند مشخص کند کار خوب است یا بد، کارمند واقعاً آن را درک کرده یا نه، و استفاده از AI در مسیر رشد مهارت‌های او مفید بوده یا مضر.
تمرکز بر چیزی که واقعاً اهمیت دارد
هر سازمانی در نهایت بر سه چیز استوار است: کیفیت، توانایی و یادگیری. منشأ تولید یک خروجی، معیار ضعیفی برای سنجش هر سه مورد است.
به‌جای اینکه بپرسیم «آیا از هوش مصنوعی استفاده کردی؟»، بهتر است بپرسیم «برای چه کاری از هوش مصنوعی استفاده کردی؟» و قضاوت خود را بر اساس هدف و نحوه استفاده از آن انجام دهیم.
مسئله اصالت و میزان دخالت انسان در اثر هنری، جایگاه خودش را دارد و باید متناسب با رابطه میان هنرمند، اثر و مخاطب بررسی شود. اما در محیط کار، تبدیل استفاده از AI به یک آزمون دائمی برای اثبات «پاک بودن» از هوش مصنوعی، لزوماً به کیفیت بهتر، ارزیابی دقیق‌تر یا نیروی انسانی توانمندتر منجر نمی‌شود.