معاون سیاست‌گذاری، برنامه‌ریزی توسعه فاوا و اقتصاد دیجیتال با تأکید بر ضرورت بازطراحی همکاری میان انسان و هوش مصنوعی در سازمان‌ها، تعیین حدود اختیار، حفظ فرصت یادگیری کارکنان و ایجاد سازوکارهای روشن پاسخ‌گویی را پیش‌شرط توسعه کاربرد عامل‌های هوشمند در محیط‌های کاری دانست.

احسان چیست ساز، معاون سیاست‌گذاری، برنامه‌ریزی توسعه فاوا و اقتصاد دیجیتال در بیست‌ویکمین کنفرانس بین‌المللی توسعه منابع انسانی، در سخنرانی خود با عنوان حکمرانی همکاری انسان و عامل هوش مصنوعی در سازمان، ورود عامل‌های هوشمند به جریان‌های کاری را موضوعی فراتر از خرید و استقرار فناوری عنوان کرد و گفت: پیش از آنکه اختیار اقدام به یک عامل هوشمند واگذار شود، باید مشخص شود این عامل به چه داده‌هایی دسترسی دارد، تا چه سطحی می‌تواند به‌صورت مستقل اقدام کند، در چه نقاطی نیازمند تأیید انسان است و در چه شرایطی باید فعالیت آن متوقف شود.

وی با اشاره به یک سناریوی استخدامی توضیح داد: اگر عاملی هوشمند وظیفه بررسی رزومه‌ها و رتبه‌بندی متقاضیان را برعهده داشته باشد، این پرسش مطرح است که آیا باید اختیار ارسال مستقیم نامه رد استخدام را نیز داشته باشد یا خیر. پاسخ به این پرسش صرفاً به دقت مدل وابسته نیست و اعتبار معیارهای ارزیابی، پیامد تصمیم برای متقاضی، امکان بازبینی و همچنین مسئولیت رسیدگی به خطا باید در طراحی این فرایند مورد توجه قرار گیرد.

چیت ساز با مرور یافته‌های پژوهشی درباره همکاری انسان و هوش مصنوعی افزود: این فناوری در برخی وظایف می‌تواند به افزایش بهره‌وری و تسهیل دسترسی کارکنان کم‌تجربه به دانش حرفه‌ای کمک کند، اما نتیجه این همکاری به نوع وظیفه، قابلیت مدل و نحوه تقسیم کار میان انسان و هوش مصنوعی وابسته است و صرف کنار هم قرار گرفتن انسان و عامل هوشمند، به‌تنهایی عملکرد بهتر را تضمین نمی‌کند.

معاون سیاست‌گذاری، برنامه‌ریزی توسعه فاوا و اقتصاد دیجیتال همچنین بر ضرورت ارزیابی مستقل خروجی‌های تولیدشده توسط عامل‌های هوشمند تأکید کرد و گفت: روانی و انسجام یک پاسخ نباید با درست بودن آن اشتباه گرفته شود و سازمان‌ها باید در کنار سرعت انجام کار، شاخص‌هایی مانند خطاهای پرهزینه، میزان بازکاری، عدالت در تصمیم‌ها و حفظ توانایی قضاوت مستقل کارکنان را نیز مورد سنجش قرار دهند.

منابع انسانی؛ معمار همکاری انسان و عامل

وی نقش واحدهای منابع انسانی را در بازطراحی این همکاری، محوری دانست و اظهار کرد: تحلیل مشاغل در عصر عامل‌های هوشمند باید علاوه بر وظایف، فعالیت‌ها، نقاط تصمیم‌گیری و حدود اختیار انسان و عامل را نیز مشخص کند.

چیت ساز ادامه داد: برنامه‌های توسعه کارکنان نیز نباید صرفاً بر آموزش نحوه استفاده از ابزارهای هوش مصنوعی متمرکز باشد، بلکه باید فرصت تمرین مستقل، تشخیص خطا و توضیح استدلال را برای کارکنان حفظ کند تا توانمندی حرفه‌ای و قدرت قضاوت انسانی در فرایندهای سازمانی تضعیف نشود.

معاون سیاست‌گذاری، برنامه‌ریزی توسعه فاوا و اقتصاد دیجیتال با معرفی چارچوب پیشنهادی «پیمان» برای سامان‌دهی همکاری انسان و عامل هوش مصنوعی، پنج مؤلفه پاسخ‌گویی معلوم، یادگیری و سلامت مهارت، مرز اختیار، ارزیابی اثر و نمایندگی کارکنان را از اجزای این چارچوب برشمرد.

به گفته وی، این چارچوب زمانی می‌تواند در سازمان‌ها به‌صورت عملیاتی مورد استفاده قرار گیرد که به تصمیم‌های مشخص و قابل‌پیگیری، از جمله تعیین مالک پاسخ‌گو، سطح دسترسی‌های مجاز، معیار پذیرش خروجی و مسیر رسیدگی به اعتراض و خطا منجر شود.

چیت ساز همچنین پیشنهاد کرد هر عامل هوشمند پیش از دریافت اختیار اقدام، دارای یک «شناسنامه» مشخص باشد؛ شناسنامه‌ای که مأموریت عامل، مسئول پاسخ‌گو، حدود دسترسی، شرایط تأیید و توقف فعالیت و زمان بازبینی عملکرد آن را تعیین کند.

سیاست‌سنجی با دوقلوی دیجیتال

معاون سیاست‌گذاری، برنامه‌ریزی توسعه فاوا و اقتصاد دیجیتال در بخش دیگری از سخنان خود از طراحی یک دوقلوی دیجیتال با قابلیت سیاست‌سنجی خبر داد و تغییر سطح اختیار عامل‌های هوشمند را یکی از موضوعاتی دانست که می‌توان آثار آن را پیش از اجرای واقعی مورد بررسی قرار داد.

وی توضیح داد: چنین رویکردی می‌تواند امکان بررسی سناریوهای مختلف سیاستی را پیش از اجرای آن‌ها فراهم کند؛ برای نمونه می‌توان بررسی کرد که افزایش سطح اختیار یک عامل هوشمند چه اثری بر کیفیت تصمیم‌گیری، یادگیری کارکنان و میزان پاسخ‌گویی سازمان خواهد داشت.

چیت ساز تأکید کرد که نتایج سیاست‌سنجی باید در کنار فرض‌ها، داده‌های مورد استفاده و محدودیت‌های مدل تفسیر شود و ارزیابی آثار واقعی سیاست‌ها پس از اجرا نیز ادامه پیدا کند.

معاون سیاست‌گذاری، برنامه‌ریزی توسعه فاوا و اقتصاد دیجیتال در پایان تأکید کرد که پیش از فعال‌سازی هر عامل هوشمند، باید حدود اختیار آن و همچنین نام مسئول پاسخ‌گوی عملکرد و تصمیم‌های آن به‌روشنی مشخص شده باشد.