ICTna.ir – مدیر ارشد هوش مصنوعی اورنج می‌گوید این اپراتور به جای اجرای فرآیند بسیار پیچیده ساخت مدل پایه خود، بر روی استفاده از روش‌هایی مانند RAG و تنظیم دقیق برای استفاده بهتر از LLM‌های موجود تمرکز می‌کند.

به گزارش گروه اخبار خارجی آژانس خبری فناوری اطلاعات و ارتباطات (ایستنا)، علاقه زیادی به هوش مصنوعی مولد (GenAI) از سوی شرکت‌های مخابراتی وجود داشته است، که هر یک از آنها رویکرد خاص خود را برای ایده ساختن مدل‌های زبان بزرگ (LLM) خود در پیش گرفته‌اند. در حالی که به نظر می‌رسد وودافون این ایده را رد می‌کند و از سوی دیگر به نظر می‌رسد که ورایزون برای ایجاد مدل‌های پایه موجود رضایت دارد، دوئیچه تلکام و SK Telecom سال گذشته اعلام کردند که LLM‌های اختصاصی مخابراتی را توسعه خواهند داد. در همین حال، اورنج در حال حاضر نیازی به ساخت مدل پایه نمی بیند، مدیر ارشد هوش مصنوعی آن، استیو جارت گفته ما به جای اجرای فرایند پیچیده ساخت مدل پایه اورنج، بر روی استفاده از روشهایی مثل RAG تمرکز داریم.

جارت گفته که این شرکت در حال حاضر به استفاده از مدل های موجود و تطبیق آنها با نیازهای خود با استفاده از دو رویکرد اصلی رضایت دارد. اولین مورد، نسل افزوده شده با بازیابی (RAG) است، که در آن منبع دقیق اطلاعات همراه با درخواست تقویت پاسخ آن به مدل ارسال می‌شود.

او گفت که این به اورنج اجازه می دهد تا به راحتی با اعلان های مختلف آزمایش کند و افزود که روش های موجود می توانند برای ارزیابی نتایج استفاده شوند. او توضیح داد: این یک راه بسیار بسیار آسان برای آزمایش پویا مدل های مختلف، سبک های مختلف ساختار RAG و دستورات است که اکثر نیازهای امروز ما را برطرف می کند.

در همان زمان، جارت اعتراف کرد که نقطه ضعف RAG این است که ممکن است نیاز به ارسال داده‌های زیادی همراه با اعلان داشته باشد و کارهای پیچیده‌تر را کند و گران‌تر کند. او استدلال کرد که در چنین مواردی، تنظیم دقیق رویکرد مناسب تری است.

بودجه

یک احتمال این است که مدل های بنیادی بزرگ در نهایت آنقدر اطلاعات را جذب کنند که نیاز به RAG و سایر ابزارها کاهش یابد. جارت گفت: در این سناریو، اورنج ممکن است هرگز مجبور نباشد مدل پایه خود را ایجاد کند، “تا زمانی که ما توانایی تقطیر و تنظیم دقیق مدل‌ها را در جایی که نیاز داریم، داشته باشیم تا مدل را به اندازه کافی کوچک کنیم تا سریع‌تر و ارزان‌تر کار کند.

یکی از عواملی که ممکن است تعیین کند کارها در آینده به کجا خواهند رفت، چیزی است که جارت آن را پیچیدگی بودجه می نامد. این مفهومی است که نشان می‌دهد چقدر محاسبات از ابتدا تا انتها برای تولید پاسخ مورد نیاز است.

در حالی که یک مدل بسیار بزرگ ممکن است در ابتدا فشرده تر باشد، ممکن است محاسبات کمتری برای RAG و تنظیم دقیق مورد نیاز باشد. او افزود: رویکرد دیگر این است که شما یک مدل زبان بزرگ دارید که مشخصاً آموزش زیادی را نیز صرف کرده است، اما پس از آن، یک تن محاسبات بیشتری برای تنظیم دقیق و تقطیر مدل انجام می‌دهید تا مدل شما بسیار کوچک‌تر شود.

جدا از هزینه، نگرانی زیست محیطی نیز وجود دارد. در حالی که هایپراسکیلرها از نظر استفاده از انرژی پاک عملکرد نسبتاً خوبی دارند و جارت ادعا کرد که اورنج به عنوان یک شرکت نسبتاً سبز است، او اضافه کرد که شدت کربن انرژی مورد استفاده برای خوشه‌های GPU داخلی در صنعت متفاوت است.

ابزار مناسب برای کار

عدم قطعیت پیرامون تکامل آینده GenAI یکی از دلایلی است که باعث می‌شود اورنج رویکردی سنجیده به این فناوری داشته باشد، جارت تاکید می‌کند که این ابزاری نیست که برای هر شغلی مناسب باشد. او گفت: “شما نمی خواهید از چکش مدل زبانی بزرگ برای ضربه زدن به هر میخی استفاده کنید.”

“من فکر می کنم، در مقایسه با اکثر اپراتورهای مخابراتی دیگر، ما در واقع توانایی، مهارت درون اورنج را داریم که به تصمیم گیری در مورد ابزاری که در چه زمانی استفاده کنیم کمک کنیم. بنابراین ما ترجیح می دهیم از یک روش آماری یا یادگیری ماشینی اولیه برای حل استفاده کنیم. مشکلات به این دلیل است که این نتایج قابل توضیح تر هستند. آنها معمولاً ارزان تر هستند و معمولاً تأثیر کمتری بر محیط زیست دارند.”

در واقع، جارت می گوید یکی از مواردی که اورنج در حال حاضر در حال بررسی آن است، نحوه استفاده از چندین مدل هوش مصنوعی برای حل مشکلات است. او افزود، این مفهوم عامل نامیده می شود و به انتزاع سطح بالایی از یک مشکل اشاره دارد، مانند اینکه بپرسیم شبکه در فرانسه چگونه در یک روز معین کار می کند. او گفت که این شرکت را قادر می سازد تا مشکلات پیچیده را به صورت پویاتر حل کند.

در همین حال، این شرکت طیف وسیعی از مدل‌های GenAI از جمله ChatGPT، DALL-E و Mistral را در دسترس کارمندان خود قرار می‌دهد. برای انجام این کار، راه‌حلی ساخته است که جارت می‌گوید «نسخه‌ای امن و مقیم اروپا از مدل‌های پیشرو هوش مصنوعی است که ما در اختیار کل شرکت قرار می‌دهیم».

بهبود خدمات به مشتریان

جارت می‌گوید این روش کنترل‌شده‌تر و ایمن‌تری برای کارمندان برای استفاده از مدل‌ها نسبت به زمانی است که مستقیماً به آنها دسترسی داشته باشند. راه حل همچنین کارمند را از هزینه اجرای یک مدل خاص برای پاسخ به یک سوال مطلع می کند. چندین ماه در دسترس است و تاکنون 12 درصد از کارمندان از آن استفاده کرده اند.

جارت گفت: اورنج قبلاً GenAI را در بسیاری از کشورها در چارچوب راه‌حل‌های خدمات مشتری خود برای پیش‌بینی جذاب‌ترین پیشنهاد برای یک مشتری مستقر کرده است و افزود: آنچه در حال حاضر در حال آزمایش هستیم این است که می‌تواند به ما کمک کند تا بتوانیم آن را شخصی‌سازی و شخصی‌سازی کنیم.

در حالی که اورنج در حال حاضر از GenAI برای هیچ مورد استفاده در شبکه استفاده نمی کند، برخی در حال توسعه هستند، اگرچه جزئیات کمی در این مرحله به اشتراک گذاشته شده است. یک مورد استفاده شامل پیش بینی زمانی است که باتری ها در سایت های سلولی ممکن است نیاز به تعویض داشته باشند.

با این حال، جارت اعتراف می کند که GenAI هنوز با تعدادی چالش مانند توهم مواجه است. او گفت: در سناریویی که خروجی‌ها باید 100 درصد درست باشند، امروز از هوش مصنوعی مولد برای آن استفاده نمی‌کنیم، زیرا [این] 100 درصد مواقع درست نیست.

مقابله با توهم

با این حال می توان آن را در مناطقی که حساسیت کمتری دارند اعمال کرد. او افزود: به عنوان مثال، اگر برای استفاده داخلی می‌خواهید خلاصه‌ای از متن عظیم یک جلسه طولانی را که از دست داده‌اید، داشته باشید، اگر مدل کمی توهم داشته باشد، اشکالی ندارد!

جارت گفت: توهمات را نمی توان به طور کامل متوقف کرد و احتمالاً برای مدتی مشکل ساز خواهد بود. اما او معتقد است RAG و تنظیم دقیق می‌توانند تا حدودی این مشکل را کاهش دهند.

جارت در مورد نتایج به‌دست‌آمده با RAG می‌گوید: اکثر مواقع، اگر در مهندسی سریع خوب باشیم و در انتقال اطلاعات مناسب با پاسخ خوب باشیم، مدل پاسخ‌های بسیار بسیار مفید و مرتبطی تولید می‌کند.