شرکت انویدیا دموی اپلیکیشینی را منتشر کرده که با استفاده از کارت گرافیک کامپیوتر شما می‌تواند یک چت‌بات شخصی را روی کامپیوتر اجرا کند. این اپلیکیشین که Chat with RTX نام گرفته روی ویندوز ۱۱ اجرا می‌شود و به یک کارت گرافیک RTX سری ۳۰ یا ۴۰ (یا RTX Ampere یا Ada Generation) نیاز دارد.

این اپلیکیشین با استفاده از تکنیک تولید تکمیل شده با بازپس‌گیری (retrieval-augmented generation؛ RAG) و TensorRT-LLM و شتاب RTX به شما اجازه می‌دهد تا براساس محتوای خاص خودتان یک GPT شخصی‌سازی شده روی کامپیوتر خودتان بسازید.

همچنین می‌توانید اطلاعات خارجی مثل ویدیو از اینترنت از جمله یوتیوب را در اختیار این مدل بگذارید و درمورد محتوای آن سوال کنید. برای این کار کافی است تا URL ویدیو را در اختیار روبات بگذارید.

به نظر می‌رسد که تکنیک RAG با استفاده از حقایق جمع‌آوری شده از منابع خارجی، دقت و اعتبار مدل‌های هوش مصنوعی مولد را تقویت می‌کند.

از آنجایی که این اپلیکیشین به صورت داخلی و بدون نیاز به ابر اجرا می‌شود و می‌توان آن را براساس داده‌های شخصی نیز آموزش داد، احتمالا سرعت بیشتری نسبت به رقبا دارد و روی موضوعات خاص (براساس داده‌های شما) تمرکز می‌کند. انویدیا می‌گوید این ابزار نتایج را به صورت امن ارائه کرده و درنتیجه داده‌های حساس دیگر نیازی به خروج از کامپیوتر و انتقال از طریق اینترنت ندارند.

البته تام وارن از وبسایت ورج که از نسخه پیش از عرضه Chat with RTX می‌گوید جای اصلاح زیادی دارد اما ابزار ارزشمندی برای روزنامه‌نگاران و کسانی است که باید مستندات را تجزیه‌تحلیل کنند.

برای مثال وارن با استفاده از مستندات دادگاه مایکروسافت با FTC، از این ابزار خواست تا استراتژی کامل Xbox Game Pass ردموندی‌ها را خلاصه کند و روبات این کار را انجام داد. اما در بخش ویدیو مشکلات بیشتر شد، اپلیکیشین به نحوی متن یک ویدیو کاملا متفاوت را به جای ویدیو ارائه شده تحویل داد و جالب اینکه وارن پیش از آن ویدیویی که اپلیکیشن استفاده کرد را حتی بررسی نکرده بود.