اجرای هوش مصنوعی به صورت آفلاین ممکن خواهد شد

به گزارش خبرگزاری آنا، شرکت گوگل نسخه آزمایشی اپلیکیشنی با نام Google AI Edge Gallery را معرفی کرده است که به کاربران امکان می‌دهد مدل‌های هوش مصنوعی مولد (GenAI) را به صورت محلی و بدون اتصال به اینترنت روی دستگاه‌های اندرویدی اجرا کنند. گوگل اعلام کرده است که نسخه iOS این اپلیکیشن نیز به زودی ارائه خواهد شد.

این اپلیکیشن قابلیت اجرای انواع مدل‌های هوش مصنوعی، شامل مدل‌های ارائه‌شده توسط Hugging Face را برای کاربران فراهم کرده است. افراد می‌توانند مدل مورد نظر خود را از Hugging Face دانلود و با واردکردن آن به Google AI Edge Gallery، عملکرد مدل‌ها را با یکدیگر مقایسه و سنجش کنند. این فرآیند کاملاً به صورت لوکال و بدون نیاز به زیرساخت ابری انجام می‌شود.

Google AI Edge Gallery بخش‌های مختلفی را برای کاربری‌های گوناگون در نظر گرفته است. بخش Ask Image به کاربران اجازه می‌دهد تصویر دلخواه خود را بارگذاری و پرسش‌هایی پیرامون آن مطرح کنند. در قسمت Prompt Lab، امکان آزمایش انواع پرامپت‌ها برای عملیات مختلف از جمله بازنویسی متن، خلاصه‌سازی محتوا و همچنین تولید کد فراهم شده است. همچنین، بخش AI Chat امکان گفت‌وگوی تعاملی با مدل‌های هوش مصنوعی، مشابه سرویس‌هایی مانند ChatGPT را ارائه می‌دهد.

تمامی پردازش‌ها و محاسبات مرتبط با این قابلیت‌ها به‌صورت محلی بر روی سخت‌افزار گوشی انجام می‌شود و داده‌ها برای پردازش به سرور‌های خارجی ارسال نمی‌گردد. این ویژگی علاوه بر افزایش امنیت داده‌ها، نیاز کاربران به دسترسی دائم به اینترنت را از میان برداشته است. ابزار‌هایی نیز برای تحلیل عملکرد مدل‌ها، همچون زمان شروع پاسخ‌دهی، سرعت پردازش و میزان تأخیر سیستم، درون اپلیکیشن ارائه شده‌اند.

برای دسترسی به این امکانات کافی است کاربران اپلیکیشن را دانلود و نصب کنند. اپلیکیشن Google AI Edge Gallery بر پایه فناوری‌های Google AI Edge، LiteRT و LLM Inference API توسعه یافته و با سرویس Hugging Face یکپارچه شده است تا اجرای مستقل مدل‌های هوش مصنوعی مولد را برای کاربران موبایل فراهم کند.

کد این اپلیکیشن در مخزن رسمی گیت‌هاب منتشر شده است.