تا همین چند وقت پیش، استفاده از هوش مصنوعی روی گوشی یعنی ارسال پیام به یک سرور دوردست و منتظر ماندن برای جواب. اما حالا مدل‌های زبانی آن‌قدر سبک و بهینه شده‌اند که مستقیم روی خود گوشی اجرا می‌شوند؛ بدون اینترنت، بدون اشتراک و بدون اینکه داده‌هایتان از گوشی خارج شود.
در این مقاله می‌بینیم هوش مصنوعی روی دستگاه (On-Device AI) چیست، چه مدل‌هایی امروز روی گوشی اجرا می‌شوند، با چه اپ‌هایی می‌توانید همین الان امتحانشان کنید و آیفون و گلکسی در اجرای این مدل‌ها چقدر سریع‌اند. اگر دنبال مدل‌های بزرگ‌تر برای کامپیوتر هستید، مقالهٔ بهترین مدل‌های متن‌باز هوش مصنوعی را ببینید.
آخرین به‌روزرسانی: ۶ آبان ۱۴۰۵ — اعداد سرعت و مشخصات از مستندات رسمی Google AI Edge و Apple در همین تاریخ برداشته شده‌اند.
⚡ پاسخ کوتاه
بله، امروز می‌توانید یک مدل زبانی واقعی را بدون اینترنت روی گوشی اجرا کنید. ساده‌ترین راه، نصب اپ رایگان Google AI Edge Gallery (اندروید ۱۲ به بالا و iOS 17 به بالا) و دانلود مدل Gemma 4 E2B است که حدود ۲.۵۸ گیگابایت حجم دارد. طبق مستندات گوگل، این مدل روی GPU آیفون ۱۷ پرو حدود ۵۶ و روی گلکسی S26 اولترا حدود ۵۲ توکن در ثانیه تولید می‌کند. اپل و گوگل هم مدل‌های داخلی (AFM 3 Core و Gemini Nano) را مستقیم در سیستم‌عامل گذاشته‌اند.
📑 فهرست مطالب
هوش مصنوعی روی دستگاه یعنی مدل روی پردازنده‌های خود گوشی (CPU، GPU یا NPU) اجرا می‌شود، نه روی سرور. برای این کار مدل‌ها باید بسیار کوچک‌تر از مدل‌های ابری باشند؛ به‌جای صدها میلیارد پارامتر، چند میلیارد پارامتر. سازندگان با فشرده‌سازی (کوانتیزه کردن) وزن‌ها و موتورهای اجرای مخصوص موبایل، این مدل‌ها را در حد چند گیگابایت نگه می‌دارند.
اگر فقط به هزینه فکر می‌کنید، گزینهٔ دیگر استفاده از ارزان‌ترین مدل‌های هوش مصنوعی ابری است؛ اما هیچ‌کدام حریم خصوصی و کار آفلاین مدل روی گوشی را ندارند.
خانوادهٔ Gemma 4 گوگل در اندازه‌های E2B، E4B، 12B، 31B و 26B A4B عرضه شده است. حرف E یعنی «پارامتر مؤثر» (effective) و دو نسخهٔ E2B و E4B مخصوص موبایل و دستگاه‌های لبه طراحی شده‌اند. طبق مستندات گوگل، این دو مدل پنجرهٔ زمینهٔ ۱۲۸ هزار توکنی دارند، علاوه بر متن و تصویر ورودی صوتی را هم به‌صورت بومی می‌فهمند و با مجوز Apache 2.0 منتشر شده‌اند؛ یعنی استفادهٔ تجاری هم آزاد است.
موتور اجرای گوگل برای این مدل‌ها LiteRT-LM است. طبق صفحهٔ رسمی، نسخهٔ E2B حدود ۲.۵۸ گیگابایت و نسخهٔ E4B حدود ۳.۶۵ گیگابایت حجم دارد و قابلیت Multi-Token Prediction سرعت تولید را روی GPU موبایل تا ۲.۲ برابر و روی CPU تا ۱.۵ برابر بالا می‌برد.
اپل در ژوئن ۲۰۲۶ نسل سوم مدل‌های پایهٔ خود (AFM 3) را معرفی کرد؛ خانواده‌ای پنج‌تایی که به گفتهٔ اپل با همکاری گوگل ساخته شده است. دو مدل روی خود دستگاه اجرا می‌شوند: AFM 3 Core با ۳ میلیارد پارامتر و AFM 3 Core Advanced؛ مدلی پراکنده (sparse) با ۲۰ میلیارد پارامتر که در هر لحظه فقط ۱ تا ۴ میلیارد پارامتر آن فعال است و به‌صورت بومی چندوجهی است. بقیهٔ مدل‌ها روی سرورهای Private Cloud Compute اپل اجرا می‌شوند.
برنامه‌نویس‌ها از طریق فریم‌ورک Foundation Models با چند خط کد Swift به مدل روی دستگاه دسترسی دارند. طبق صفحهٔ این فریم‌ورک، در iOS 27 مدل روی دستگاه ورودی تصویر هم می‌پذیرد.
Gemini Nano مدل روی دستگاه گوگل است که داخل سرویس سیستمی AICore اندروید اجرا می‌شود و برنامه‌نویس‌ها از طریق APIهای ML Kit GenAI از آن استفاده می‌کنند. برای آشنایی با قابلیت‌های هوش مصنوعی سامسونگ، مقالهٔ هوش مصنوعی گلکسی را بخوانید. اگر اپ اندرویدی می‌سازید، مقالهٔ بهترین هوش مصنوعی برای توسعهٔ اپ اندروید هم به کارتان می‌آید.
گوگل در صفحهٔ Gemma 4 سرعت این مدل را روی دو گوشی پرچم‌دار منتشر کرده است:
| مدل و گوشی | CPU (توکن/ثانیه) | GPU (توکن/ثانیه) |
|---|---|---|
| Gemma 4 E2B · گلکسی S26 اولترا | ۴۷ | ۵۲ |
| Gemma 4 E2B · آیفون ۱۷ پرو | ۲۵ | ۵۶ |
| Gemma 4 E4B · گلکسی S26 اولترا | ۱۸ | ۲۲ |
| Gemma 4 E4B · آیفون ۱۷ پرو | ۱۰ | ۲۵ |
چند نکته از این اعداد: روی GPU دو گوشی تقریباً هم‌سطح‌اند و آیفون کمی جلوتر است، اما روی CPU گلکسی به‌طور محسوس سریع‌تر است. زمان شروع پاسخ (TTFT) مدل E2B روی GPU گلکسی حدود ۰.۳ ثانیه و روی CPU حدود ۱.۸ ثانیه است. مدل E4B کیفیت بهتری دارد اما تقریباً نصف سرعت E2B را دارد. طبق همین صفحه، E2B به حدود ۴ گیگابایت رم یا بیشتر و E4B به ۶ گیگابایت یا بیشتر نیاز دارد.
خانوادهٔ Llama متا هم از اولین مدل‌هایی بود که نسخه‌های کوچک آن روی گوشی اجرا شد؛ دربارهٔ آن در مقالهٔ همه‌چیز دربارهٔ Llama خوانده‌اید.
روند روشن است: سازندگان مدل‌ها نسخه‌های کوچک و بهینه را جدی گرفته‌اند و اپل و گوگل مدل روی دستگاه را به بخشی از سیستم‌عامل تبدیل کرده‌اند. ترکیب مدل روی گوشی برای کارهای سریع و خصوصی و مدل ابری برای کارهای سنگین، احتمالاً شکل رایج استفاده از هوش مصنوعی در گوشی‌ها خواهد بود. برای آشنایی بیشتر با توانایی‌های هوش مصنوعی و یادگیری استفادهٔ درست از آن، دورهٔ کپسول هوش مصنوعی رادینو را ببینید.
بله. با اپ‌هایی مثل Google AI Edge Gallery یا PocketPal AI یک بار مدل را دانلود می‌کنید و بعد بدون اینترنت از آن استفاده می‌کنید.
برای شروع، Gemma 4 E2B گوگل گزینهٔ خوبی است: حدود ۲.۵۸ گیگابایت حجم دارد، متن و تصویر و صدا را می‌فهمد و با مجوز Apache 2.0 منتشر شده است. اگر گوشی رم بیشتری دارد، E4B کیفیت بهتری دارد.
طبق مستندات گوگل، Gemma 4 E2B به حدود ۴ گیگابایت رم یا بیشتر و E4B به ۶ گیگابایت یا بیشتر نیاز دارد.
طبق اعداد گوگل برای Gemma 4 E2B، روی GPU آیفون ۱۷ پرو (۵۶ توکن در ثانیه) کمی از گلکسی S26 اولترا (۵۲) جلوتر است، اما روی CPU گلکسی (۴۷) بسیار سریع‌تر از آیفون (۲۵) است.
از نظر حریم خصوصی بله؛ داده‌های شما برای پردازش به سرور فرستاده نمی‌شود. اما مدل‌های کوچک دقت کمتری دارند و جوابشان باید بررسی شود.
همه منابع در تاریخ ۶ آبان ۱۴۰۵ بررسی شده‌اند.
سالها بنچمارکهایی مثل MMLU معیار اصلی سنجش هوش مدل‌های زبانی بودند. اما مدل‌ها آن‌قدر پیشرفت کردند که دقتشان در این …
ساخت ویدیو با هوش مصنوعی در یک سال اخیر از «چند ثانیه تصویر لرزان» به ویدیوهایی با صدا، دیالوگ و …
تا همین دو سال پیش، اگر کسی میپرسید «بهترین هوش مصنوعی تولید تصویر کدام است؟» جواب تقریباً همیشه Midjourney بود. …
وقتی دربارهٔ هوش مصنوعی حرف میزنیم، معمولاً فقط به «باهوشترین» مدل فکر میکنیم. اما اگر یک چتبات پشتیبانی، دستیار صوتی …
نظرات 0
برای ارسال نظر وارد حساب کاربری شوید.
هنوز نظری ثبت نشده؛ اولین نفر باشید.