معظم ميزات الذكاء الاصطناعي في التطبيقات ترسل بياناتك إلى خادم وتنتظر إجابة. لكن عددًا متزايدًا من النماذج صغير بما يكفي ليعمل على الهاتف نفسه. وفي تطبيق HTML يعني ذلك ميزات ذكاء اصطناعي تعمل دون إنترنت، بلا تكلفة لكل استخدام، وتُبقي البيانات على الجهاز.
كيف يعمل
تشغّل مكتبات مثل Transformers.js وONNX Runtime Web النماذج في محرك المتصفح باستخدام WebAssembly. WebAssembly مدعوم في Android System WebView الذي تعمل به التطبيقات المبنية بـ Free HTML to APK، فيمكن للكود الذي يعمل في Chrome على لابتوبك أن يعمل داخل تطبيقك.
التسريع الأسرع بوحدة GPU عبر WebGPU قادم، لكن الدعم في Android WebView ما زال متفاوتًا بين الأجهزة. خطط لـ WebAssembly واعتبر سرعة GPU ميزة إضافية.
ما يعمل جيدًا على الهاتف اليوم
- تصنيف النصوص، مثل تحليل المشاعر أو كشف الرسائل المزعجة. نماذج صغيرة وإجابات سريعة.
- التضمينات والبحث الدلالي في محتوى تطبيقك نفسه، لبحث من نوع «ابحث عن ملاحظات حول…».
- تصنيف الصور وكشف الأجسام البسيط في الصور التي يختارها المستخدم.
- تحويل الكلام إلى نص بنماذج مضغوطة، للمقاطع القصيرة.
- الترجمة بين بضعة أزواج لغات بنماذج صغيرة مخصصة.
ما يبقى مكانه السحابة
نماذج المحادثة الكبيرة التي تكتب إجابات طويلة ما زالت كبيرة وبطيئة جدًا لمعظم الهواتف. لمساعد عام، استخدم خادمًا مع وسيط مناسب، كما هو موضح في دليلنا لروبوت المحادثة.
نصائح عملية
- حجم النموذج هو حجم التطبيق. النموذج المضمّن في تطبيقك يكبّر ملف APK. النماذج من عشرات الميغابايت مقبولة. أما مئات الميغابايت فلا، لمعظم المستخدمين.
- نزّله عند أول استخدام إذا كان النموذج كبيرًا، واحفظه مؤقتًا بدل تضمينه. أخبر المستخدم بحجم التنزيل.
- شغّله في Web Worker لتبقى الواجهة سلسة أثناء تفكير النموذج.
- اختبر على هاتف رخيص. الهاتف الرائد يخفي مشكلات يظهرها الجهاز الاقتصادي فورًا.
لماذا نهتم
الذكاء الاصطناعي على الجهاز خاص بطبيعته، لأن شيئًا لا يغادر الهاتف. ويعمل على متن طائرة. وليست له تكلفة لكل طلب، وهو أمر مهم جدًا إذا صار تطبيقك شائعًا. وفي كثير من الميزات الصغيرة، يتفوق هذا المزيج على واجهة سحابية.