يتيح تطبيق PocketPal AI للمستخدمين تشغيل نماذج لغوية كبيرة (LLM) مباشرة على أجهزتهم المحمولة، مما يوفر تجربة ذكاء اصطناعي محلية بالكامل. يمكن للمستخدمين من خلاله التفاعل مع الذكاء الاصطناعي دون الحاجة إلى اتصال بالإنترنت أو خوادم خارجية، مما يضمن بقاء جميع البيانات والمحادثات على الجهاز الخاص بالمستخدم وعدم مغادرتها له إطلاقاً. يركز التطبيق على منح المستخدم التحكم الكامل في تجربة الذكاء الاصطناعي الخاصة به.
تشغيل نماذج الذكاء الاصطناعي محلياً
صُمم PocketPal AI ليستخدم قوة معالجة الهواتف الحديثة، مما يمكنه من تشغيل نماذج الذكاء الاصطناعي الكبيرة مباشرة على الجهاز. يتطلب التطبيق ذاكرة وصول عشوائي (RAM) لا تقل عن 6 جيجابايت للنماذج الأصغر، و8 جيجابايت للنماذج الأكثر تطوراً. تعمل النماذج بشكل جيد على الهواتف الرائدة والهواتف متوسطة المدى الحديثة التي صدرت خلال السنتين أو الثلاث الماضية، بينما قد لا تكون الأجهزة القديمة أو ذات الميزانية المحدودة مناسبة. يتيح التطبيق للمستخدمين تنزيل النماذج مفتوحة المصدر مباشرة إلى أجهزتهم من HuggingFace، مع دعم مئات الخيارات المتاحة.
الاستقلالية والخصوصية
الميزة الأساسية في PocketPal AI هي قدرته على العمل بشكل كامل دون اتصال بالإنترنت. يمكن استخدام التطبيق في وضع الطائرة أو في الأماكن التي لا تتوفر فيها إشارة، مثل الأنفاق أو المناطق النائية. يؤكد التطبيق على عدم وجود أي إرسال للبيانات أو جمع للمعلومات (telemetry)، ويشجع المستخدمين على التحقق من ذلك بأنفسهم كونه مفتوح المصدر. يمنح هذا النهج المستخدمين خصوصية تامة وتحكماً كاملاً في محادثاتهم، حيث لا تفرض أي سياسات محتوى أو قيود سلوكية من قبل المطور.
التحكم في النماذج والأداء
يوفر التطبيق للمستخدمين تحكماً كاملاً في معلمات النماذج، مثل درجة الحرارة (temperature)، وطول السياق (context length)، وموجهات النظام (system prompts)، مما يسمح بتخصيص استجابات الذكاء الاصطناعي. كما يتضمن أداة اختبار أداء مدمجة (benchmarking) لتقييم كيفية عمل النماذج على الجهاز الخاص بالمستخدم. يدعم التطبيق تسريع Metal على نظام iOS وNNAPI على نظام Android لتحسين الأداء. بالإضافة إلى ذلك، يمكن للمستخدمين استخدام Pals وهي شخصيات ذكاء اصطناعي من Palshub.ai تمنح النماذج سمات شخصية وأغراضاً محددة.
النماذج المدعومة والتحديثات الأخيرة
يواصل التطبيق تطوير قدراته، حيث أضاف في إصداره 1.22.0 دعماً لنماذج LFM3 وBonsai 2. كما شهد هذا التحديث تحسينات في سرعة نماذج Q2_K وQ3_K عند استخدام وحدة معالجة الرسوميات (GPU). وقد تم إصلاح مشكلة كانت تتسبب في فشل وضع الصوت دون استخدام اليدين لبعض الأصوات في حال عدم توفر الإنترنت، حيث تعمل الأصوات التي تم تنزيلها الآن دون اتصال.
اكتب مراجعة