PrismML مدل‌های کوچک LLM خود را به عینک‌های هوشمند powered by Qualcomm می‌آورد

آزمایشگاه هوش مصنوعی PrismML — که توسط پژوهشگران کالتک تأسیس شده و تحت مشاوره Ion Stoica از دانشگاه برکلی کالیفرنیا قرار دارد — نسخه‌ای از مدل‌های زبان کوچک خود را برای عینک‌های هوشمند که بر روی تراشه‌های Snapdragon Qualcomm اجرا می‌شوند، ایجاد کرده است.

در روز چهارشنبه، در اجلاس Snapdragon Qualcomm، این سازنده تراشه مدل ۱-بیتی Bonsai LLM PrismML را به نمایش گذاشت که می‌توان آن را به صورت محلی روی عینک‌های هوشمند AI که بر روی پلتفرم Snapdragon AR1 Gen 1 ساخته شده‌اند، اجرا کرد.

همانطور که TechCrunch قبلاً گزارش داده بود، دعوی شهرت PrismML این است که مدل‌های بزرگتر را به طور چشمگیری کاهش می‌دهد (در این مورد، به میزان ۴ برابر)، در حالی که تقریباً همه عملکرد آن‌ها را در معیارهای استاندارد حفظ می‌کند. نسخه عینک‌های هوشمند یک مدل دو میلیارد پارامتری است که برای بینایی و زبان تنظیم شده است، تا کاربران بتوانند در زمان واقعی از آنچه به آن نگاه می‌کنند، بپرسند.

هدف بزرگ‌تر Prism، تولید هوش مصنوعی با وزن باز است که بر روی دستگاه‌ها اجرا می‌شود و از قدرت محاسباتی که در حال حاضر دارند، بهتر استفاده می‌کند. این استارتاپ این را به عنوان جایگزینی برای اتکا به وعده‌های حریم خصوصی آزمایشگاه‌های هوش مصنوعی انحصاری و نیاز بی‌پایان آن‌ها به قدرت محاسباتی ارائه می‌دهد.

انتشار یک مدل برای تراشه Qualcomm یک گام به سوی این چشم‌انداز است. اما هنوز هیچ عینک هوشمندی که از PrismML استفاده کند، معرفی نشده است.

var playerInstance_jwplayer_6ab57a3caa4bc = jwplayer( “jwplayer_6ab57a3caa4bc” );
playerInstance_jwplayer_6ab57a3caa4bc.setup({
playlist: “https://cdn.jwplayer.com/v2/media/NE39UkMj”,
});