معرفی مدل جدید Koa از Salesforce
مدل جدید Koa یکی از بزرگترین اعلام‌ها از سوی Salesforce در کنفرانس فناوری Dreamforce این هفته است. Koa اولین مدل استدلالی این شرکت است که بر اساس مدل Nemotron با وزن باز Nvidia ساخته شده است.
دو شرکت با همکاری یکدیگر، Koa را بهینه‌سازی کرده‌اند تا در زمینه‌های فروش، بازاریابی و پشتیبانی مشتری به بهترین نحو عمل کند. Koa مثال روشنی از چگونگی انحراف نیازهای دنیای شرکتی از آنچه در آزمایشگاه‌های پیشرفته ارائه می‌شود، است.
منافع Koa برای مشتریان
با مدل Koa، Salesforce گزینه‌هایی به مشتریان خود ارائه می‌دهد که شامل:
- مدلی با وزن باز که به‌جای مدل‌های بسته در دسترس است.
- مدلی که برای انجام کارهای خاص آموزش‌دیده، نه تنها برای حل مسائل پیچیده.
- مدلی که هیچ داده واقعی از مشتریان را جذب نکرده و بنابراین نمی‌تواند اطلاعات را به دیگران افشا کند.
- مدلی که هزینه‌های AI را کاهش می‌دهد زیرا برای انجام همان کار از توکن‌های کمتری استفاده می‌کند.
- مدلی که می‌تواند به‌طور خودکار از طریق یک “دروازه” AI به نیازهایتان متصل شود.
- مدلی که تمام الزامات داده و امنیت مشتری را دنبال می‌کند و درون Salesforce تعبیه شده است.
کاربرد Koa در Agentforce
Koa به‌عنوان گزینه‌ای جایگزین سایر مدل‌هایی است که Salesforce در پلتفرم Agentforce خود ارائه می‌دهد. در اینجا مشتریان می‌توانند ایجنت‌هایی بسازند که وظایف روتین مانند پاسخ به سوالات خدمات مشتری یا زمان‌بندی قرار ملاقات‌ها را انجام دهند.
به گفته Jayesh Govindarajan، معاون اجرایی Salesforce AI، «ما بسیاری از مدل‌های زبانی خاص کارهای کوچک را ساخته‌ایم که جزئی از پورتفوی Agentforce هستند.»
چالش‌ها و راهکارها
قبل از Koa، اگر یک ایجنت برای انجام یک کار چندمرحله‌ای به استدلال نیاز داشت، آن درخواست‌ها به یک مدل پیشرفته مانند Claude یا ChatGPT از طریق دروازه AI Agentforce منتقل می‌شد. این وضعیت همیشه به چالش‌هایی منجر می‌شد.
Govindarajan می‌گوید: «یکی از دلایلی که ما قبلاً این کار را نکردیم این بود که ما همیشه خواهان آموزش یک مدل پیشرفته مخصوص شرکت بودیم، اما چالش‌های زیادی وجود داشت.»
شبیه‌سازی محیط مشتری
در پایش مدل Koa، Salesforce و Nvidia از داده‌های واقعی مشتریان استفاده نکردند. در عوض، آن‌ها داده‌های مصنوعی ساختند که الگوهای مشتریان را تقلید می‌کرد.
Govindarajan توضیح می‌دهد: «ما واقعاً یک محیط خدمات مشتری با یک حرفه‌ای خدمات مشتری شبیه‌سازی کردیم، که شامل مشتریان عصبی و حرفه‌ای‌های فروش بود که سعی می‌کردند معامله‌ای ببندند.»
مزایای استفاده از Koa
Koa به‌گونه‌ای طراحی شده که بهتر از مدل‌های دیگر مانند Claude یا ChatGPT به کارهایی که مشتریان Salesforce می‌خواهند انجام دهند، پاسخ دهد و از لحاظ هزینه توکن به صرفه‌تر باشد.
Kari Ann Briski، معاون نرم‌افزار AI تولیدی Nvidia، به TechCrunch گفت: «ما معماری منحصر به فردی برای استنتاج داریم که کارآمد از نظر توکن است.»
ادامه همکاری با Anthropic و OpenAI
اگرچه Salesforce به شدت روی Koa تمرکز کرده، اما در عین حال همکاری با Anthropic و OpenAI را نیز ادامه می‌دهد. اخیراً، آن‌ها با Anthropic همکاری کردند تا Claude را به‌عنوان رابط AI برای شرکت‌ها ارائه دهند.
با این راهکار، داده‌های مشتریان همچنان در سیستم ثبت Salesforce محفوظ خواهد ماند و از زیرساخت امنیتی آن بهره‌مند خواهند شد.
