مدل زبانی کوچک

مدل زبانی کوچک (Small Language Model یا SLM) مدلی برای کار با متن است که معمولاً از مدل‌های بزرگ‌تر حافظه و محاسبهٔ کمتری می‌خواهد. آن را مثل یک کیف نوشت‌افزار سبک کنار یک چمدان پر از وسایل تصور کنید: برای نوشتن یک یادداشت، همان کیف کوچک هم می‌تواند کافی باشد.

کوچک بودن مدل به تعداد تنظیمات درونی آن مربوط است؛ به این تنظیمات «پارامتر» می‌گویند و هنگام آموزش تغییر می‌کنند. مدل کوچک معمولاً تعداد کمتری از آن‌ها دارد. البته مرز عددی مشخصی که همه برای «کوچک» قبول داشته باشند وجود ندارد.

نه همیشه. برای نوشتن یک یادداشت، لازم نیست چمدان بزرگی همراهتان ببرید. یک مدل کوچک هم ممکن است برای کوتاه کردن پیام، تشخیص موضوع آن یا نوشتن یک جواب ساده کافی باشد.

اما اگر کار سخت‌تر شود، مثلاً بخواهید چند متن طولانی را دقیق مقایسه کند، باید ببینید از پس آن برمی‌آید یا نه. اندازهٔ مدل به‌تنهایی نمی‌گوید جوابش برای کار شما خوب است یا بد.

مدل کوچک لزوماً فقط یک کار بلد نیست؛ ممکن است بتواند بنویسد، ترجمه کند و به سؤال جواب بدهد. اینکه در چه کاری بهتر باشد، به آموزش آن هم بستگی دارد.

مدل‌های کوچک هم اندازه‌های مختلفی دارند. این‌ها چند نمونه‌اند؛ در نام مدل‌ها، حرف B یعنی میلیارد پارامتر:

• Phi-4 مایکروسافت: مدلی با ۱۴ میلیارد پارامتر برای کار با متن، از جمله حل مسئله و نوشتن کد. نسبت به مدل‌های بسیار بزرگ، اندازهٔ جمع‌وجورتری دارد.
• Qwen3-8B: یکی از مدل‌های خانوادهٔ کوئن با حدود ۸ میلیارد پارامتر. می‌توان آن را دریافت کرد و روی سخت‌افزار خودتان اجرا کرد.
• نسخه‌های سبک Gemma 4 گوگل: مدل‌های E2B و E4B برای دستگاه‌هایی با توان و حافظهٔ محدودتر طراحی شده‌اند. خانوادهٔ Gemma 4 نسخه‌های بزرگ‌تر هم دارد؛ پس هنگام انتخاب، نام نسخه را هم ببینید.

بعضی مدل‌های کوچک را می‌شود روی لپ‌تاپ یا تلفن اجرا کرد، اما هر مدلی روی هر دستگاهی کار نمی‌کند. باید ببینید دستگاه چقدر حافظه دارد و آن مدل برای اجرا چه چیزی لازم دارد. کمتر بودن اندازه هم همیشه به معنی سریع‌تر بودن جواب نیست؛ دستگاه و طول متن اثر دارند.

چند پیام از جنس کار خودتان آماده کنید. مثلاً اگر می‌خواهید پیام‌های مشتری را مرتب کند، پیام‌هایی دربارهٔ پیگیری سفارش، قیمت و پس دادن کالا به آن بدهید. ببینید موضوع هر پیام را درست فهمیده یا نه.

اگر جواب‌ها کافی نبود، همان پیام‌ها را با یک مدل زبانی بزرگ هم امتحان کنید. برای آشنایی بیشتر با کار روی پیام‌ها، صفحهٔ پردازش زبان طبیعی را بخوانید.

توضیح مایکروسافت دربارهٔ یکی از مدل‌های سبک، به زبان انگلیسی.

برای استفاده از هوش مصنوعی در سازمان، همیشه لازم نیست سراغ گران‌ترین کارت‌های گرافیک بروید. مدل‌های کوچک برای اجرا حافظه و توان کمتری می‌خواهند و بعضی نسخه‌های سبک را می‌توان روی رایانه یا سروری با امکانات محدودتر هم اجرا کرد. مثل همان کیف کوچک، اگر وسایل لازم کارتان را داشته باشد، نیازی به حمل چمدان نیست.

تیم کانوکس می‌تواند مدل مناسب را همراه کانوکس روی سرورهای خودتان راه‌اندازی کند. در پلن استقرار داخل سازمان، همکارانتان از داخل شبکه به دستیار دسترسی دارند. برای شبکه‌های کاملاً جدا از اینترنت هم استقرار Air-gapped ارائه می‌کنیم؛ پردازش پیام‌ها و فایل‌ها در زیرساخت خودتان انجام می‌شود و مدل برای پاسخ دادن به سرویس ابری بیرونی نیاز ندارد.

برای انتخاب مدل و سخت‌افزار، این موارد را با هم بررسی می‌کنیم:

• کاری که قرار است انجام دهید: مرتب کردن پیام‌های مشتری، خلاصه کردن گزارش‌ها یا پاسخ از روی راهنماهای داخلی، هرکدام نیاز متفاوتی دارند. مدل را با نمونه‌هایی از کار خودتان می‌سنجیم.
• امکاناتی که دارید: حافظهٔ سرور و کارت گرافیک موجود را بررسی می‌کنیم. نسخه‌های کم‌حجم‌تر مدل می‌توانند حافظهٔ کمتری بخواهند؛ انتخاب نسخه به کیفیت پاسخ و سرعت موردنیاز شما هم بستگی دارد.
• تعداد کاربران هم‌زمان: پاسخ دادن به چند همکار با پاسخ دادن به صدها نفر فرق دارد. طول فایل‌ها و پیام‌ها هم بر حافظه و زمان پاسخ اثر می‌گذارد؛ منابع لازم را بر اساس همین حجم کار مشخص می‌کنیم.

هدف این است که برای کارتان سخت‌افزار کافی داشته باشید، بدون خرید تجهیزات گران‌تر از نیاز. در جلسهٔ دمو دربارهٔ نیاز تیم و سرورهای موجود صحبت می‌کنیم تا مسیر راه‌اندازی روشن شود.