هزینه هوش مصنوعی سازمانی؛ فراتر از هزینهٔ API
هزینهٔ هوش مصنوعی سازمانی فقط مصرف مدل نیست. آموزش تیم، ساخت دستیار و افزایش استفاده هم باید در بودجه دیده شوند؛ مصرف کمِ شروع، معیار کافی نیست.
محمدحسن شیخی(cofounder - engineer)
هزینه هوش مصنوعی سازمانی فقط مبلغی نیست که بابت استفاده از مدل می‌پردازید؛ آموزش کارکنان، ساخت دستیار و نگهداری آن هم هزینه دارند. اگر بودجه را فقط از روی مصرف کمِ روزهای اول ببندید، با بیشترشدن استفاده ممکن است هزینه از برآوردتان جلو بزند.
این مسیر شبیه راه‌اندازی یک نرم‌افزار تازه در شرکت است. خرید دسترسی، شروع کار است؛ همکاران باید کار با آن را یاد بگیرند، ابزار برای کار شرکت آماده شود و بعد وارد استفادهٔ روزانه شود. هزینهٔ اتصال به مدل، یا همان API، فقط یکی از بخش‌های این مسیر است.
هزینه در چهار مرحله چطور تغییر می‌کند؟
در شروع، مصرف کم است
معمولاً کار با چند نفر و چند درخواست ساده شروع می‌شود؛ مثلاً خلاصه‌کردن یک نامه یا بازنویسی پاسخ مشتری. هنوز همهٔ تیم از ابزار استفاده نمی‌کنند و کارهای اصلی شرکت به آن وابسته نشده‌اند. طبیعی است که مصرف در چنین آزمایشی کم به نظر برسد.
هزینهٔ این آزمایش را به کل سازمان تعمیم ندهید. برای برآورد مرحلهٔ بعد، تعداد کاربران فعال، نوع کار و دفعات انجام آن را هم در نظر بگیرید.
آموزش تیم، وقت و هزینه می‌خواهد
دادن حساب کاربری به کارکنان کافی نیست. هر تیم باید یاد بگیرد چه کاری را به هوش مصنوعی بسپارد، چه اطلاعاتی به آن بدهد و پاسخ را چطور بررسی کند. برای واحد پشتیبانی، این آموزش بهتر است با سؤال‌ها و پاسخ‌های واقعی همان واحد انجام شود.
زمان آموزش‌دهنده، وقت کارکنان برای تمرین و پاسخ‌گویی به سؤال‌هایشان را در برنامه ببینید. این‌ها در صورت‌حساب مدل نمی‌آیند، اما سازمان برایشان زمان می‌گذارد.
دستیار باید برای کار شرکت ساخته و آزمایش شود
بعد از تجربه‌های اولیه، تیم ممکن است دستیاری بخواهد که یک کار مشخص را پیگیری کند؛ مثلاً سؤال مشتری را بخواند، در راهنمای محصول بگردد و پیش‌نویس پاسخ بسازد. به چنین دستیاری که برای انجام کار از ابزارها استفاده می‌کند، ایجنت می‌گویند؛ مثل همکار تازه‌ای که باید منابع و روال کارش را بشناسد.
آماده‌کردن اسناد، تعریف دسترسی‌ها، اتصال ابزارها و آزمایش پاسخ‌ها بخشی از راه‌اندازی‌اند. بعد از شروع هم با تغییر محصولات یا روال‌های شرکت، دستیار به بازبینی نیاز دارد. هزینهٔ ساخت و نگهداری را جدا از مصرف روزانه برآورد کنید.
با جاافتادن ابزار، مصرف می‌تواند جهش کند
وقتی دستیار مفید باشد، افراد بیشتری سراغش می‌روند و هر نفر کارهای بیشتری به آن می‌سپارد. خود کارها هم ممکن است طولانی‌تر شوند: یک پاسخ ساده، جای خود را به خواندن چند سند، جست‌وجو و چند بار فراخوانی مدل می‌دهد. پس تعداد پیام‌ها به‌تنهایی تصویر کاملی از هزینه نمی‌دهد.
رشد استفاده باید با بازبینی بودجه همراه باشد. پیش از اضافه‌کردن یک واحد تازه یا سپردن کار بیشتر به دستیار، مصرف واقعی و سهمیهٔ لازم را بررسی کنید.
دربارهٔ مرحلهٔ آخر، راهنمای ساخت ایجنت آنتروپیک هم توضیح می‌دهد که انجام کار در چند مرحله می‌تواند هزینه را بالا ببرد. برای آشنایی با این تفاوت، مطلب هزینهٔ ایجنت هوش مصنوعی را بخوانید.
از چند پاسخ آزمایشی تا کار روزانهٔ پشتیبانی
فرض کنید دو نفر از پشتیبانی ابتدا چند پاسخ را بازنویسی می‌کنند. بعد، بقیهٔ تیم آموزش می‌بینند و دستیاری برای پاسخ‌دادن از روی راهنمای محصول آماده می‌شود. حالا دستیار برای درخواست‌های روزانه به کار می‌رود و گاهی برای یک پاسخ، چند بخش از راهنما را می‌خواند. این یک مسیر فرضی است، اما نشان می‌دهد چرا هزینهٔ روزهای اول، بودجهٔ ماه‌های بعد را مشخص نمی‌کند.
پیش از گسترش استفاده، این هزینه‌ها را روشن کنید
برای هر مرحله مشخص کنید چه چیزی باید آماده شود، مسئول آن کیست و چه هزینه‌ای یک‌بار پرداخت می‌شود یا ادامه دارد. هزینهٔ آموزش و ساخت دستیار را کنار هزینهٔ مصرف بگذارید تا برآورد فقط به صورت‌حساب مدل محدود نشود.
پیش از رفتن به مرحلهٔ بعد بررسی کنید
پاسخ قابل استفاده چقدر هزینه دارد؟
فقط مبلغ مصرف را ثبت نکنید. ببینید چند پاسخ بعد از بررسی قابل ارسال بوده و کارکنان چقدر برای اصلاحشان وقت گذاشته‌اند. اگر یک پاسخ چند بار ساخته و اصلاح شود، هزینهٔ واقعی آن بیشتر از اولین فراخوانی مدل است.
زیرساخت و پشتیبانی در برآورد آمده‌اند؟
هزینهٔ زیرساخت و پشتیبانی را هم روشن کنید؛ به‌ویژه اگر اجرا روی سرورهای خود سازمان انجام شود. مشخص کنید کدام بخش در قرارداد پوشش داده شده و کدام بخش به عهدهٔ تیم خودتان است.
چه کسی افزایش مصرف را تأیید می‌کند؟
برای مصرف روزانه سهمیه تعیین کنید و مشخص کنید افزایش آن با تصمیم چه کسی انجام می‌شود. پیش از اضافه‌کردن افراد یا کارهای تازه، مصرف و کیفیت فعلی را با بودجه مقایسه کنید.
راهنمای کنترل هزینهٔ هوش مصنوعی به پیگیری مصرف پس از راه‌اندازی می‌پردازد.
مفهوم‌های مرتبط
کانوکس برای این مسیر چه کمکی می‌کند؟
راهکار سازمانی کانوکس با برنامه‌ریزی برای کار شما و تیمتان شروع می‌شود: از کدام کاربرد شروع کنید، تیم برای استفاده از آن چه آمادگی‌ای لازم دارد و چه دستیاری باید راه‌اندازی شود. این برنامه کمک می‌کند هزینهٔ آماده‌سازی و رشد استفاده را از همان ابتدا در نظر بگیرید.
در داشبورد مدیریت مصرف کانوکس، مصرف و ماندهٔ اعتبار اعضا را می‌بینید و می‌توانید هزینه را به تفکیک سرویس و گفت‌وگو بررسی کنید. سهمیهٔ اعضا و فرایند درخواست اعتبار بیشتر هم کمک می‌کند افزایش مصرف با تصمیم مدیر همراه باشد. به‌جای صبرکردن تا پایان ماه، می‌توانید هنگام رشد استفاده، علت افزایش هزینه را پیدا کنید و بودجه را آگاهانه تغییر دهید.
برای سازمان شما، برنامهٔ آموزش و راه‌اندازی باید کنار همین گزارش‌ها و سهمیه‌ها قرار بگیرد. در دموی سازمانی، این مسیر را با یکی از کارهای واقعی تیمتان بررسی می‌کنیم تا روشن شود از کجا شروع کنید و پیش از گسترش استفاده، چه هزینه‌هایی را در نظر بگیرید.
بودجهٔ هوش مصنوعی شرکتتان را از همان شروع روشن کنید
در دموی سازمانی، کاربرد مدنظرتان و تعداد اعضای تیم را مطرح کنید تا مسیر راه‌اندازی و مدیریت هزینه را با هم بررسی کنیم.
