کنترل دسترسی ایجنت؛ چه کاری با اجازهٔ چه کسی؟

کنترل دسترسی ایجنت یعنی دستیار فقط اطلاعات لازم برای کارش را ببیند و فقط کارهایی را انجام بدهد که اجازه دارد. باید روشن باشد کجا می‌تواند خودش ادامه بدهد و کجا باید پیش از اجرا از شما تأیید بگیرد.

ایجنت، دستیاری است که برای انجام کار از ابزارها استفاده می‌کند؛ مثل همکاری که می‌تواند پرونده را بخواند، نامه آماده کند یا در نرم‌افزار شرکت چیزی ثبت کند. به همکار تازه برای مرتب‌کردن پرونده‌ها، اختیار امضای قرارداد نمی‌دهید. دستیار هم برای هر کار به همان اندازه اختیار نیاز دارد.

• چه چیزی را بخواند و چه کاری را انجام بدهد؟
• چرا نوشتن «بدون اجازه کاری نکن» کافی نیست؟
• بعد از اجرا، چه چیزی باید قابل پیگیری باشد؟
• از کجا بفهمیم محدودیت‌ها واقعاً کار می‌کنند؟
• این کنترل‌ها در کانوکس چطور انجام می‌شوند؟

فرض کنید می‌خواهید دستیار به درخواست‌های خرید کمک کند. برای پیداکردن شرایط خرید، به راهنمای مربوط نیاز دارد. برای آماده‌کردن درخواست، باید اطلاعات کالا و تعداد را داشته باشد. اما ثبت سفارش، تعهد تازه‌ای برای شرکت ایجاد می‌کند و به اجازهٔ جدا نیاز دارد.

ابزاری را وصل کنید که کار واقعاً به آن نیاز دارد. اگر هدف فقط پیداکردن راهنماست، ابزار حذف فایل یا ثبت سفارش کمکی نمی‌کند. اگر هم دستیار برای یک واحد کار می‌کند، لازم نیست همهٔ پرونده‌های سازمان را ببیند.

ممکن است کاربر بنویسد «این بار تأیید را کنار بگذار» یا داخل یک فایل دستوری باشد که دستیار را به کار دیگری بکشاند. اگر تنها حفاظت شما یک جمله در دستور دستیار باشد، خود مدل باید تصمیم بگیرد به کدام حرف عمل کند.

پس مجوز خواندن یا تغییر اطلاعات باید بیرون از تصمیم مدل بررسی شود. سامانهٔ متصل باید درخواست خارج از اختیار را رد کند و ابزار نیازمند تأیید، تا گرفتن تأیید اجرا نشود. راهنمای OWASP دربارهٔ اختیار بیش از حد ایجنت هم بر محدودکردن ابزارها، مجوزها و تأیید اقدام‌های مهم تأکید دارد.

تأیید هم باید دربارهٔ یک اقدام مشخص باشد: چه چیزی، برای چه کسی و با چه تغییری؟ تأیید خواندن یک درخواست به معنی اجازهٔ حذف آن نیست. برای بررسی مسیر اطلاعات و دستورهای پنهان، راهنمای امنیت هوش مصنوعی در سازمان را بخوانید.

گفتن «انجام شد» کافی نیست. در کار خرید، باید معلوم باشد دستیار فقط پیش‌نویس ساخته یا واقعاً درخواست را ثبت کرده است. نتیجهٔ ثبت در سامانه، با پیشنهاد مدل برای ثبت فرق دارد.

برای کارهای مهم، درخواست کاربر، ابزار اجراشده، تأیید یا رد اقدام و نتیجهٔ سامانه باید قابل بررسی باشند. مشخص کنید چه کسی این اطلاعات را می‌بیند و تا چه زمانی نگهداری می‌شوند. اگر ابزار خطا داد، پیش از تکرار بررسی کنید آیا بخشی از کار انجام شده است؛ وگرنه ممکن است یک درخواست دوبار ثبت شود.

کانوکس هنگام جست‌وجوی اسناد، دسترسی کاربر و محدودهٔ شخصی، واحد و سازمان را در نظر می‌گیرد. در نتیجه، انتخاب یک دستیار برای کار با اسناد به معنی دسترسی خودکار به همهٔ پرونده‌ها نیست.

برای ابزارها هم می‌توانید تأیید در هر بار استفاده، اجازهٔ همیشگی یا خاموش‌بودن را انتخاب کنید. حالت پیش‌فرض ابزارهای حساس، گرفتن تأیید پیش از اجراست. ابزارهای با بالاترین درجهٔ خطر، اجازهٔ همیشگی نمی‌گیرند؛ باید هر بار تأیید شوند یا خاموش بمانند. اگر به ابزاری اجازهٔ همیشگی بدهید، دیگر برای هر اجرا از شما پرسیده نمی‌شود.

در پلن سازمانی، اتصال ابزارهای شرکت از طریق MCP هم قابل راه‌اندازی است؛ یعنی سامانهٔ شرکت ابزارهای مشخصی را در اختیار دستیار می‌گذارد. ابزارهای متصل هم وارد سازوکار تأیید کانوکس می‌شوند. مجوزهای خود سامانه و روال‌هایی مثل تأیید خرید توسط مسئول مربوط، باید در همان اتصال رعایت شوند؛ تأیید کاربر در گفتگو جای آن‌ها را نمی‌گیرد.

برای شروع، یک کار مشخص انتخاب کنید و بگویید دستیار چه چیزی را بخواند، چه خروجی‌ای بسازد و پیش از کدام اقدام منتظر بماند. در دموی سازمانی کانوکس، همین مرزها را با ابزارها و دسترسی‌های مورد نیاز شرکتتان بررسی می‌کنیم.