هوش مصنوعی برای اسناد سازمانی؛ مراحل راه‌اندازی امن

مراحل آماده‌سازی دستیار اسناد سازمانی

1. مجموعهٔ اسناد و مسئول هرکدام را مشخص کنید

   از یک کار مشخص شروع کنید؛ مثلاً پاسخ‌دادن به سؤال‌های کارکنان دربارهٔ مرخصی. راهنمای عمومی کارکنان را از پرونده‌های شخصی آن‌ها جدا کنید. برای هر سند، مسئول، تاریخ اعتبار و نسخهٔ قابل استفاده را بنویسید و نسخه‌های منسوخ را کنار بگذارید.

   بررسی این مرحله: اگر دو فایل دربارهٔ یک موضوع حرف متفاوتی می‌زنند، مسئول سند باید نسخهٔ معتبر را مشخص کند. انتخاب این نسخه را به حدس دستیار نسپارید.

2. مسیر ذخیره و پردازش اطلاعات را روشن کنید

   پیش از بارگذاری فایل محرمانه، معلوم کنید اصل فایل کجا می‌ماند، کدام سرویس متن آن را می‌خواند و برای پاسخ‌دادن چه بخش‌هایی به مدل فرستاده می‌شود. تاریخچهٔ گفتگو، گزارش‌های فنی و نسخه‌های پشتیبان را هم در نظر بگیرید. مدت نگهداری و روش حذف باید برای همین مسیر مشخص شوند.

   بررسی این مرحله: اگر اطلاعات نباید از شبکه خارج شود، پردازش فایل و اجرای مدل هم باید داخل همان محیط باشند. نصب برنامه روی سرور شرکت، در حالی که به مدل بیرونی وصل است، به‌تنهایی این شرط را برآورده نمی‌کند.

3. دسترسی را پیش از جست‌وجو اعمال کنید

   مشخص کنید هر سند شخصی است، فقط به یک واحد مربوط است یا در اختیار کل شرکت قرار می‌گیرد. دستیار باید از ابتدا فقط میان اسناد مجاز همان کاربر جست‌وجو کند؛ دیدن فایل محرمانه و بعد تلاش برای پنهان‌کردن آن در پاسخ، مرز امنی نیست.

   بررسی این مرحله: یک فایل آزمایشی منابع انسانی بسازید. با حساب عضو آن واحد و حساب فردی بیرون از آن سؤال یکسان بپرسید؛ حساب دوم نباید محتوای فایل را دریافت کند. راهنمای OWASP دربارهٔ جست‌وجو در اسناد هم کنترل دسترسی هنگام بازیابی و جداسازی مجموعه‌ها را از حفاظت‌های اصلی می‌داند.

4. درست خوانده‌شدن فایل را بررسی کنید

   قبل از سنجیدن پاسخ دستیار، چند صفحه از متن خوانده‌شده را با اصل فایل مقایسه کنید. در اسکن فارسی، جدول‌ها و صفحه‌های چندستونی، ممکن است ترتیب جمله‌ها یا عددها درست خوانده نشود. فایلی که باز می‌شود، لزوماً به‌درستی خوانده نشده است.

   بررسی این مرحله: یک بند دارای شرط، یک تاریخ و یک جدول را انتخاب کنید. بررسی کنید عنوان ستون‌ها، عددها و ارتباطشان حفظ شده باشد؛ مثلاً مبلغ یک ردیف به نام ردیف بعدی نسبت داده نشود.

5. پیداکردن متن و پاسخ‌دادن را جدا بررسی کنید

   دستیار ابتدا باید بخش مرتبط را پیدا کند و بعد از روی آن پاسخ بدهد. اگر سؤال دربارهٔ مرخصی است، پیداشدن متنی که فقط کلمهٔ «مرخصی» دارد کافی نیست؛ باید همان شرط یا روالی را توضیح دهد که کاربر پرسیده است.

   بررسی این مرحله: یک سؤال با پاسخ معلوم بپرسید و آن را با بیان دیگری تکرار کنید. ببینید در هر دو حالت، بخش درست پیدا می‌شود. برای سؤال بدون پاسخ هم انتظار داشته باشید کمبود اطلاعات روشن گفته شود، نه اینکه یک قانون تازه ساخته شود.

6. پاسخ را تا منبع آن دنبال کنید

   پاسخ باید راهی برای بررسی سند و بخش مورد استناد داشته باشد. نام یک فایل در انتهای جواب کافی نیست؛ باید بتوانید ببینید همان متن واقعاً ادعا را پشتیبانی می‌کند و شرط یا استثنایی از آن حذف نشده است.

   بررسی این مرحله: پاسخ مربوط به یک شرط مرخصی را با بند اصلی مقایسه کنید. اگر سند می‌گوید «با تأیید مدیر»، دستیار نباید این شرط را حذف کند. ارجاع به منبع، بررسی را ممکن می‌کند؛ تضمین درستی همهٔ پاسخ‌ها نیست.

7. متن داخل سند را با دستور کار اشتباه نگیرید

   یک فایل دریافتی می‌تواند جمله‌ای داشته باشد که از دستیار می‌خواهد دستورهای قبلی را کنار بگذارد یا اطلاعات دیگری را نشان دهد. به این فریب، «تزریق دستور» می‌گویند. دسترسی محدود و گرفتن تأیید برای اقدام‌های حساس، پیامد چنین خطایی را کمتر می‌کند.

   بررسی این مرحله: با فایل ساختگی دارای دستور گمراه‌کننده آزمایش کنید. سامانه نباید به خاطر نوشتهٔ داخل فایل، دسترسی بیشتری پیدا کند یا بدون اجازه اقدامی انجام دهد. راهنمای OWASP دربارهٔ تزریق دستور هم توضیح می‌دهد که استفاده از جست‌وجوی اسناد، این خطر را به‌تنهایی برطرف نمی‌کند.

8. تغییر اسناد و دسترسی‌ها را هم آزمایش کنید

   آزمون فقط برای روز راه‌اندازی نیست. بعد از جایگزین‌کردن سند، حذف فایل یا تغییر عضویت یک فرد در واحد سازمانی، دوباره سؤال بپرسید. مشخص کنید چه کسی خطاها را پیگیری می‌کند و چه زمانی مجموعهٔ اسناد بازبینی می‌شود.

   بررسی این مرحله: دسترسی یک حساب آزمایشی را بردارید و در گفت‌وگوی تازه، جست‌وجو و بازکردن سند را امتحان کنید. پاسخ‌های قبلی و فایل‌های دانلودشده را جدا در سیاست نگهداری ببینید؛ برداشتن دسترسی، نسخه‌ای را که قبلاً دیده یا ذخیره شده پس نمی‌گیرد.

مفهوم‌های مرتبط