امنیت بازیابی دانش

RAG امن با سطح دسترسی سند چگونه طراحی می‌شود؟

RAG امن سامانه‌ای است که پیش از بازیابی، هویت و مجوز کاربر را به سیاست قابل اجرا تبدیل می‌کند و فقط قطعه‌های مجاز را وارد زمینه مدل می‌سازد. امنیت با مخفی‌کردن لینک یا نوشتن «اطلاعات محرمانه را نگو» در پرامپت ایجاد نمی‌شود؛ مجوز سند، منبع، نسخه، لاگ و رفتار در نبود پاسخ باید در معماری اعمال و آزمون شوند.

انتشار: 2026-10-06 · آخرین به‌روزرسانی: 2026-10-06

نویسنده: تحریریه پیکا — پژوهش و ویرایش با کمک ابزارهای هوش مصنوعی؛ مسئولیت انتشار با پیکا است

روش پژوهش، استفاده از AI و اصلاح محتوا

RAG امن سامانه‌ای است که پیش از بازیابی، هویت و مجوز کاربر را به سیاست قابل اجرا تبدیل می‌کند و فقط قطعه‌های مجاز را وارد زمینه مدل می‌سازد. امنیت با مخفی‌کردن لینک یا نوشتن «اطلاعات محرمانه را نگو» در پرامپت ایجاد نمی‌شود؛ مجوز سند، منبع، نسخه، لاگ و رفتار در نبود پاسخ باید در معماری اعمال و آزمون شوند.

مرز امنیت در معماری RAG کجاست؟

راهنمای RAG سازمانی مسیر دریافت سند، نمایه‌سازی، بازیابی و تولید را جدا می‌کند. در هر مرز، هویت خدمت، داده ورودی، مجوز و مقصد خروج باید مشخص باشد. خطر فقط مدل نیست؛ خط دریافت ممکن است سند خصوصی را در نمایه عمومی بگذارد، cache می‌تواند پاسخ کاربر قبلی را نشان دهد و لاگ ممکن است متن یا پرسش حساس را نگه دارد.

ACL، RBAC و ABAC چه تفاوتی دارند؟

ACL مجازبودن کاربر یا گروه را روی شیء ثبت می‌کند؛ RBAC مجوز را از نقش سازمانی می‌گیرد؛ ABAC طبق تعریف NIST ویژگی‌های درخواست‌کننده، شیء، عملیات و گاهی محیط را با سیاست می‌سنجد. در عمل می‌توان گروه‌های هویت را با ویژگی‌هایی مانند واحد، پروژه، طبقه‌بندی، کشور یا تاریخ اعتبار ترکیب کرد. پیچیدگی بیشتر فقط وقتی ارزش دارد که منبع معتبر و حاکمیت ویژگی‌ها وجود داشته باشد.

مجوز سند چگونه به قطعه و بردار منتقل می‌شود؟

هر قطعه باید شناسه منبع، نسخه، مالک، سطح محرمانگی و مرجع سیاست را حفظ کند. اگر سند دوباره بخش‌بندی یا به‌روز شد، قطعه قدیمی باید از دسترس خارج شود. طراحی متادیتا و کنترل نسخه سند برای امنیت عملی حیاتی‌اند؛ یک بردار بی‌منبع را نمی‌توان درست حذف، ممیزی یا به مجوز اصلی متصل کرد.

فیلتر مجوز چه زمانی باید اجرا شود؟

فیلتر باید در همان درخواست بازیابی و پیش از ارسال متن به مدل اجرا شود. post-filter روی ده نتیجه برتر ممکن است همه نامزدها را حذف کند و recall را کاهش دهد؛ بدتر از آن، فیلتر بعد از تولید اجازه می‌دهد متن غیرمجاز وارد مدل یا لاگ شود. جست‌وجوی سازمانی امن باید فیلتر، رتبه‌بندی و صفحه‌بندی را با هم طراحی کند.

Prompt Injection در سند بازیابی‌شده چگونه مهار می‌شود؟

OWASP تزریق مستقیم و غیرمستقیم دستور را از ریسک‌های اصلی برنامه‌های مولد می‌داند. سند، ایمیل و وب‌صفحه باید داده تلقی شوند نه دستور قابل اعتماد. جداسازی نقش پیام‌ها، محدودکردن ابزارها، اعتبارسنجی خروجی، علامت‌گذاری منبع، اسکن ورودی و تأیید انسانی برای اقدام حساس لایه‌های دفاع‌اند؛ هیچ‌کدام به‌تنهایی حذف کامل حمله را تضمین نمی‌کند.

لاگ، cache و تحلیل استفاده چگونه امن می‌شوند؟

کلید cache باید هویت یا مجموعه مجوز مؤثر را در نظر بگیرد و پاسخ خصوصی در cache عمومی قرار نگیرد. لاگ برای ممیزی لازم است، اما باید متن کامل را فقط با ضرورت و مدت نگهداری مشخص ذخیره کند. شناسه پرسش، تصمیم سیاست، شناسه منابع، نسخه مدل و نتیجه کنترل بهتر از ثبت بی‌قید همه متن‌هاست. امنیت هوش مصنوعی سازمانی باید نگهداری، دسترسی و حذف لاگ را نیز پوشش دهد.

RAG امن با چه آزمون‌هایی پذیرفته می‌شود؟

مجموعه آزمون باید ماتریس کاربر × سند × عملیات داشته باشد و علاوه بر اجازه‌های درست، منع دسترسی را بسنجد. کاربر بدون گروه، گروه حذف‌شده، سند تغییرطبقه‌داده، لینک مستقیم، کوئری بازنویسی‌شده، prompt injection، پاسخ cacheشده و خطای سرویس هویت سناریوهای ضروری‌اند. ارزیابی RAG باید کیفیت را به تفکیک سطح دسترسی گزارش کند تا امنیت با افت پنهان نتیجه معامله نشود.

1. مدل تهدید دارایی، بازیگر، مسیر نشت و اقدام حساس را مشخص کنید.
2. منبع هویت نشست، گروه و ویژگی معتبر و زمان انقضای آن‌ها را تعیین کنید.
3. سیاست بازیابی فیلتر سند و قطعه را پیش از مدل پیاده کنید.
4. آزمون منفی کاربر غیرمجاز، سند مخرب، cache و شکست وابستگی را اجرا کنید.
5. پایش و بازبینی تغییر گروه، سیاست، سند و رخداد مشکوک را قابل پیگیری کنید.

چه زمانی RAG برای داده حساس مناسب نیست؟

اگر مالک سند، طبقه‌بندی، گروه‌های هویت، سیاست نگهداری یا امکان آزمون منع دسترسی وجود ندارد، واردکردن داده حساس به RAG زود است. ابتدا می‌توان پایلوت Document AI را روی مجموعه ناشناس یا کم‌خطر اجرا کرد و فقط استخراج و بازیابی را سنجید. خودکارسازی اقدام برگشت‌ناپذیر نیز باید تا وجود کنترل ابزار و تأیید انسانی محدود بماند.

مجوز را پیش از مدل اعمال کنید پیکا می‌تواند مسیر هویت تا قطعه، آزمون‌های منع دسترسی و سیاست ممیزی یک پایلوت RAG امن را طراحی کند. درخواست بازبینی امنیت RAG