چک‌لیست ارزیابی ریسک قبل از خرید ابزار هوش مصنوعی: ۲۰ سؤال که باید از فروشنده بپرسید

خرید یک ابزار هوش مصنوعی شبیه خرید یک نرم‌افزار معمولی به نظر می‌رسد، اما یک تفاوت اساسی دارد: شما فقط یک ابزار نمی‌خرید؛ داده‌تان را به یک شرکت دیگر می‌سپارید و بخشی از قضاوت سازمانتان را به مدلی واگذار می‌کنید که ساختار داخلی‌اش را نمی‌بینید. اگر پیش از امضا سؤال‌های درست پرسیده نشود، بعداً پاسخ گرفتن سخت یا غیرممکن است.

اسناد مرجع هم روی همین موضوع تأکید دارند: چارچوب NIST AI RMF یک دسته‌ی کامل (GOVERN 6) را به ریسک‌های نرم‌افزار، داده و زنجیره‌ی تأمین اشخاص ثالث اختصاص داده، ISO/IEC 42001 در کنترل‌های پیوست A.10 روابط با تأمین‌کنندگان را پوشش می‌دهد و دولت بریتانیا راهنمای مستقلی برای خرید هوش مصنوعی منتشر کرده است.

۵ سؤال طلایی (اگر وقت فقط برای پنج سؤال دارید)

1. داده‌ی ما دقیقاً کجا ذخیره و پردازش می‌شود و چه مدت نگه داشته می‌شود؟
2. آیا داده‌ی ما برای آموزش یا بهبود مدل شما یا مشتریان دیگر استفاده می‌شود؟
3. چه کسانی (از جمله پیمانکاران و بازبین‌های انسانی شما) به داده‌ی ما دسترسی دارند؟
4. اگر مدل اشتباه کند و به ما یا مشتری‌مان آسیب بزند، مسئولیت با کیست؟
5. چه شواهدی از امنیت و حاکمیت هوش مصنوعی دارید؟ (گواهی‌ها، گزارش ممیزی مستقل، مستندات مدل)

اگر فروشنده به یکی از این پنج سؤال جواب روشن و مکتوب نداد، این خودش یک پاسخ است.

چک‌لیست کامل: ۲۰ سؤال در ۵ حوزه

الف) داده و حریم خصوصی

• داده در کدام کشور و روی زیرساخت چه کسی ذخیره می‌شود؟
• مدت نگهداری داده (ورودی‌ها، خروجی‌ها، لاگ‌ها) چقدر است و آیا قابل تنظیم است؟
• آیا داده برای آموزش مدل استفاده می‌شود؟ آیا این به‌طور پیش‌فرض خاموش است یا باید خاموشش کرد؟
• در پایان قرارداد، داده چطور و ظرف چه مدتی حذف می‌شود و آیا گواهی حذف ارائه می‌شود؟
• از کدام زیرپردازنده‌ها (مثلاً ارائه‌دهنده‌ی مدل پایه یا زیرساخت ابری) استفاده می‌کنید؟

ب) امنیت

• کنترل دسترسی چطور است؟ آیا ورود یکپارچه (SSO) و احراز هویت چندمرحله‌ای پشتیبانی می‌شود؟
• آیا گواهی‌های امنیتی (مثل ISO/IEC 27001 یا گزارش SOC 2) دارید؟
• در برابر حملات خاص هوش مصنوعی، مثل Prompt Injection، چه اقداماتی انجام داده‌اید؟ آیا آزمون تهاجمی (Red Teaming) انجام شده؟
• در صورت رخداد امنیتی، ظرف چه مدتی به ما اطلاع می‌دهید؟

راهنمای مشترک نهادهای امنیتی آمریکا و متحدانش درباره‌ی استقرار امن سیستم‌های هوش مصنوعی برای ارزیابی این بخش بسیار مفید است.

ج) مدل و عملکرد

• از کدام مدل یا مدل‌های پایه استفاده می‌کنید و وقتی مدل عوض شود به ما اطلاع می‌دهید؟
• دقت و نرخ خطا برای کاربرد مشابه ما چقدر است و چطور سنجیده شده؟
• محدودیت‌های شناخته‌شده‌ی ابزار چیست؟ در چه مواردی نباید از آن استفاده کرد؟
• اگر ابزار درباره‌ی افراد تصمیم یا پیشنهاد می‌دهد (مثلاً در استخدام یا اعتبارسنجی)، آیا ارزیابی سوگیری انجام شده و نتایجش قابل ارائه است؟

د) شفافیت و قابلیت ممیزی

• آیا خروجی‌ها قابل توضیح‌اند؟ آیا ابزار دلیل یا منبع پاسخ را نشان می‌دهد؟
• آیا لاگ ورودی‌ها و خروجی‌ها در اختیار ما قرار می‌گیرد تا در صورت نیاز ممیزی کنیم؟
• آیا مستندات فنی مدل (مثل «کارت مدل») در دسترس است؟

شفافیت ارائه‌دهندگان را فرض نگیرید. طبق گزارش شاخص هوش مصنوعی استنفورد ۲۰۲۶، میانگین امتیاز «شاخص شفافیت مدل‌های پایه» که میزان افشای اطلاعات توسط سازندگان بزرگ مدل را می‌سنجد، از ۵۸ در ۲۰۲۴ به ۴۰ در ۲۰۲۵ کاهش یافته است.

هـ) قرارداد، مسئولیت و تداوم

• سقف مسئولیت فروشنده در صورت خطای مدل یا نشت داده چقدر است؟
• آیا در برابر ادعای نقض مالکیت فکری ناشی از خروجی، تعهد جبران خسارت دارید و این تعهد شامل نوع اشتراک ما می‌شود؟
• اگر سرویس متوقف شود یا شرایط تغییر کند، برنامه‌ی خروج و انتقال داده چیست؟

اتحادیه اروپا برای خریداران بخش عمومی بندهای قراردادی نمونه برای هوش مصنوعی (MCC-AI) منتشر کرده که برای سازمان‌های خصوصی هم الگوی خوبی است.

ریسک را متناسب با کاربرد بسنجید

همه‌ی ابزارها به همه‌ی این سؤال‌ها نیاز ندارند. یک روش ساده:

سطح	نمونه	عمق ارزیابی
کم	ابزار طراحی تصویر برای ایده‌پردازی، بدون داده‌ی داخلی	۵ سؤال طلایی
متوسط	دستیار نوشتن یا خلاصه‌سازی که به اسناد داخلی دسترسی دارد	بخش‌های الف، ب و هـ
بالا	ابزاری که درباره‌ی مشتریان یا کارکنان تصمیم می‌گیرد یا به سیستم‌های حیاتی وصل است	هر ۲۰ سؤال + آزمون آزمایشی + بازبینی حقوقی

یک نکته‌ی مهم برای سازمان‌های ایرانی

دسترسی پایدار به سرویس، برای بسیاری از سازمان‌های ایرانی خودش یک ریسک مستقل است. پیش از وابسته کردن یک فرایند حیاتی به یک سرویس خارجی، بپرسید اگر دسترسی فردا قطع شود، داده‌ها و کار چطور ادامه پیدا می‌کند. و به‌طور خاص مراقب واسطه‌هایی باشید که دسترسی به مدل‌های خارجی را «بازفروش» می‌کنند: داده‌ی شما در این حالت از دست یک شرکت واسط دیگر هم عبور می‌کند که ممکن است سیاست‌های حفاظت داده‌ی شفافی نداشته باشد.

جمع‌بندی

سؤال پرسیدن پیش از خرید، ارزان‌ترین کنترل ریسک هوش مصنوعی است. این چک‌لیست را به فرایند خرید سازمان اضافه کنید تا هیچ ابزار AI بدون پاسخ به دست‌کم پنج سؤال طلایی وارد سازمان نشود. برای بعد از خرید، مقاله‌ی ۵ قدم عملی برای امن‌سازی استفاده از هوش مصنوعی را ببینید.