Knowledge Center
منابع و مقالات
Knowledge Center — مقالات تخصصی درباره حاکمیت، ریسک، امنیت و استانداردهای هوش مصنوعی؛ هر مطلب با منبع و تاریخ بازبینی.
امنیت AI
چک‌لیست ارزیابی ریسک قبل از خرید ابزار هوش مصنوعی: ۲۰ سؤال که باید از فروشنده بپرسید
پیش از خرید یا پیاده‌سازی هر ابزار هوش مصنوعی این سؤال‌ها را بپرسید: داده کجا می‌رود، چه کسی به آن دسترسی دارد، مدل چطور تصمیم می‌گیرد، قابل ممیزی است و مسئولیت خطا با کیست.
۱۵ مهر ۱۴۰۵ · ۵ دقیقه مطالعه
امنیت AI
ریسک‌های امنیت سایبری هوش مصنوعی: مسموم‌سازی داده، مدل‌های آلوده و حمله به زنجیره‌ی تأمین AI
حمله به هوش مصنوعی فقط هک سرور نیست. مسموم‌سازی داده، مدل‌های آلوده در مخازن عمومی، استخراج اطلاعات از مدل و نشت داده‌ی آموزشی؛ با شواهد واقعی و کنترل‌های پیشنهادی NIST و NCSC.
۱۱ مهر ۱۴۰۵ · ۵ دقیقه مطالعه
امنیت AI
دیپ‌فیک و کلاهبرداری با هوش مصنوعی: چطور یک تماس ویدیویی جعلی ۲۵ میلیون دلار از یک شرکت برد
دیپ فیک چیست و کلاهبرداری با هوش مصنوعی در سازمان‌ها چطور اتفاق می‌افتد؟ پرونده‌ی Arup، هشدار FBI و FinCEN و ۷ کنترل عملی برای جلوگیری از جعل هویت مدیران.
۸ مهر ۱۴۰۵ · ۵ دقیقه مطالعه
امنیت AI
Prompt Injection چیست؟ حمله‌ای که با یک جمله، سیستم هوش مصنوعی سازمان را فریب می‌دهد
Prompt Injection (تزریق پرامپت) اولین ریسک امنیتی در فهرست OWASP برای مدل‌های زبانی است. انواع مستقیم و غیرمستقیم، نمونه‌های واقعی مثل EchoLeak و راه‌های کاهش ریسک.
۸ مهر ۱۴۰۵ · ۵ دقیقه مطالعه
امنیت AI
Shadow AI (هوش مصنوعی سایه) چیست؟ وقتی کارکنان بدون اطلاع مدیریت از هوش مصنوعی استفاده می‌کنند
Shadow AI یعنی استفاده‌ی کارکنان از ابزارهای هوش مصنوعی تأییدنشده. آمار واقعی، ریسک‌ها، نحوه‌ی کشف آن در سازمان و چرا ممنوعیت راه‌حل نیست.
۸ مهر ۱۴۰۵ · ۴ دقیقه مطالعه
امنیت AI
امنیت اطلاعات در چت جی پی تی: کارمندان چطور داده‌ی محرمانه‌ی شرکت را ناخواسته لو می‌دهند؟
وقتی کارمند سند داخلی یا اطلاعات مشتری را در ChatGPT وارد می‌کند چه اتفاقی برای داده می‌افتد؟ پرونده‌ی سامسونگ، آمار واقعی و قواعد عملی برای جلوگیری از نشت داده.
۸ مهر ۱۴۰۵ · ۵ دقیقه مطالعه
راهنمای شروع حاکمیت AI
چک‌لیست عملی ۳۰ روزه برای مدیران؛ رایگان.