ممنوع کردن ChatGPT کافی نیست: چرا ممنوعیت ابزار، ریسک هوش مصنوعی را حل نمی‌کند

وقتی خبر نشت داده‌ی سامسونگ از طریق ChatGPT منتشر شد، واکنش بسیاری از مدیران ساده بود: «ChatGPT را ممنوع کنیم.» خود سامسونگ هم در مه ۲۰۲۳ همین کار را کرد و به گزارش TechCrunch، استفاده از ابزارهای هوش مصنوعی مولد را روی دستگاه‌ها و شبکه‌های شرکت ممنوع کرد؛ هم‌زمان اعلام کرد در حال ساخت ابزارهای داخلی امن است. نکته‌ی کلیدی همین بخش دوم است.

ممنوعیت ممکن است در کوتاه‌مدت یا برای کاربردهای خاص منطقی باشد. اما به‌عنوان تنها راهبرد، سه مشکل اساسی دارد.

مشکل ۱: ChatGPT فقط یکی از هزاران ابزار است

هوش مصنوعی مولد امروز فقط یک وب‌سایت نیست. در این‌ها هم هست:

• چت‌بات‌های متعدد: Gemini، Claude، Copilot، DeepSeek، Grok و ده‌ها سرویس دیگر، به‌علاوه‌ی واسطه‌هایی که دسترسی به این مدل‌ها را بازفروش می‌کنند.
• افزونه‌های مرورگر: ابزارهایی که «صفحه را خلاصه می‌کنند» یا «ایمیل را بازنویسی می‌کنند» و به محتوای هر صفحه‌ای که باز می‌کنید دسترسی دارند.
• دستیارهای جلسه: ربات‌هایی که به جلسه‌ی آنلاین می‌پیوندند، صدا را ضبط و متن و خلاصه تولید می‌کنند.
• قابلیت‌های داخل نرم‌افزارهای موجود: ویرایشگر متن، ایمیل، CRM، ابزار طراحی و حتی نرم‌افزار حسابداری که به‌تازگی قابلیت هوش مصنوعی گرفته‌اند؛ گاهی به‌طور پیش‌فرض فعال.
• اپ‌های موبایل روی گوشی شخصی کارکنان.

ممنوع کردن یک دامنه، هیچ‌کدام از این‌ها را پوشش نمی‌دهد. حتی بدتر: Meta در گزارش امنیتی سه‌ماهه‌ی اول ۲۰۲۳ اعلام کرد از مارس همان سال حدود ده خانواده‌ی بدافزار را شناسایی کرده که خودشان را ابزار ChatGPT جا می‌زدند (از جمله در قالب افزونه‌ی مرورگر) و بیش از هزار لینک مخرب مرتبط را مسدود کرده است. کارمندی که ابزار رسمی ندارد، بیشتر احتمال دارد سراغ یکی از همین‌ها برود.

مشکل ۲: ممنوعیت، استفاده را پنهان می‌کند نه حذف

داده‌ها نشان می‌دهد کارکنان به‌هرحال از هوش مصنوعی استفاده می‌کنند:

• طبق Work Trend Index مایکروسافت، ۷۸٪ کاربران AI در محل کار، ابزار خودشان را می‌آورند.
• طبق نظرسنجی Fishbowl، حدود ۷۰٪ کسانی که در کار از ChatGPT استفاده می‌کنند، به مدیرشان نگفته‌اند.

وقتی ممنوعیت بدون جایگزین اعلام می‌شود، استفاده به گوشی شخصی، حساب شخصی و شبکه‌ی خانگی منتقل می‌شود؛ جایی که سازمان نه دیدی دارد، نه کنترلی و نه حتی می‌تواند بعد از یک اشتباه، آسیب را محدود کند. این دقیقاً همان Shadow AI است. گزارش هزینه‌ی نشت داده‌ی IBM هم Shadow AI را یکی از عوامل رو به رشد در هزینه‌ی رخدادهای امنیتی می‌داند.

مشکل ۳: ممنوعیت، سازمان را از مزیت محروم می‌کند

رقبایی که هوش مصنوعی را کنترل‌شده به کار می‌گیرند، سریع‌تر پیش‌نویس می‌نویسند، سریع‌تر تحلیل می‌کنند و سریع‌تر پاسخ می‌دهند. ممنوعیت کامل یعنی سازمان هم ریسک پنهان را دارد و هم مزیت را از دست داده است.

رویکرد جایگزین: «بله، اما این‌طور»

به‌جای «نه»، سازمان‌های موفق می‌گویند «بله، اما با این قواعد»:

1. یک یا چند ابزار تأییدشده با حساب سازمانی فراهم کنید. حساب سازمانی معمولاً شرایط بسیار سخت‌گیرانه‌تری برای نگهداری و استفاده از داده دارد.
2. یک سیاست کوتاه و روشن بنویسید: کدام ابزار، برای چه کار، با چه داده‌ای. (نمونه‌ی دستورالعمل)
3. قاعده را روی «داده» بگذارید، نه فقط «ابزار»: «اطلاعات مشتری در هیچ ابزار خارجی تأییدنشده‌ای وارد نمی‌شود» قاعده‌ای است که برای هر ابزار جدیدی هم کار می‌کند.
4. فرایند سریع تأیید ابزار جدید بسازید: اگر بررسی یک درخواست ماه‌ها طول بکشد، کارکنان منتظر نمی‌مانند. از چک‌لیست ارزیابی پیش از خرید استفاده کنید.
5. آموزش بدهید: کارمندی که می‌داند چرا نباید قرارداد را در چت‌بات عمومی کپی کند، به ممنوعیت فنی کمتری نیاز دارد. (قالب جلسه‌ی آموزشی)
6. کنترل فنی را هدفمند کنید: مسدودسازی را برای ابزارهای پرریسک یا ناشناس نگه دارید، نه برای کل مقوله‌ی هوش مصنوعی.

این رویکرد همان چیزی است که NIST AI RMF در کارکرد Govern توصیه می‌کند: سیاست، نقش‌ها، فهرست سیستم‌ها و فرهنگ مدیریت ریسک؛ نه ممنوعیت کور.

کِی ممنوعیت منطقی است؟

ممنوعیت هدفمند جایگاه دارد:

• برای داده‌های مشخص (مثلاً اطلاعات سلامت یا طبقه‌بندی‌شده)
• برای کاربردهای مشخص (مثلاً تصمیم نهایی استخدام)
• برای ابزارهای مشخص که ارزیابی شده و ریسکشان پذیرفتنی نیست
• به‌صورت موقت، تا وقتی ابزار و سیاست جایگزین آماده شود

جمع‌بندی

ممنوع کردن ChatGPT مثل بستن یک در در خانه‌ای است که ده پنجره‌ی باز دارد. ریسک هوش مصنوعی با حاکمیت مدیریت می‌شود، نه با فهرست سیاه. برای دیدن مسیر کامل، راهنمای جامع حاکمیت هوش مصنوعی را بخوانید.