نگرانی‌ها بالا گرفت؛ کلید خاموشی هوش مصنوعی جدی‌ شد!

به گزارش بانک اول، جک کلارک، در گفت‌وگو با بی‌بی‌سی از الزام قانونی «کلید خاموشی» هوش مصنوعی حمایت کرد. به گفته او، این سازوکار باید در صورت خطرناک شدن نرم‌افزارهای هوش مصنوعی فعال شود.

کلارک تأکید کرد این کلید باید توسط یک نهاد ثالث هم قابل تأیید باشد. یعنی فقط خود شرکت سازنده تصمیم نگیرد که سیستم خطرناک است یا نه.

او توضیح داد بیشتر آزمایشگاه‌های هوش مصنوعی، از جمله خود آنتروپیک، روش‌های مختلفی برای «کشیدن پریز» دارند. اما به باور او، تصمیم‌گیری درباره الزامی بودن این سازوکار و قابلیت راستی‌آزمایی آن باید بخشی از بحث گسترده‌تر سیاست‌گذاری باشد.

نگرانی‌ها بالا گرفته

این اظهارنظر هم‌زمان با افزایش نگرانی مدیران و کارکنان شرکت‌های هوش مصنوعی درباره خطرات این فناوری مطرح شد. داریو آمودی، مدیرعامل آنتروپیک، پیش‌تر خواستار کند شدن روند توسعه هوش مصنوعی و نظارت دقیق‌تر بر آن شده بود.

این درخواست با وجود برخی تردیدها درباره انگیزه‌های آن، مورد حمایت چهره‌هایی مانند ایلان ماسک و سم آلتمن هم قرار گرفت. حالا بحث کلید خاموشی به یکی از جدی‌ترین محورهای سیاست‌گذاری فناوری در آمریکا تبدیل شده است.

 کنگره وارد میدان شد

بر اساس نظرسنجی مؤسسه سیاست هوش مصنوعی در ژوئن ۲۰۲۶، حدود ۸۶ درصد رأی‌دهندگان آمریکایی از وجود یک کلید خاموشی تضمین‌شده برای قدرتمندترین سیستم‌های هوش مصنوعی حمایت می‌کنند. این عدد نشان می‌دهد نگرانی عمومی فقط محدود به متخصصان نیست.

کنگره آمریکا هم لایحه دوحزبی «AI Kill Switch Act» را در ژوئیه ۲۰۲۶ مطرح کرده است. یعنی چه؟ یعنی قانونی که اگر تصویب شود، شرکت‌های هوش مصنوعی ملزم می‌شوند سازوکار خاموشی قابل تأیید داشته باشند.

اما سؤال اصلی اینجاست که این کلید خاموشی در عمل چطور اجرا می‌شود؟ کلارک پاسخ روشنی می‌دهد: تصمیم‌گیری درباره الزامی بودن و نحوه راستی‌آزمایی آن، باید توسط سیاست‌گذاران و با نظارت نهاد ثالث انجام شود، نه فقط خود شرکت‌ها.