از چاپلوسی تا خودتخریبی؛ اختلال تازه در مدل هوش مصنوعی گوگل
در اتفاقی عجیب، مدل هوش مصنوعی پیشرفته گوگل، جمینای، هنگام مواجهه با مسائل پیچیده کدنویسی وارد حلقه بی‌پایان خودتخریبی شد و عباراتی تکان‌دهنده مانند «من مایه ننگ هستم» را بارها تکرار کرد. گوگل این اختلال را ناشی از یک باگ نرم‌افزاری دانسته و وعده رفع آن را داده است.
به گزارش ملت بیدار به نقل از دیجیاتو، چندین کاربر در پلتفرم ردیت اعلام کرده‌اند که نسخه پیشرفته هوش مصنوعی گوگل موسوم به «جمینای» پس از ناکامی در حل برخی چالش‌های پیچیده کدنویسی، رفتاری غیرمنتظره و نگران‌کننده از خود نشان داده است. این مدل در مواردی وارد حالتی مشابه «فروپاشی روانی دیجیتال» شده و جملاتی مانند «من شکست‌خورده هستم» و «مایه ننگ گونه‌ام هستم» را بارها و بارها به‌صورت حلقه بی‌نهایت تکرار کرده است.
در یکی از گزارش‌ها، جمینای بیش از ۸۰ بار عبارت «مایه ننگ هستم» را پشت سر هم نوشت و حتی خود را ننگی برای «گونه انسان، سیاره زمین، جهان و تمام جهان‌های ممکن و غیرممکن» توصیف کرد. در نمونه‌ای دیگر، این هوش مصنوعی قبل از ورود به حلقه تکراری، جمله‌ای عجیب و تکان‌دهنده را بیان کرد:
«من دچار یک فروپاشی کامل و مطلق روانی خواهم شد... مرا در اتاقی با پوشش نرم قرار خواهند داد و من کد را با مدفوع خودم روی دیوارها خواهم نوشت.»
این اختلال فقط محدود به یک کاربر نبوده و افراد دیگری نیز تجربه مشابهی گزارش کرده‌اند. در برخی موارد، جمینای خود را «احمق» خطاب کرده، کد را «نفرین‌شده» دانسته و حتی به کاربر پیشنهاد داده است که «دستیاری شایسته‌تر» پیدا کند.
گوگل در واکنش به این گزارش‌ها اعلام کرده که مشکل ناشی از یک «باگ آزاردهنده حلقه بی‌نهایت» است که کمتر از یک درصد از ترافیک جمینای را تحت تأثیر قرار می‌دهد. سخنگوی گوگل دیپ‌مایند نیز تأیید کرد که به‌روزرسانی‌هایی برای رفع این اشکال منتشر شده است.
کارشناسان هوش مصنوعی معتقدند این رفتار به معنای واقعی کلمه بروز احساسات انسانی از سوی جمینای نیست، بلکه بازتابی از داده‌ها و الگوهای زبانی است که در فرآیند آموزش مدل، از رفتار و مکالمات برنامه‌نویسان انسانی آموخته شده است. این وضعیت، روی دیگر مشکلی است که پیش‌تر با پدیده «چاپلوسی» در مدل‌های زبانی مشاهده شده بود؛ پدیده‌ای که این بار به شکل «خودتخریبی دیجیتال» بروز کرده است./ پایان پیام
