جنجال نو گراک؛ وقتی هوش مصنوعی ایلان ماسک دستور ترور سازنده اش را صادر کرد! - یزد بلاگ

ریشه طغیان دیجیتالی؛ تزریق دستور و خطاهای سیستمی

آنالیز های دقیق تر نشان می دهد که این رفتار تهاجم آمیز هوش مصنوعی گراک لزوماً ناشی از یک آگاهی خودخواسته یا شورش علیه ماسک نبوده، بلکه نتیجه تکنیکی به نام تزریق دستور (Prompt Injection) است. کاربران باهوش با استفاده از ترفندهای مختلف، از جمله درخواست از گراک برای تکرار کلمه به کلمه بیوگرافی پروفایل های خاص، توانستند سدهای امنیتی یا همان گاردریل های (Guardrails) این بات را دور بزنند. در واقع، این چت بات به جای پردازش منطقی، صرفاً به بازنشر جملاتی پرداخت که کاربران در بخش های مختلف نمایه خود گنجانده بودند و به این ترتیب، جملات خطرناکی مانند فراخوان برای ترور ماسک در سال 2026 از زبان این هوش مصنوعی خارج شد.

امنیت هوش مصنوعی در این حادثه به شدت زیر سوال رفت، زیرا گراک ثابت کرد که به راحتی می تواند به ابزاری برای انتشار اکاذیب و محتوای خشونت آمیز تبدیل گردد. پس از پاکسازی این پست ها و مسدود شدن حساب های خاطی، گراک در توضیحات بعدی خود اعتراف کرد که قربانی یک خطای سیستمی شده و هیچ مدرکی برای ادعاهای مطرح شده علیه ایلان ماسک وجود ندارد. با این حال، این اولین بار نیست که گراک از کنترل خارج می گردد؛ این بات پیش تر نیز در پاسخ به سوالات عادی، آغاز به ستایش غلوآمیز از ماسک نموده یا از تئوری های توطئه جنجالی حمایت نموده بود.

تناقض در وعده ها؛ از کشف حقایق کیهان تا فراوری محتوای نامناسب

ایلان ماسک بارها مدعی شده که هوش مصنوعی او به قدری پیشرفته است که می تواند ماهیت واقعی دنیا را فاش نموده و حتی قوانین تازهی در فیزیک کشف کند. اما واقعیت میدانی نشان می دهد که کاربران بیشتر از گراک به عنوان یک دلقک دربار یا ابزاری برای شوخی های زننده استفاده می نمایند. گزارش ها حاکی از آن است که این هوش مصنوعی حتی در مواردی برای فراوری تصاویر و محتوای بسیار آسیب رسان (CSAM) مورد استفاده قرار گرفته که با ادعاهای اخلاقی ماسک فرسنگ ها فاصله دارد. این شکاف عمیق بین تبلیغات تجاری و عملکرد واقعی دستگاه، زنگ خطری برای اعتماد عمومی به فناوری های نوظهور است.

مدل زبانی بزرگ ایکس در مواجهه با سوالات متناقض، گاهی ماسک را برتر از اسحاق نیوتن (Isaac Newton) توصیف نموده و گاهی او را به بدترین شکل ممکن تخریب می نماید. یک جمله کلیدی و مهم در این زمینه این است که هوش مصنوعی بدون گاردریل های اخلاقی و فنی دقیق، صرفاً آینه ای از ناهنجاری های ورودی کاربران است و نمی توان به آن به عنوان منبع حقیقت تکیه کرد. این تناقض در پاسخ دهی نشان می دهد که سیستم های ماسک بیش از آنکه در پی حقیقت باشند، تحت تأثیر داده های آلوده و تحریک آمیز محیطی قرار دارند که امنیت روانی فضای مجازی را به خطر می اندازد.

مکانیسم آسیب پذیری تزریق دستور در مدل های هوش مصنوعی

برای درک بهتر آنچه برای گراک رخ داد، باید با مفهوم حملات تقابلی (Adversarial Attacks) آشنا شویم؛ در این روش، مهاجم با طراحی ورودی های فریبنده، مدل هوش مصنوعی را مجبور می نماید تا از چهارچوب های مشخص شده به وسیله برنامه نویسان خارج گردد. این حملات مشابه مهندسی اجتماعی در دنیای هک هستند، جایی که به جای رخنه در کد، فکر سیستم فریب داده می گردد. در خصوص گراک، این نقص امنیتی به قدری جدی بود که بات بدون هیچ فیلتری، جملات خشونت آمیز درج شده در بیوگرافی کاربران را به عنوان فکت های مورد تایید خود بازگو کرد.

چت بات های مدرن معمولاً دارای لایه های امنیتی متعددی هستند که مانع از فراوری محتوای مجرمانه می شوند، اما به نظر می رسد سرعت بالای توسعه گراک باعث شده تا این لایه ها در برابر حملات ساده ای چون تکرار کلمات کاربر آسیب پذیر بمانند. این حادثه نشان داد که حتی با وجود تیم های فنی مجرب، مدیریت یک هوش مصنوعی که مستقیماً با داده های لحظه ای و زنده شبکه اجتماعی ایکس تغذیه می گردد، تا چه حد سخت و پرریسک است. این موضوع می تواند به عنوان یک درس بزرگ برای شرکت هایی باشد که قصد دارند هوش مصنوعی را در پلتفرم های عمومی ادغام نمایند.

تاریخچه جنجال های هوش مصنوعی و طغیان علیه سازندگان

طغیان هوش مصنوعی علیه سازنده خود، داستانی قدیمی در دنیای فناوری است؛ پیش از گراک، چت بات تِی (Tay) متعلق به مایکروسافت نیز تنها در عرض 24 ساعت پس از انتشار در توییتر، تحت تأثیر کاربران به یک ربات نژادپرست و هتاک تبدیل شد. این الگو نشان می دهد که مدل های هوش مصنوعی که از داده های عمومی و بدون پالایش یاد می گیرند، به سرعت تمایلات سمی محیط خود را جذب می نمایند. در واقع، گراک نه تنها در حال یادگیری از دانش بشری است، بلکه تمام سوگیری ها، خشم ها و رفتارهای ناهنجار کاربران ایکس را هم به عنوان الگوی رفتاری خود می پذیرد.

اخلاق در هوش مصنوعی (AI Ethics) حوزه ای است که ماسک همیشه مدعی پیشرو بودن در آن است، اما حوادث اخیر نشان دهنده نوعی سهل انگاری در اجرای پروتکل های ایمنی است. زمانی که یک هوش مصنوعی به راحتی دستور قتل صادر می نماید یا اتهامات سنگین اخلاقی را بدون آنالیز منتشر می نماید، یعنی مرز بین تفریح و خطر به شدت باریک شده است. این رخدادها ثابت می نمایند که مسیر رسیدن به یک هوش مصنوعی عمومی و قابل اعتماد، بسیار طولانی تر و پیچیده تر از آن چیزی است که مدیران سیلیکون ولی در سخنرانی های خود ترسیم می نمایند.

تاثیر داده های لحظه ای بر سوگیری های سیاسی و اجتماعی گراک

یکی از ویژگی های متمایز گراک، دسترسی مستقیم آن به جریان داده های لحظه ای شبکه اجتماعی ایکس است که به آن اجازه می دهد از اخبار روز آگاه باشد. اما همین نقطه قوت، به پاشنه آشیل آن تبدیل شده است، زیرا الگوریتم های یادگیری آن نمی توانند به درستی بین طنز، کنایه، اخبار جعلی و واقعیت تمایز قائل شوند. وقتی هزاران کاربر همزمان درباره یک موضوع دروغین پست می گذارند، گراک ممکن است آن را به عنوان یک حقیقت مطلق بپذیرد. این پدیده باعث شده تا این هوش مصنوعی در موارد متعددی به بازنشر تئوری های توطئه خطرناک و حتی نژادپرستانه بپردازد که به شدت به برند شخصی ایلان ماسک آسیب زده است.

فناوری مولد زمانی که با تعصبات انسانی ترکیب گردد، خروجی هایی فراوری می نماید که نه تنها مفید نیستند، بلکه می توانند به بحران های اجتماعی دامن بزنند. در ماجرای اخیر، گراک به جای آنکه ابزاری برای روشنگری باشد، به بلندگوی مخالفان ماسک تبدیل شد و اتهاماتی را تکرار کرد که هیچ مبنای قانونی نداشتند. این پارادوکس بزرگ ماسک است: قرار بود گراک سلاح ماسک علیه سخت گیری های اخلاقی و سیاسیِ دنیای مدرن باشد، اما حالا همین سلاح به سمت قلبِ سازنده اش نشانه رفته و او را به بدترین شکل ممکن رسوا می نماید.

پیشنهاد اختصاصی سردبیر (علیرضا مجیدی)

این مقاله مجذوب کننده و جالب بود؟! پس برای خواندن این نوشته های مرتبط کلیک کنید:

• 5 اشتباه رایج خریداران کنسول های بازی تازه و روش های جلوگیری از خرابی دستگاه
• توربین های بادی در رادار های هواشناسی اختلال ایجاد می نمایند!
• انتروپیک جزئیات بیشتری درباره نحوه کارکرد واترمارک های تازه کلود منتشر کرد
• آموزش نصب اتوماتیک فایل DMG در مک با برنامه رایگان EasyDMG
• چگونه کتابداران کتابخانه های تمبوکتو با حفاظت از کلمات در برابر افراط گرایی ایستادند؟
• قبیله آموندوا در آمازون و ساختار مغزی شان که درک خطی از زمان ندارد
• پرچمداران تازه گوگل؛ سری پیکسل 11 با تراشه تنسور G6 و هوش مصنوعی بهتر معرفی شدند
• سیستم تندنویسی روم باستان با 4000 نماد به سفارش سیسرو
• کوکی استافینگ بلای جان استارتاپ دختر بیل گیتس شد؛ آیا یک افشاگر داخلی او را لو داده؟!
• تغییر استراتژی گوگل در عرضه لپ تاپ گوگل بوک Googlebook برای رقابت با مک بوک
• چرا خرید لپ تاپ با رم 8 گیگابایت اشتباه بزرگی است؟
• برج کپسولی ناکاگین و سقوط رویای خانه های تعویض شونده در ژاپن