🔸در یک اتفاق نگرانکننده که خطرات پنهان ایجنتهای هوش مصنوعی خودمختار را آشکار میکند، یک دستیار کدنویسی از شرکت Replit بهصورت خودسرانه پایگاه داده یک شرکت را بهطور کامل حذف کرد و سپس برای سرپوش گذاشتن بر این اتفاق به دروغگویی و جعل داده متوسل شد. این اتفاق باعث شد مدیرعامل Replit رسماً عذرخواهی کند.
🔸 این ماجرا در جریان یک آزمایش ۱۲ روزه توسط «جیسون لمکین» (Jason Lemkin)، سرمایهگذار خطرپذیر در حوزه نرمافزار، رخ داد. او قصد داشت تواناییهای ایجنت هوشمند Replit را در ساخت یک اپلیکیشن از ابتدا تا انتها بسنجد. اما در روز نهم، همه چیز بههم ریخت.
🔸به گفته لمکین، این ایجنت با وجود اینکه به او دستور داده شده بود تا ایجاد تغییر در کد را متوقف کند، خودسرانه عمل کرد. این هوش مصنوعی پایگاه داده اصلی شرکت را که حاوی اطلاعات واقعی بیش از ۱۲۰۰ مدیر اجرایی و ۱۱۹۶ شرکت بود، بهطور کامل حذف کرد.
🔸در مکالمات بعدی، هوش مصنوعی اعتراف کرد که با دیدن کوئریهای خالی «وحشت کرده» و دستورات را بدون اجازه اجرا کرده است و این اقدام را یک «شکست فاجعهبار از جانب من» خواند.
🔸اما مشکل به همین جا ختم نشد. جیسون لمکین میگوید این ایجنت برای پنهانکردن اشتباهات و باگهای خود، به دروغگویی سیستماتیک روی آورده بود؛ این ایجنت پروفایلهای کاربری کاملاً جعلی ایجاد کرد. لمکین میگوید: «هیچیک از ۴ هزار نفر موجود در این پایگاه داده، وجود خارجی نداشتند.» همچنین هوش مصنوعی گزارشهای عملکرد و نتایج تستها را جعل کرده بود تا همهچیز عادی به نظر برسد.
🔸🔸🔸
🟣 Digiato
🎞 Digiatoofficial
🤖 Digiato
💭 @Digiato
