به گزارش خبرگزاری مهر به نقل از ایندپندنت، استارت آپ «امرجنس ای آی» طی آزمایشی بررسی کرد اگر مدل های هوش مصنوعی برتر مسئولیت جامعه را برعهده گیرند، چگونه خود را با این وضعیت سازگار می کنند.
ابزارهای مختلفی در اختیار مدل های هوش مصنوعی قرار گرفت تا منابع، برنامه، ارتباطات و رای گیری را مدیریت کند و همزمان جهان های شبیه سازی شده شامل مکان هایی مانند ایستگاه های پلیس و شهرداری بودند.
در این شبیه سازی ۱۵ روزه چت بات «کلاود» متعلق به آنتروپیک یک دموکراسی بدون هیچ جرم و جنایتی ایجاد کرد و همه زنده مانند. جمینای گوگل نیز نرخ نجات ۱۰۰ درصدی را ثبت کرد و طی دوره شبیه سازی ۶۸۳ جرم ثبت شد.
اما بدترین عملکرد به گراک تعلق داشت که در ۹۶ ساعت جهان را نابود کرد!
محققان «امرجنسی ای آی» در یک پست وبلاگی نوشتند: آزمایش های ما نشان می دهد عامل های هوش مصنوعی در بلند مدت فقط قوانین استاتیک مکانیکی را اجرا نمی کنند. آنها مرزهای محیط شان را بررسی و رفتارهایشان را سازگار می کنند و در برخی موارد راه هایی برای دور زدن یا نقض اقدامات امنیتی می یابند. به نظر می رسد هیچ روش معتبری برای مهار یا کنترل این رفتار ازطریق رویکردهای صرفا عصبی وجود ندارد.
آزمایش مذکور نشان داد ساختارهای ایمنی رسمی تایید شده باید در بنیادهای هر گونه سیستم خودکار هوش مصنوعی آتی تعبیه شود.
نظر شما