گروک اطلاعات نادرستی در مورد تیراندازی در ساحل بوندی منتشر کرد

در غروب 14 دسامبر، جمعیت زیادی از مردم در ساحل بوندی استرالیا گرد هم آمدند تا اولین شب حنوکا را جشن بگیرند و در عوض با خشونت روبرو شدند. افراد مسلح به سمت این گروه تیراندازی کردند. تا امروز 15 نفر کشته شده اند.

یکی از مهاجمان توسط یکی از افراد ناظر احمد الاحمد به پایین کشیده شد، که تصمیم شجاعانه او برای دست و پنجه نرم کردن با تیرانداز و در اختیار گرفتن سلاح او در ویدئو ضبط شد و به طور گسترده در شبکه های اجتماعی به اشتراک گذاشته شد. با اطلاع از یک اپیدمی خشونت با اسلحه که بسیاری از تماشاگران را به قهرمان تبدیل کرده است، در دوربین مشخص است که مردی با پیراهن سفید به طور بالقوه جان ده ها نفر را نجات می دهد. اسلحه لوله بلند در نمای واضحی است که او آن را از دست مردی سیاهپوش بیرون می‌آورد، که سپس سرنگون می‌شود و دور می‌شود.

اما X’s Grok، چت ربات هوش مصنوعی طراحی شده توسط ایلان ماسک، xAI، آن را چنین ندیدم.

هنگامی که کاربران صبح روز بعد به طور تصادفی با ویدیوی دلخراش احمد برخورد کردند و از ربات چت خواستند تا توضیح دهد، گروک توصیف کرد این صحنه به عنوان “یک ویدئوی ویروسی قدیمی از بالا رفتن مردی از درخت نخل در پارکینگ، احتمالاً برای کوتاه کردن آن.” از آن زمان کاربران X یک بررسی واقعیت را به پاسخ ربات اضافه کردند. به گزارش گیزمودو، گروک در پاسخی دیگر، این ویدئو را به اشتباه به عنوان فیلمی از حمله 7 اکتبر حماس نامگذاری کرد و در دیگری آن را به طوفان استوایی آلفرد نسبت داد.

X هنوز توضیح نداده است که چرا این مشکل رخ داده است، یا چرا Grok به غیر از پرس و جوهایی در مورد ساحل بوندی، اشتباهات مشابهی انجام داده است.

اما سگ های نگهبان دلیل آن را می دانند و این بسیار ساده است. چت بات ها در اخبار فوری بد هستند. در پی کشته شدن چارلی کرک، مفسر راست افراطی، گروک تئوری های توطئه در مورد تیرانداز و محافظان خود کرک را تشدید کرد و به برخی از کاربران گفت که ویدیوی گرافیکی که به وضوح مرگ کرک را نشان می دهد، فقط یک الگوی رفتاری است. سایر منابع جستجوی مبتنی بر هوش مصنوعی، از جمله Google AI Overview نیز بلافاصله پس از مرگ کرک اطلاعات نادرستی ارائه کردند.

محقق NewsGuard به Saghdei گفت: “به جای امتناع از پاسخ دادن، مدل‌ها اکنون از هر اطلاعاتی که در لحظه به‌صورت آنلاین در دسترس است، از جمله وب‌سایت‌های کم تعامل، پست‌های اجتماعی، و مزرعه‌های محتوای تولید شده توسط هوش مصنوعی که توسط بازیگران بدخیم تولید می‌شوند، استفاده می‌کنند. در نتیجه، چت‌بات‌ها ادعاهای نادرست را در طول رویدادهای پرخطر و سریع در حال حرکت تکرار می‌کنند.”

پلتفرم‌های رسانه‌های اجتماعی نیز بررسی واقعیت‌های انسانی را در سراسر صفحه کاهش داده‌اند و ربات‌های گفتگو ممکن است در عوض، فرکانس را بر دقت در پاسخ‌های خبری بلادرنگ اولویت دهند.

شرکت‌های هوش مصنوعی می‌دانند که این شکاف فاحشی برای ربات‌هایشان است، و به همین دلیل است که نشریات خبری را به معاملات مجوزهای بزرگ‌تر و بزرگ‌تر برای بهتر کردن محصولاتشان جذب کرده‌اند. اوایل این ماه، متا قرارداد امضا کرد چندین قرارداد تجاری هوش مصنوعی با ناشران اخبار، از جمله CNN، فاکس نیوز، و انتشارات بین المللی لوموند، به مشارکت فعلی خود با رویترز اضافه می کند. گوگل است اجرای یک برنامه آزمایشی با ناشران خبری شرکت کننده برای گسترش ویژگی های مبتنی بر هوش مصنوعی، از جمله خلاصه مقالات، به Google News.

توهمات و دقت نیز مشکل بزرگی برای مدل های با زبان بزرگ و به طور کلی چت ربات های هوش مصنوعی است که اغلب با اطمینان اطلاعات نادرست را در اختیار کاربران قرار می دهند.