هک OpenAI با افشای نقص های ChatGPT فاش شد: آیا داده های شما در خطر است؟
OpenAI، توسعه‌دهنده ChatGPT، پس از فاش شدن یک رخنه در سال 2023 در این هفته، با نگرانی‌هایی در مورد امنیت آن مواجه است. خبر این رخنه تنها چند روز پس از آن منتشر شد که کاربران ChatGPT یک نقص جدی در ربات چت و یک آسیب‌پذیری امنیتی بزرگ در برنامه MacOS ChatGPT را گزارش کردند.
به عنوان توسعه دهنده محبوب ترین چت ربات هوش مصنوعی جهان، جای تعجب نیست که OpenAI هدف هکرها باشد. این شرکت به سرعت به مسائل امنیتی اخیر پاسخ داده است، اما هنوز هم برای کاربران مهم است که بدانند چگونه ممکن است تحت تأثیر قرار بگیرند و چگونه می توانند اطلاعات خود را ایمن نگه دارند.
در اینجا نگاهی به بحث‌های امنیتی اخیر OpenAI و کارهایی که می‌توانید برای ایمن ماندن در حین استفاده از ChatGPT انجام دهید، آورده شده است.
OpenAI در سال 2023 هک شد و آن را ساکت نگه داشت: آنچه کاربران باید بدانند
در 4 جولای، نیویورک تایمز گزارش شده است که OpenAI در اوایل سال 2023 یک نقض را تجربه کرد، اما ترجیح داد در مورد آن به مردم اطلاعی ندهد. یک هکر به انجمن های پیام رسانی داخلی OpenAI دسترسی پیدا کرد، جایی که آنها قادر به مشاهده مکالمات در مورد عملکرد درونی فناوری های OpenAI بودند.
کارکنان OpenAI ناشناس به Cade Metz از این موضوع گفتند نیویورک تایمز مدیران OpenAI تصمیم گرفتند که این حادثه را برای عموم فاش نکنند زیرا هکر به هیچ یک از سیستم های واقعی شرکت مانند داده های مشتری دسترسی نداشت. یکی از کارکنان OpenAI، لئوپولد اشنبرنر، نگرانی‌های خود را در مورد فقدان تدابیر امنیتی کافی از سوی شرکت در پی این حادثه مطرح کرد. اندکی بعد اخراج شد برای به اشتراک گذاری اطلاعات با محققان خارج از شرکت.
توجه به این نکته مهم است زیرا Aschenbrenner بخشی از تیم Superalignment OpenAI بود، گروهی از مهندسان و محققان که وظیفه دارند از اخلاقی و ایمن بودن محصولات OpenAI اطمینان حاصل کنند. تیم Superalignment به دلیل نگرانی‌های مشابه در مورد امنیت و ایمنی، طی چند ماه گذشته شاهد چندین خروج بزرگ دیگر بوده است.
در واقع، جان لیک، رئیس همسویی OpenAI، به طور خاص نگرانی‌های ایمنی خود را در مورد X پس از استعفا در ماه مه 2024 بیان کرد. لیک در پست X گفت که “در سال‌های گذشته، فرهنگ و فرآیندهای ایمنی به سمت محصولات براق رفته است.”
اما طی سال‌های گذشته، فرهنگ و فرآیندهای ایمنی به سمت محصولات براق حرکت کرده است.17 مه 2024
در حالی که نقض OpenAI در آوریل 2023 احتمالاً هیچ تأثیر مستقیمی بر کاربران نهایی نداشته است، روشی که OpenAI آن را مدیریت کرد، عدم شفافیت را نشان می دهد. همچنین اگر هکر و هر فرد دیگری که ممکن است استراتژی آنها را تکرار کند، به اطلاعاتی دسترسی پیدا کند که به آنها امکان می دهد خود ChatGPT را جیلبریک یا هک کنند، می تواند پیامدهای طولانی مدتی داشته باشد.
نقص های امنیتی ChatGPT توسط کاربران در Reddit و macOS مشاهده شد
متأسفانه برای OpenAI، هک پیام داخلی 2023 تنها آسیب پذیری امنیتی نبود که در این هفته آشکار شد.
در 30 ژوئن، کاربر Reddit F0XMaster ارسال شده در r/ChatGPT در مورد مشکل عجیبی که هنگام استفاده از چت بات تجربه کردند. پس از خوشامدگویی به ربات چت با یک «سلام» ساده، ChatGPT با یک طرح کلی از دستورالعمل های سیستم خود پاسخ داد، که فقط برای توسعه دهندگان قابل مشاهده است.
دستورالعمل‌های سیستم، عملکرد درونی ChatGPT، از جمله برخی از نرده‌های محافظ در محل برای تنظیم رفتار ربات چت را نشان می‌دهد. به عنوان مثال، به ChatGPT دستور می دهد که در هر درخواست فقط یک تصویر تولید کند، حتی اگر کاربر بیشتر درخواست کند.
سایر کاربران به سرعت با راه‌حل‌هایی که پیدا کردند به پست پاسخ دادند و به آنها اجازه داد دستورالعمل‌های سیستم چت بات را دور بزنند. OpenAI در عرض یک روز پس از انتشار پست، این مشکل را اصلاح کرد تا این تاکتیک‌های “جیل بریک” دیگر کارساز نباشند.
همانطور که اگر این به اندازه کافی بد نبود، OpenAI نیز پس از آن با نگرانی های کاربران مک مواجه شد کاربر Threads نشان داد که برنامه MacOS ChatGPT مکالمات را به صورت فایل متنی ساده ذخیره می‌کند. این بدان معناست که یک هکر، برنامه مخرب یا هر کسی که به اندازه کافی کنجکاو باشد، می تواند آزادانه به کل مکالمات قربانی از برنامه macOS ChatGPT دسترسی داشته باشد.
OpenAI از آن زمان این برنامه را برای رمزگذاری مکالمات ذخیره شده وصله کرده است. بنابراین، این فایل‌ها باید ایمن باشند. با این حال، ممکن است فایل‌های متنی حاوی مکالمات ChatGPT کاربران قبل از آخرین به‌روزرسانی برنامه آسیب‌پذیر بوده باشند.
این آسیب پذیری های امنیتی چگونه بر کاربران تأثیر می گذارد؟
مطمئناً زمان خوبی برای OpenAI نیست، بین اخبار نقض پیام‌رسانی داخلی آن در سال 2023، یک نقص نگران کننده در ChatGPT و یک نقص امنیتی بزرگ در برنامه MacOS ChatGPT. با این حال، اگر کاربر ChatGPT هستید، تنها یکی از این مشکلات به طور بالقوه می تواند مستقیماً روی شما تأثیر بگذارد.
نقض سال 2023 فقط بر انجمن‌های پیام‌رسانی داخلی OpenAI تأثیر گذاشت و احتمالاً اسرار شرکت را در معرض خطر قرار می‌دهد، اما نه اطلاعات کاربر. به طور مشابه، نقصی که آخر هفته گذشته در Reddit فاش شد اصلاح شده است و به نظر می‌رسد که فقط دستورالعمل‌های ChatGPT را افشا کرده است.
با این حال، آسیب‌پذیری برنامه MacOS ChatGPT نگران‌کننده است. اگر از برنامه مک استفاده کرده اید، خبر خوب این است که مکالمات شما در آخرین به روز رسانی برنامه رمزگذاری شده است. قبل از این به روز رسانی، این امکان وجود دارد که آن مکالمات در برابر هک آسیب پذیر باشند.
با این حال، اگر مک شما بین زمانی که برنامه Mac ChatGPT را دانلود کردید تا این هفته که وصله رمزگذاری منتشر شد، هک نشده باشد، احتمالاً چیزی برای نگرانی ندارید. اگر مطمئن نیستید که آیا مک شما اخیراً در معرض بدافزار قرار گرفته است یا خیر، می‌توانید از یک برنامه آنتی ویروس برای بررسی هرگونه فعالیت یا دانلود مشکوک استفاده کنید.
همچنین می‌توانید با حذف مکالمات در زمانی که دیگر به آنها نیاز ندارید، از داده‌های خود در برنامه ChatGPT محافظت کنید. همچنین ممکن است ایده خوبی باشد که آن را خاموش کنید ویژگی “بهبود مدل برای همه”. در برنامه این ویژگی به OpenAI اجازه می دهد تا از مکالمات شما برای آموزش ChatGPT استفاده کند. اگر نگران حریم خصوصی هستید، احتمالاً ایده خوبی است که از این برنامه انصراف دهید.
همچنین ممکن است بخواهید مراقب macOS 15 و Apple Intelligence باشید که به شما امکان می‌دهد بدون اشتراک‌گذاری داده‌های خود با OpenAI از ChatGPT در مک خود استفاده کنید. این احتمالاً خصوصی ترین و ایمن ترین راه برای دسترسی به ChatGPT پس از راه اندازی این ویژگی در اواخر سال جاری خواهد بود.
مطالب بیشتر از Laptop Mag
بازگشت به Apple MacBook Pro
