حمله سایبری به Fireworks AI: افشای مکالمات خصوصی مشتریان Notion

20:30

یک حادثه امنیت سایبری که شامل ارائه‌دهنده زیرساخت‌های هوش مصنوعی Fireworks AI است، اطلاعات حساس مشتریان را افشا کرده است، از جمله مکالمات تولید شده از طریق خدمات هوش مصنوعی Notion. این حادثه چالش‌های امنیتی فزاینده‌ای را که شرکت‌های فناوری با آن مواجه هستند، به نمایش می‌گذارد که برای کار کردن محصولات دیجیتال خود به تأمین‌کنندگان خارجی وابسته‌اند.

این افشاگری پس از آن رخ داد که مهاجمان از یک حادثه امنیتی که مربوط به یک ارائه‌دهنده ابری شخص ثالث بود، سوءاستفاده کردند. این دسترسی به آنها اجازه داد تا به یک محیط توسعه متعلق به شرکت زیرساخت هوش مصنوعی نفوذ کنند و اطلاعات مربوط به چندین مشتری را به دست آورند.

در میان اطلاعات افشا شده، سوابق صورتحساب، مجموعه‌های داده مشتری و سایر اطلاعات فنی وجود داشت. این حادثه همچنین فراتر از مشتریان مستقیم Fireworks AI گسترش یافت و نشان داد که چگونه آسیب‌پذیری‌ها در خدمات فناوری متصل می‌توانند اطلاعات مربوط به کاربران پلتفرم‌های کاملاً متفاوت را افشا کنند.

Notion تأیید می‌کند که مکالمات هوش مصنوعی افشا شده‌اند

Notion تأیید کرد که برخی از مشتریان آن تحت تأثیر قرار گرفته‌اند پس از اینکه متوجه شدند اطلاعات پردازش شده از طریق Fireworks AI توسط افراد غیرمجاز دسترسی پیدا شده است.

مواد افشا شده شامل متن‌های چت هوش مصنوعی مربوط به ویژگی Insights Notion بود که به سازمان‌ها کمک می‌کند تا درک کنند چگونه کارکنانشان از ابزارهای هوش مصنوعی استفاده می‌کنند. به گفته Notion، کمتر از 1% از فضای کار آن تحت تأثیر قرار گرفته است.

این شرکت توضیح داد که بیشتر مکالمات افشا شده شامل شناسه‌هایی نیستند که نویسندگان یا فضاهای کاری که از آن‌ها ناشی شده‌اند را فاش کنند. مجموعه داده همچنین نتایج تولید شده از طریق تماس‌های ابزاری را شامل نمی‌شود و اطلاعات اضافی در دسترس مهاجمان را محدود می‌کند.

Notion تأکید کرد که زیرساخت خود به طور مستقیم به خطر نیفتاده و سایر عملکردهای پلتفرم تحت تأثیر قرار نگرفته‌اند.

پاسخ سریع پس از هشدار امنیتی

زمانبندی حادثه نشان می‌دهد که ارزیابی اولیه چگونه با در دسترس قرار گرفتن اطلاعات اضافی تکامل یافته است.

Fireworks AI ابتدا در تاریخ 2 نوامبر به Notion اطلاع داد که یک مجموعه داده محدود به دسترسی پیدا شده است. در آن زمان، مواد به عنوان اطلاعات مصنوعی ایجاد شده برای اهداف آزمایشی در نظر گرفته می‌شد.

Notion سپس سیستم‌های خود را از Fireworks AI جدا کرد، داده‌های مربوطه را از محیط ارائه‌دهنده حذف کرد و ارتباطات بین دو سرویس را متوقف کرد.

با این حال، اطلاعات بیشتری که توسط Fireworks AI در تاریخ‌های 6 و 8 نوامبر ارائه شد، نشان داد که افشا همچنین شامل اطلاعات واقعی مربوط به مشتریان، از جمله سوابق مکالمات هوش مصنوعی است.

Notion سپس مجموعه داده جدید شناسایی شده را بررسی کرد، وجود متن‌های مشتری را تأیید کرد و سازمان‌هایی را که به عنوان ممکن است تحت تأثیر قرار گرفته‌اند، مطلع کرد.

تأمین‌کنندگان شخص ثالث به یک نگرانی بزرگ امنیت سایبری تبدیل می‌شوند

این حادثه آسیب‌پذیری وسیع‌تری را در صنعت هوش مصنوعی نشان می‌دهد: شرکت‌ها به طور فزاینده‌ای به تأمین‌کنندگان زیرساخت خارجی برای پردازش اطلاعات، راه‌اندازی مدل‌ها و ارائه خدمات مبتنی بر هوش مصنوعی وابسته هستند.

Fireworks AI به هزاران مشتری در سراسر جهان خدمات می‌دهد، از جمله کسب‌وکارهایی که برنامه‌های پیشرفته هوش مصنوعی را توسعه می‌دهند. زیرساخت آن به توسعه‌دهندگان این امکان را می‌دهد که مدل‌های هوش مصنوعی با وزن باز را بدون نیاز به ساخت سیستم‌های محاسباتی خود اجرا و راه‌اندازی کنند.

با این حال، این مدل متصل نقاط افشای اضافی ایجاد می‌کند. یک نقص امنیتی در یک ارائه‌دهنده می‌تواند به طور بالقوه بر چندین کسب‌وکار و به طور غیرمستقیم بر مشتریان آن‌ها تأثیر بگذارد.

بنابراین، حادثه Fireworks AI سؤالات مهمی را در مورد نحوه نظارت شرکت‌های فناوری بر تأمین‌کنندگان خارجی، کنترل دسترسی به اطلاعات حساس و اجرای تعهدات حفظ داده‌ها ایجاد می‌کند.

نیاز به اقدامات قوی‌تر حفاظت از داده‌ها

Notion به مشتریان تحت تأثیر قرار گرفته توصیه کرده است که اطلاعات افشا شده را به عنوان اطلاعات compromised در نظر بگیرند. کاربرانی که ممکن است شامل رمزهای عبور، کلیدهای API یا سایر اعتبارنامه‌های محرمانه در مکالمات هوش مصنوعی خود بوده‌اند، باید آن اعتبارنامه‌ها را به عنوان احتیاط تعویض کنند.

این شرکت همچنین عملکرد Insights تحت تأثیر قرار گرفته را در حالی که تحقیقاتش ادامه دارد، متوقف کرده است. این شرکت اعلام کرده است که مشتریانی که فضاهای کاری آن‌ها به عنوان تحت تأثیر قرار نگرفته‌اند، در حال حاضر نیازی به اقدام اضافی ندارند.

فراتر از عواقب فوری، این حادثه اهمیت نیاز به الزامات قوی‌تر امنیت سایبری را برای شرکت‌های فعال در زنجیره تأمین هوش مصنوعی نشان می‌دهد. با افزایش ادغام هوش مصنوعی در عملیات تجاری، حفاظت از اطلاعات مشتری نه تنها به امنیت پلتفرم‌های فردی بلکه همچنین به قابلیت اطمینان هر سرویس خارجی متصل به آن‌ها بستگی خواهد داشت.