دانشگاه بریتانیایی Mindgard از شرکت ها در برابر تهدیدات هوش مصنوعی محافظت می کند

هوش مصنوعی برای شرکت‌ها معضلی ایجاد می‌کند: هنوز آن را اجرا نکنید، و ممکن است سودهای بهره‌وری و سایر مزایای بالقوه را از دست بدهید، اما اشتباه انجام دهید و ممکن است کسب‌وکار و مشتریان خود را در معرض خطرات کاهش‌ناپذیر قرار دهید. اینجاست که موج جدیدی از استارت‌آپ‌های «امنیت برای هوش مصنوعی» وارد می‌شود، با این پیش‌فرض که نمی‌توان این تهدیدات، مانند فرار از زندان و تزریق سریع را نادیده گرفت.

مانند استارتاپ اسرائیلی Noma و رقبای مستقر در ایالات متحده لایه پنهان و از هوش مصنوعی محافظت کنید، اسپین آف دانشگاه بریتانیا مایندگارد یکی از این موارد است. پروفسور پیتر گاراگان (Peter Garraghan) مدیر عامل و مدیر اجرایی آن گفت: «هوش مصنوعی هنوز نرم‌افزار است، بنابراین تمام خطرات سایبری که احتمالاً درباره آن شنیده‌اید در مورد هوش مصنوعی نیز صدق می‌کند.» اما، «اگر به ماهیت غیرشفاف و رفتار تصادفی ذاتی شبکه‌ها و سیستم‌های عصبی نگاه کنید، این نیز یک رویکرد جدید را توجیه می‌کند.

در مورد مایندگارد، رویکرد مذکور یک تست امنیت برنامه کاربردی پویا برای هوش مصنوعی (DAST-AI) است که آسیب‌پذیری‌هایی را هدف قرار می‌دهد که فقط در طول زمان اجرا قابل شناسایی هستند. این شامل تیم‌بندی قرمز مداوم و خودکار است، راهی برای شبیه‌سازی حملات بر اساس کتابخانه تهدید Mindgard. به عنوان مثال، می تواند استحکام طبقه بندی کننده های تصویر را آزمایش کند در برابر ورودی های خصمانه.

در این زمینه و فراتر از آن، فناوری Mindgard مدیون سابقه Garraghan به عنوان یک استاد و محقق متمرکز بر امنیت هوش مصنوعی است. این زمینه به سرعت در حال تکامل است – او به TechCrunch گفت که ChatGPT زمانی که وارد آن شد وجود نداشت، اما او احساس کرد که مدل‌های NLP و تصویر ممکن است با تهدیدات جدیدی روبرو شوند.

از آن زمان به بعد، چه چیزی آینده‌نگر به نظر می‌رسید به واقعیت تبدیل شده است در یک بخش به سرعت در حال رشد است، اما LLM ها و تهدیدها همچنان در حال تغییر هستند. گاراگان فکر می‌کند که روابط مستمر او با دانشگاه لنکستر می‌تواند به این شرکت کمک کند تا این روند را ادامه دهد: مایندگارد به‌طور خودکار مالک IP کار 18 محقق دیگر در مقطع دکترا برای چند سال آینده خواهد بود. هیچ شرکتی در جهان وجود ندارد که چنین معامله ای را انجام دهد.

در حالی که Mindgard ارتباطی با تحقیقات دارد، در حال حاضر بسیار یک محصول تجاری است، و به طور دقیق تر، یک پلت فرم SaaS، با یکی از بنیانگذاران استیو استریت به عنوان COO و CRO. (یکی از بنیانگذاران اولیه، نیراج سوری، که در بخش تحقیقاتی شرکت داشت، دیگر در شرکت نیست.)

Garraghan گفت که شرکت‌ها یک مشتری طبیعی برای Mindgard هستند، مانند تیم‌های سنتی قرمز و آزمایش‌کنندگان قلم، اما این شرکت همچنین با استارت‌آپ‌های هوش مصنوعی کار می‌کند که باید به مشتریان خود نشان دهند که از خطرات هوش مصنوعی پیشگیری می‌کنند.

از آنجایی که بسیاری از این مشتریان بالقوه ساکن ایالات متحده هستند، این شرکت مقداری طعم آمریکایی را به میز کلاه خود اضافه کرد. پس از بالا بردن a دور دانه 3 میلیون پوندی در سال 2023، Mindgard اکنون یک دور جدید 8 میلیون دلاری به رهبری .406 Ventures مستقر در بوستون، با مشارکت پل آتلانتیک، سرمایه گذاری WillowTree و سرمایه گذاران فعلی IQ Capital و Lakestar را اعلام می کند.

این بودجه به «تشکیل تیم، توسعه محصول، تحقیق و توسعه و همه چیزهایی که ممکن است از یک استارت‌آپ انتظار داشته باشید» کمک خواهد کرد، اما همچنین به ایالات متحده گسترش خواهد یافت. بوستون با این حال، این شرکت همچنین قصد دارد تحقیقات و توسعه و مهندسی را در لندن نگه دارد.

با تعداد 15 نفر، تیم مایندگارد نسبتاً کوچک است و به همین شکل باقی خواهد ماند و برنامه‌ریزی شده است تا پایان سال آینده به 20 تا 25 نفر برسد. دلیلش این است که امنیت هوش مصنوعی «هنوز به دوران اوج خود نرسیده است». اما زمانی که هوش مصنوعی شروع به استقرار در همه جا کرد و تهدیدات امنیتی نیز از آن پیروی کرد، مایندگارد آماده خواهد بود. Garraghan می‌گوید: «ما این شرکت را برای انجام کارهای مثبت برای جهان ساختیم، و حسن مثبت اینجا این است که مردم می‌توانند با خیال راحت و ایمن به هوش مصنوعی اعتماد کنند و از آن استفاده کنند.»