کمک به شرکت‌ها برای استقرار مدل‌های هوش مصنوعی مسئولانه‌تر | اخبار MIT

امروزه شرکت ها هوش مصنوعی را در هر گوشه ای از کسب و کار خود گنجانده اند. انتظار می‌رود این روند تا زمانی که مدل‌های یادگیری ماشینی در بیشتر محصولات و خدماتی که هر روز با آن‌ها در تعامل هستیم، گنجانده شود، ادامه یابد.

با تبدیل شدن آن مدل ها به بخش بزرگ تری از زندگی ما، اطمینان از یکپارچگی آنها اهمیت بیشتری پیدا می کند. این ماموریت Verta است، استارت آپی که از آزمایشگاه علوم کامپیوتر و هوش مصنوعی MIT (CSAIL) منشعب شده است.

پلتفرم Verta به شرکت‌ها کمک می‌کند مدل‌های یادگیری ماشینی را به صورت ایمن و در مقیاس پیاده‌سازی، نظارت و مدیریت کنند. دانشمندان و مهندسان داده می‌توانند از ابزار Verta برای ردیابی نسخه‌های مختلف مدل‌ها، بازرسی آن‌ها از نظر سوگیری، آزمایش آنها قبل از استقرار و نظارت بر عملکرد آنها در دنیای واقعی استفاده کنند.

بنیانگذار و مدیر عامل Verta Manasi Vartak SM ’14، PhD ’18، می گوید: “همه کاری که ما انجام می دهیم این است که محصولات بیشتری را با هوش مصنوعی بسازیم و این کار را با خیال راحت انجام دهیم.” “ما در حال حاضر با ChatGPT می بینیم که چگونه می توان از هوش مصنوعی برای تولید داده ها، مصنوعات – شما نام ببرید – استفاده کرد که درست به نظر می رسند اما درست نیستند. نیاز به حاکمیت و کنترل بیشتری در نحوه استفاده از هوش مصنوعی وجود دارد، به ویژه برای شرکت هایی که راه حل های هوش مصنوعی ارائه می دهند.

ورتا در حال حاضر با شرکت‌های بزرگی در زمینه مراقبت‌های بهداشتی، مالی و بیمه کار می‌کند تا به آنها کمک کند تا توصیه‌ها و پیش‌بینی‌های مدل‌هایشان را بفهمند و حسابرسی کنند. همچنین در حال کار با تعدادی از شرکت‌های فناوری با رشد بالا است که به دنبال سرعت بخشیدن به استقرار راه‌حل‌های جدید مجهز به هوش مصنوعی هستند و در عین حال اطمینان می‌دهند که از آن راه‌حل‌ها به درستی استفاده می‌شود.

Vartak می‌گوید که این شرکت توانسته است مدت زمانی را که مشتریان برای استقرار مدل‌های هوش مصنوعی صرف می‌کنند با سفارش‌های بزرگ کاهش دهد و در عین حال اطمینان حاصل کند که این مدل‌ها قابل توضیح و منصفانه هستند – عاملی به‌ویژه برای شرکت‌هایی که در صنایع بسیار تحت نظارت هستند.

برای مثال، شرکت‌های مراقبت‌های بهداشتی می‌توانند از Verta برای بهبود نظارت بر بیمار و توصیه‌های درمانی مبتنی بر هوش مصنوعی استفاده کنند. چنین سیستم هایی باید قبل از استفاده برای بیماران از نظر خطاها و سوگیری ها به طور کامل بررسی شوند.

وارتاک می‌گوید: «خواه تعصب باشد یا انصاف یا قابل توضیح، به فلسفه ما در مورد الگوی حاکمیت و مدیریت برمی‌گردد. ما به آن مانند یک چک لیست قبل از پرواز فکر می کنیم: قبل از بلند شدن هواپیما، مجموعه ای از بررسی ها وجود دارد که باید قبل از اینکه هواپیمای خود را از زمین پیاده کنید، انجام دهید. مشابه مدل های هوش مصنوعی است. شما باید مطمئن شوید که بررسی های سوگیری خود را انجام داده اید، باید مطمئن شوید که سطحی از توضیح وجود دارد، باید مطمئن شوید که مدل شما قابل تکرار است. ما با همه اینها کمک می کنیم.»

از پروژه به محصول

وارتاک قبل از آمدن به MIT به عنوان دانشمند داده برای یک شرکت رسانه های اجتماعی کار می کرد. در یکی از پروژه‌ها، پس از هفته‌ها گذراندن مدل‌های یادگیری ماشینی که محتوا را برای نمایش در فیدهای مردم تنظیم می‌کردند، متوجه شد که یک کارمند سابق قبلاً همین کار را انجام داده است. متأسفانه، هیچ سابقه ای از کاری که آنها انجام دادند یا تأثیر آن بر مدل ها وجود نداشت.

وارتاک برای دکترای خود در MIT تصمیم گرفت ابزارهایی بسازد تا به دانشمندان داده در توسعه، آزمایش و تکرار مدل های یادگیری ماشینی کمک کند. Vartak که در گروه پایگاه داده CSAIL کار می کرد، تیمی از دانشجویان فارغ التحصیل و شرکت کنندگان در برنامه فرصت های تحقیقاتی کارشناسی MIT (UROP) را استخدام کرد.

Vartak می گوید: «ورتا بدون کار من در MIT و اکوسیستم MIT وجود نداشت. “MIT افرادی را در لبه تکنولوژی دور هم جمع می کند و به ما در ساختن نسل بعدی ابزار کمک می کند.”

این تیم با دانشمندان داده در برنامه CSAIL Alliances کار کرد تا تصمیم بگیرد که چه ویژگی هایی را بسازد و بر اساس بازخورد آن دسته از پذیرندگان اولیه تکرار شود. Vartak می گوید پروژه به دست آمده با نام ModelDB اولین سیستم مدیریت مدل منبع باز بود.

وارتاک همچنین در طول دوره دکتری خود چندین کلاس تجاری را در دانشکده مدیریت MIT Sloan گذراند و با همکلاسی های خود روی استارتاپ هایی کار کرد که لباس را توصیه می کردند و سلامت را ردیابی می کردند، ساعت های بی شماری را در مرکز اعتماد مارتین برای کارآفرینی MIT گذراند و در شتاب دهنده تابستانی دلتا v این مرکز شرکت کرد.

Vartak می گوید: «آنچه MIT به شما اجازه می دهد انجام دهید این است که در یک محیط امن ریسک کنید و شکست بخورید. MIT آن تلاش‌ها را برای کارآفرینی به من داد و به من نشان داد که چگونه می‌توانم محصولات بسازم و اولین مشتریان را پیدا کنم، بنابراین تا زمانی که Verta آمد، من این کار را در مقیاس کوچک‌تری انجام داده بودم.

ModelDB به دانشمندان داده کمک کرد تا مدل‌ها را آموزش دهند و ردیابی کنند، اما Vartak به سرعت متوجه شد که پس از استقرار مدل‌ها در مقیاس، ریسک‌ها بیشتر شد. در آن مرحله، تلاش برای بهبود (یا شکستن تصادفی) مدل ها می تواند پیامدهای عمده ای برای شرکت ها و جامعه داشته باشد. این بینش باعث شد که Vartak شروع به ساخت Verta کند.

Vartak توضیح می‌دهد: «در Verta، ما به مدیریت مدل‌ها کمک می‌کنیم، به اجرای مدل‌ها کمک می‌کنیم و مطمئن می‌شویم که مطابق انتظار کار می‌کنند، که ما آن را نظارت بر مدل می‌نامیم». همه این قطعات به MIT و کار پایان نامه من برمی گردد. ورتا واقعاً از پروژه دکتری من در MIT تکامل یافته است.

پلتفرم Verta به شرکت‌ها کمک می‌کند تا مدل‌ها را سریع‌تر استقرار کنند، اطمینان حاصل کنند که در طول زمان به کار خود ادامه می‌دهند و مدل‌ها را برای انطباق و حاکمیت مدیریت می‌کنند. دانشمندان داده می‌توانند از Verta برای ردیابی نسخه‌های مختلف مدل‌ها و درک نحوه ساخت آن‌ها استفاده کنند و به سؤالاتی مانند نحوه استفاده از داده‌ها و بررسی‌های توضیح‌پذیری یا سوگیری پاسخ دهند. آنها همچنین می توانند با اجرای آنها از طریق چک لیست های استقرار و اسکن های امنیتی آنها را بررسی کنند.

Vartak می‌گوید: «پلت‌فرم Verta مدل علم داده را انتخاب می‌کند و نیم دوجین لایه را به آن اضافه می‌کند تا آن را به چیزی تبدیل کند که می‌توانید از آن برای تقویت، مثلاً یک سیستم توصیه کامل در وب‌سایت خود استفاده کنید. این شامل بهینه‌سازی عملکرد، مقیاس‌بندی و زمان چرخه می‌شود، یعنی اینکه با چه سرعتی می‌توانید یک مدل را انتخاب کنید و آن را به یک محصول ارزشمند تبدیل کنید، و همچنین حکمرانی.

پشتیبانی از موج هوش مصنوعی

Vartak می‌گوید شرکت‌های بزرگ اغلب از هزاران مدل مختلف استفاده می‌کنند که تقریباً بر هر بخش از عملیات آنها تأثیر می‌گذارد.

وارتاک می‌گوید: «به عنوان مثال، یک شرکت بیمه از مدل‌هایی برای همه چیز از پذیره‌نویسی گرفته تا خسارت، پردازش پشتیبان، بازاریابی و فروش استفاده می‌کند. بنابراین، تنوع مدل‌ها واقعاً زیاد است، حجم زیادی از آن‌ها وجود دارد، و سطح بررسی دقیق و انطباق شرکت‌ها در مورد این مدل‌ها بسیار بالاست. آنها باید چیزهایی مانند این را بدانند: آیا از داده هایی که قرار بود استفاده کنید استفاده کردید؟ افرادی که آن را بررسی کردند چه کسانی بودند؟ آیا بررسی های توضیح پذیری را اجرا کردید؟ آیا بررسی های سوگیری انجام دادید؟»

Vartak می گوید شرکت هایی که از هوش مصنوعی استفاده نمی کنند عقب خواهند ماند. در همین حال، شرکت‌هایی که هوش مصنوعی را به موفقیت می‌رسانند، برای مدیریت فهرست مدل‌های رو به رشد خود به فرآیندهای کاملاً تعریف شده نیاز دارند.

Vartak می‌گوید: «در 10 سال آینده، هر دستگاهی که ما با آن تعامل داشته باشیم، هوشمند خواهد بود، خواه توستر یا برنامه‌های ایمیل شما، و زندگی شما را بسیار بسیار آسان‌تر می‌کند. «چه چیزی این هوش را قادر می‌سازد مدل‌ها و نرم‌افزارهای بهتری مانند Verta هستند که به شما کمک می‌کنند هوش مصنوعی را خیلی سریع در همه این برنامه‌ها ادغام کنید.»