این Intel Capital Suels TrueFoundry بودجه 19 میلیون دلاری برای کمک به تقویت استقرار AI در مقیاس
واقع در Truefoundry، یک استارتاپی که توسط گروهی از مهندسین متا سابق برای کمک به شرکتهای مستقر در سیستم های هوش مصنوعی در مقیاس اداره می شود ، 19 میلیون دلار سرمایه گذاری تازه به رهبری اینتل سرمایه جمع آوری کرده است.
با ظهور Genai پس از راه اندازی Chatgpt در نوامبر 2022 ، شرکت هایی از همه اندازه به روشهایی که می توانند از AI بپذیرند ، نگاه کرده اند. اما Genai برای ارائه هوش به مدلهای بزرگ زبان متکی است (راندمان خواندن) ، خواستار قدرت محاسباتی قابل توجهی است. همه شرکتها از این مزیت برخوردار نیستند که به صدها یا هزاران GPU دسترسی داشته باشند و بهینه سازی GPU را ضروری می کنند. علاوه بر این ، بنگاهها باید با چندین مدل آزمایش کنند تا بهترین ها را برای مورد استفاده خود پیدا کنند و مدل های موجود را تنظیم کنند تا سیستم های AI مربوط به عملکرد آنها باشد.
TrueFoundry همه اینها را با نرم افزار موجود در زیر یک مدل پلتفرم به عنوان یک سرویس ارائه می دهد ، و دانشمندان داده تمام شده را هدف قرار می دهد. این ویژگی هایی از قبیل مقیاس خودکار ، تعمیر و نگهداری فعال ، کنترل دسترسی متمرکز و نظارت بر زمان واقعی را برای ساده سازی استقرار AI به پایان می دهد.
TrueFoundry در ژوئن سال 2021 توسط مهندسین متا سابق Nikunj Bajaj و Abhishek Choudhary به همراه IIT Kharagpur Batchmate Anuraag Gutgutia تأسیس شد ، در ابتدا یک نرم افزار بومی با ابر متقاطع را برای سرعت بخشیدن به استقرار یادگیری ماشین ارائه داد. با این حال ، هنگامی که Genai در سال 2023 به جریان اصلی تبدیل شد ، راه اندازی سیستم خود را برای پشتیبانی از قابلیت های Genai اصلاح کرد.
وی گفت: “پیش از این ، دانشمندان داده فقط با مدل ها کار می کردند و با آنها آزمایش می کردند ، اما تعداد زیادی از استقرار به مهندسان ML تحویل داده شد. با استفاده از سیستم ما ، آنچه ما فعال می کنیم این است که دانشمندان داده می توانند در واقع این سیستم پیچیده را بسازند و قبل از تحویل آن به تیم پلتفرم برای استقرار نهایی ، آن را در مقیاس آزمایش کنند. “
این راه اندازی یک راه حل نرم افزاری به نام سیستم Autopilot را ارائه می دهد ، که از AI برای نگاه کردن به سیاههها و معیارها برای کمک به مقیاس برنامه های هوش مصنوعی با تنظیم استفاده از GPU و رفع نیازهای حافظه استفاده می کند.
با استفاده از سیستم Autopilot ، گوتگوتیا به TechCrunch گفت ، یکی از مشتریان TrueFoundry با تیم کوچکی از دو نفر 10 میلیون درخواست در هر ثانیه مدیریت کرده است.
TrueFoundry در حال حاضر 30 مشتری پرداخت شده در سراسر جهان در کنار کاربران “زیادی” که به چارچوب RAG منبع باز خود برای آزمایش دسترسی پیدا می کنند ، دارد. از بین این مشتریان ، غول GPU Nvidia از این نرم افزار برای ساخت و استقرار عوامل بهینه سازی خوشه های GPU آن استفاده می کند. شرکت Med-Tech ResMed همچنین از پیشنهاد TrueFoundry برای توسعه یک بستر داخلی هوش مصنوعی استفاده می کند. به همین ترتیب ، Healthineers زیمنس ، اتوماسیون در هر نقطه ، بازی های 24×7 و Whatfix در بین مشتریان هستند.
این استارتاپ نرم افزار خود را با استفاده از Kubernetes معماری کرده است ، که باعث می شود چند ابر آماده و سازگار با تمام سیستم عامل های اصلی ابری از جمله AWS ، Google Cloud Platform و Azure از بین دیگران باشد. علاوه بر این ، شرکت ها می توانند این پلتفرم را بصورت بومی در پیش فرض مستقر کنند.
باجاج اظهار داشت ، شرکت هایی که با استفاده از TrueFoundry سیستم عامل های داخلی خود را در دو ماه ساخته و راه اندازی کرده اند و برخلاف میانگین صنعت 14 ماه ، در چهار ماه ROI خود را به دست آوردند. گوتگوتیا افزود: این استارتاپ مشتریان خود را با حدود 40-50 ٪ کاهش هزینه در زیرساخت ها ، همراه با بهبود سرعت استقرار 10 × ، مهم نیست که آیا آنها روی یک عامل ، RAG ، یک مدل یادگیری عمیق پیچیده یا یک خوب کار می کنند. مدل تنظیم شده
فروشندگان Cloud برای سهولت در ساختمان و استقرار مدل های هوش مصنوعی مانند Sagemaker Amazon و Google Cloud’s Vertex ، نرم افزار خود را ارائه داده اند. با این وجود ، گوتگوتیا به TechCrunch گفت كه راه حل TrueFoundry هنوز هم مناسب است زیرا به “تسریع در استفاده از محاسبات” برای ارائه دهندگان ابر ، سرعت بخشیدن به زمان به بازار برای برنامه های هوش مصنوعی و كاهش هزینه های كلی آنها کمک می كند.
سریال All-Equity در یک دور مشارکت از Eniac Ventures ، Peak XV Partners ، و پرش سرمایه و همچنین سرمایه گذاران فرشته از جمله Gokul Rajaram ، Mohit Aron و Cyan Banister مشاهده شد.
این استارتاپ از بودجه برای گسترش تیم از 45 عضو مستقر در هند برای موقعیت های بازار در ایالات متحده ، از جمله فروش ، موفقیت مشتری و نقش بازاریابی محصول استفاده می کند. همچنین قصد دارد در مشارکتها ، به ویژه با فروشندگان ابری سرمایه گذاری کند و در حال حاضر در بازارهای کلیدی ابر ، با شروع بازار AWS ، در حال ثبت نام در بازارهای کلیدی ابر است.
علاوه بر این ، TrueFoundry قصد دارد عامل هوش مصنوعی خود را راه اندازی کند که به منابع مناسب و فعال کردن مقیاس خودکار و همچنین عیب یابی کمک می کند.
با بودجه تازه ، Truefoundry در کل بیش از 21 میلیون دلار جمع آوری کرده است ، از جمله 2.3 میلیون دلار در دور بذر خود در سپتامبر 2022 به رهبری Peak XV (سپس Sequoia India).
این استارتاپ سال گذشته پایگاه مشتری خود را چهار برابر کرد و بیش از 1000 خوشه را در بین مشتری ها برای بارهای کاری ML مستقر کرد. گوتگوتیا همچنین به TechCrunch گفت که در “شمال 1.5 میلیون دلار ARR” است و به دنبال این است که امسال دو برابر شود.
TechCrunch دارای یک خبرنامه AI متمرکز است! برای دریافت هر چهارشنبه در صندوق ورودی خود در اینجا ثبت نام کنید.