دور 400 میلیون دلاری Lightmatter دارای ابر مقیاس‌کننده‌های هوش مصنوعی برای مراکز داده فوتونیکی است

راه اندازی محاسبات فوتونیک ماده سبک 400 میلیون دلار جمع آوری کرده است تا یکی از گلوگاه های مراکز داده مدرن را باز کند. لایه اتصال نوری این شرکت به صدها GPU اجازه می دهد تا به طور همزمان کار کنند و کار پرهزینه و پیچیده آموزش و اجرای مدل های هوش مصنوعی را ساده می کند.

رشد هوش مصنوعی و نیازمندی‌های محاسباتی عظیم آن، صنعت مرکز داده را به شدت افزایش داده است، اما به سادگی وصل کردن هزار پردازنده گرافیکی دیگر نیست. همانطور که متخصصان محاسباتی با کارایی بالا برای سال‌ها می‌دانستند، اگر آن گره‌ها نیمی از زمان انتظار برای ورود داده‌ها، بیکار باشند، مهم نیست که سرعت هر نود ابررایانه شما چقدر است.

لایه یا لایه‌های اتصال در واقع چیزی هستند که رک‌های CPU و GPU را به طور موثری به یک ماشین غول پیکر تبدیل می‌کنند – بنابراین نتیجه می‌شود که هرچه اتصال سریع‌تر باشد، مرکز داده سریع‌تر است. و به نظر می رسد Lightmatter با استفاده از تراشه های فوتونیکی که از سال 2018 در حال توسعه است، سریع ترین لایه اتصال را با یک شات طولانی می سازد.

«هیپر مقیاس‌کنندگان می‌دانند که اگر کامپیوتری با میلیون‌ها گره می‌خواهند، نمی‌توانند با سوئیچ‌های سنتی سیسکو این کار را انجام دهند. نیک هریس، مدیرعامل و موسس این شرکت، به TechCrunch گفت: هنگامی که قفسه را ترک می‌کنید، از اتصال با چگالی بالا به یک فنجان روی یک رشته تبدیل می‌شوید. (می توانید سخنرانی کوتاهی را که وی در خلاصه این موضوع انجام داد را مشاهده کنید اینجا.)

به گفته او، بهترین فناوری NVLink و به‌ویژه پلت‌فرم NVL72 است که 72 واحد بلک‌ول انویدیا را در یک رک قرار می‌دهد که می‌تواند حداکثر 1.4 exaFLOP را با دقت FP4 انجام دهد. اما هیچ رک یک جزیره نیست، و تمام محاسبات باید از طریق 7 ترابیت شبکه “مقیاس بالا” فشرده شود. زیاد به نظر می رسد، و همینطور است، اما عدم توانایی شبکه سازی سریعتر این واحدها با یکدیگر و سایر رک ها یکی از موانع اصلی برای بهبود عملکرد است.

هریس می‌گوید: «برای یک میلیون پردازنده گرافیکی، به چندین لایه سوئیچ نیاز دارید، و این بار تأخیر بزرگی را اضافه می‌کند. “شما باید از برق به نوری به برق به نوری بروید… مقدار توانی که استفاده می کنید و مدت زمانی که منتظر می مانید بسیار زیاد است. و در خوشه های بزرگتر به طرز چشمگیری بدتر می شود.”

بنابراین Lightmatter چه چیزی را روی میز می آورد؟ فیبر. مقدار زیادی فیبر، از طریق یک رابط نوری صرف هدایت می شود. با حداکثر 1.6 ترابیت در هر فیبر (با استفاده از چندین رنگ)، و حداکثر 256 فیبر در هر تراشه… خوب، اجازه دهید بگوییم که 72 پردازنده گرافیکی در 7 ترابیت شروع به ظاهر مثبت می کند.

هریس گفت: “فوتونیکس بسیار سریعتر از آنچه مردم فکر می کردند در حال آمدن است – مردم سال ها برای به کار انداختن آن تلاش می کردند، اما ما آنجا هستیم.” او افزود: «پس از هفت سال جنایت کاملاً قتل‌آمیز.

اتصال فوتونیک که در حال حاضر از Lightmatter در دسترس است، 30 ترابیت را انجام می دهد، در حالی که سیم کشی نوری روی رک می تواند به 1024 GPU اجازه دهد که به طور همزمان در رک های مخصوص طراحی شده خود کار کنند. اگر تعجب می‌کنید، این دو عدد با عوامل مشابهی افزایش نمی‌یابند، زیرا بسیاری از مواردی که باید به یک رک دیگر متصل شوند، می‌توانند روی رک در یک خوشه هزار GPU انجام شوند. (و به هر حال 100 ترابیت در راه است.)

هریس خاطرنشان کرد که بازار این امر بسیار بزرگ است، زیرا هر شرکت بزرگ مرکز داده از مایکروسافت گرفته تا آمازون گرفته تا شرکت‌های جدیدتر مانند xAI و OpenAI اشتهای بی‌پایانی برای محاسبه نشان می‌دهند. “آنها ساختمان ها را به هم متصل می کنند! من تعجب می کنم که آنها تا کی می توانند آن را حفظ کنند.

بسیاری از این hyperscalerها در حال حاضر مشتری هستند، هر چند هریس نامی از آنها نمی برد. او گفت: “درباره Lightmatter کمی مانند یک ریخته گری مانند TSMC فکر کنید.” «ما موارد دلخواه را انتخاب نمی‌کنیم یا نام خود را به مارک‌های دیگران متصل نمی‌کنیم. ما یک نقشه راه و یک پلت فرم برای آنها ارائه می کنیم – فقط به رشد پای کمک می کنیم.

اما، او با حیرت اضافه کرد، “شما بدون استفاده از این فناوری، ارزش خود را چهار برابر نمی کنید”، شاید کنایه ای از دور سرمایه گذاری اخیر OpenAI برای ارزش گذاری شرکت به 157 میلیارد دلار باشد، اما این اظهارات به همین راحتی می تواند در مورد شرکت خودش باشد.

این دور 400 میلیون دلاری آن را 4.4 میلیارد دلار ارزش گذاری می کند، مضرب مشابهی از ارزش گذاری اواسط سال 2023 که «ما را تا حد زیادی به بزرگترین شرکت فوتونیک تبدیل می کند. پس خیلی خوبه!» گفت هریس. این دور توسط T. Rowe Price Associates با مشارکت سرمایه گذاران موجود Fidelity Management & Research Company و GV رهبری شد.

بعدش چی؟ علاوه بر اتصال به یکدیگر، این شرکت در حال توسعه بسترهای جدید برای تراشه ها است تا آنها بتوانند حتی اگر بخواهید، وظایف شبکه را با استفاده از نور انجام دهند.

هریس حدس می‌زد که جدای از اتصال به هم، توان هر تراشه تفاوت بزرگی در آینده خواهد بود. او گفت: “در 10 سال آینده، شما تراشه هایی در مقیاس ویفر از همه خواهید داشت – هیچ راه دیگری برای بهبود عملکرد هر تراشه وجود ندارد.” البته سربراس در حال حاضر روی این موضوع کار می‌کند، هرچند که آیا آنها می‌توانند ارزش واقعی این پیشرفت را در این مرحله از فناوری به دست آورند، یک سوال باز است.

اما برای هریس، با دیدن صنعت تراشه در مقابل دیوار، او قصد دارد آماده باشد و منتظر قدم بعدی باشد. ده سال دیگر، به هم متصل شوید است قانون مور،» او گفت.