آمازون با ابزار توسعه‌دهنده TorchNeuron بزرگ‌ترین عکس‌برداری خود را در Nvidia انجام می‌دهد

در روز دوشنبه، خدمات وب آمازون ابزاری به نام منتشر کرد نورون مشعل که به استارت آپ های هوش مصنوعی اجازه می دهد تا برنامه های هوش مصنوعی خود را به راحتی روی تراشه هوش مصنوعی آمازون، Trainium منتقل کنند. با انجام این کار، آمازون همچنین به مزیت نرم افزاری که به انویدیا کمک کرده تا به گزینه سخت افزاری پیش فرض برای برنامه های هوش مصنوعی تبدیل شود و به عنوان ارائه دهنده سخت افزار برگزیده هوش مصنوعی ارتقا یابد، ضربه می زند.

TorchNeuron با PyTorch، یک ابزار رایگان و منبع باز کار می کند که توسعه دهندگان از آن برای ساخت، آموزش و اجرای مدل های هوش مصنوعی استفاده می کنند. طبق گفته آمازون، برنامه‌های هوش مصنوعی نوشته شده با PyTorch روی Trainium با تغییر تنها یک خط پیکربندی اجرا می‌شوند – بدون نیاز به بازنویسی کد.

آمازون می گوید حدود 85 درصد از برنامه های هوش مصنوعی با PyTorch نوشته شده اند. فیس بوک در ابتدا آن را توسعه داد، اما از سال 2022، بخشی از بنیاد لینوکس است که پروژه های منبع باز را حفظ می کند. انویدیا سال‌ها برای اطمینان از نرم‌افزار CUDA خود – زیرساخت نرم‌افزاری که به برنامه‌ها اجازه می‌دهد روی پردازنده‌های گرافیکی Nvidia و دیگر سخت‌افزارهای آن اجرا شوند – به طور یکپارچه از برنامه‌های هوش مصنوعی نوشته شده با PyTorch پشتیبانی می‌کند. در نتیجه، سخت‌افزار انویدیا به‌طور پیش‌فرض در حال حاضر عمیقاً در جعبه ابزار تعبیه شده است.

TorchNeuron از PyTorch اقتباس شده است، بنابراین توسعه دهندگانی که PyTorch را می شناسند قبلاً می دانند چگونه از آن استفاده کنند. آمازون اولین شرکتی نیست که سعی می کند تراشه های خود را به راحتی به این پلتفرم بیاورد. کاربران PyTorch همچنین می توانند برنامه های خود را به پردازنده های گرافیکی AMD یا حتی تراشه های اپل با یک تغییر پیکربندی ساده پورت کنند.

با این حال، آمازون استدلال می کند که انتقال به Trainium نه تنها آسان است، بلکه به استارتاپ های هوش مصنوعی امکان دسترسی به کل ابر آمازون را نیز می دهد. جای تعجب نیست که AWS ادعا می‌کند که این انتخاب بهتری برای استارت‌آپ‌ها نسبت به استفاده از neoclouds است، که بسیاری از آنها به Nvidia و سخت‌افزار آن مانند CoreWeave، Nebius و Firmus مرتبط هستند.

کالین بریس، معاون نرم‌افزار فناوری در آزمایشگاه‌های AWS Annapurna (واحدی که تراشه‌های سفارشی آمازون را تولید می‌کند)، از طریق ایمیل به TechCrunch گفت: “شما در حال ساختن بر روی AWS هستید. شما روی یک ارائه‌دهنده محاسباتی تک منظوره شرط‌بندی نمی‌کنید و برای ایجاد هر چیز دیگری در اطراف آن تلاش نمی‌کنید.” او ادامه داد: «در AWS، زیرساخت‌های انتقال از نمونه اولیه به تولید در حال حاضر وجود دارد و به بنیان‌گذار اجازه می‌دهد تا در صورت نیاز سریع و مقیاس‌پذیر حرکت کند.»

AWS می‌گوید از آنجایی که تراشه یکسان هم به آموزش (آموزش مدل هوش مصنوعی) و هم استنتاج (به کار انداختن مدل نهایی، مانند زمانی که به سؤال کاربر پاسخ می‌دهد) رسیدگی می‌کند، و به شدت با زیرساخت ابری مورد نیاز استارت‌آپ‌ها ادغام می‌شود، ابر آن در هزینه آنها صرفه‌جویی می‌کند، حتی اگر AWS ارزان‌ترین قیمت هر توکن را ارائه ندهد.

بریس گفت: «ارزش Trainium عملکرد قیمت و این واقعیت است که یک پلت فرم برای آموزش و استنباط است که اقتصاد را در کل حجم کاری بهبود می‌بخشد». “به دیپگرام نگاه کنید – آنها به Trainium نقل مکان کرد با استفاده از پشتیبانی بومی PyTorch، آنها 70٪ صدای بیشتری را به ازای هر دلار با دقت درجه تولید پردازش می کنند. دیپ گرام یک ارائه دهنده اپلیکیشن صوتی هوش مصنوعی، رقیب ElevenLabs است.

اما آمازون راضی نیست که فقط به توسعه دهندگان برنامه PyTorch یک گزینه آسان برای انتقال به ابر خود بدهد.

آمازون همچنین می گوید که PyTorch را تحت فشار قرار می دهد تا کمتر به طور خودکار روی Nvidia متمرکز شود و کد را برای انجام این کار به پروژه اصلی PyTorch کمک می کند. در پست وبلاگی که ابزار جدید را اعلام می کند شرکت نوشت:

رویکرد آمازون فراتر از سخت افزار خودش است. این شرکت در حال ایجاد تغییرات در بالادست خود PyTorch است و با جامعه PyTorch برای حذف کدهایی که چارچوب را به تراشه‌های خاص مرتبط می‌کند، همکاری می‌کند. هدف این است که PyTorch را برای کل جامعه توسعه دهندگان، نه فقط کاربران Trainium، سخت افزاری تر کند.

در حالی که چنین تاکتیکی بدون شک برای کسانی که سخت‌افزار و سرویس‌های ابری را که با انویدیا رقابت می‌کنند خوب می‌فروشند، یکی از نکات PyTorch پنهان کردن تمام مشکلات مزاحم دریافت کد هوش مصنوعی برای اجرا بر روی سخت‌افزار است. باید منتظر بمانیم و ببینیم که آیا پیشبرد انویدیا تا این حد به توسعه دهندگان حق انتخاب بیشتر و گزینه های مقرون به صرفه تری می دهد، همانطور که آمازون وعده داده است، یا فقط سردردهای پیکربندی بیشتر.

در هر صورت، اگر آمازون موفق شود PyTorch را عمیقاً از Nvidia جدا کند، این امر می تواند عواقب بسیار بزرگتری برای غول GPU داشته باشد تا صرفاً با رقبای تراشه روبرو شود. همانطور که بریس گفت: “داستان واقعی حذف قفلی است که توسعه دهندگان را از داشتن یک انتخاب واقعی باز می داشت.”