سپر بنیانگذار هوش مصنوعی در مورد مرگ، هواپیماهای بدون سرنشین در اوکراین و سلاح هوش مصنوعی که «هیچکس نمی‌خواهد»

حدود دو ماه پیش، براندون تسنگ، یکی از بنیانگذاران هوش مصنوعی Shield و یکی از کارمندانش در یک Uber بافی در کیف، اوکراین بودند. آنها به ملاقاتی با مقامات نظامی می رفتند تا آنها را با سیستم های خلبانی هوش مصنوعی و پهپادهای خود بفروشند، که ناگهان کارمند او هشداری را در تلفن خود به او نشان داد. بمب های روسی وارد می شدند. Tseng با مرگ احتمالی خود با بالا انداختن شانه مواجه شد. او گفت: «اگر وقت رفتن شماست، پس وقت رفتن شماست.»

در هر صورت، Tseng، نیروی دریایی سابق SEAL، برای اقدام بیشتر می‌خواست. کارمندان هوش مصنوعی Shield قبلاً در مناطق بسیار خطرناک اوکراین حضور داشتند و سربازان خود را با نرم افزار و هواپیماهای بدون سرنشین آموزش می دادند. Tseng گفت: “من کاملا به جایی که آنها باید بروند حسادت می کنم.” “فقط از نقطه نظر ماجراجویی.”

Tseng مظهر آن شیطنت آرامی است که بیشتر بنیانگذاران فناوری دفاعی را فرا گرفته است. هنگامی که ماه گذشته او را در دفتر شرکت در آرلینگتون ملاقات کردم، او چاقویی را که در دفترش روی آن شعار SEAL حک شده بود «در سکوت رنج ببر» به نمایش گذاشت. دیوارهای سفیدی که بالای آن با لامپ های فلورسنت می درخشید (برای اینکه شبیه یک سفینه فضایی به نظر برسد)، با شعارهایی مانند “آنچه را که افتخار حکم می کند انجام دهید” و “سپر خود را هر روز به دست آورید” پوشیده شده بود. من اشاره کردم که آنها بسیار شدید بودند. “آیا آنها هستند؟” Tseng پاسخ داد.

در سال 2015، Tseng، Shield AI را در کنار برادرش، Ryan Tseng، مهندس برق دارای حق ثبت اختراع، با یک مأموریت روشن تأسیس کرد: “ما بهترین خلبان هوش مصنوعی جهان را ساختیم.” “من می خواهم یک میلیون خلبان هوش مصنوعی را در دستان مشتریان قرار دهم.”

برای این منظور، او و برادرش بیش از یک میلیارد دلار از سرمایه‌گذارانی مانند Riot Ventures و صندوق فناوری نوآورانه ایالات متحده جمع‌آوری کرده‌اند. این شرکت نرم‌افزار هوش مصنوعی را توسعه می‌دهد تا وسایل نقلیه هوایی را خودمختار کند، اگرچه Tseng گفت که آنها نرم‌افزار هوش مصنوعی Shield را در سیستم‌های زیر آب و سطح نیز می‌خواهند. همچنین دارای محصولات سخت افزاری مانند پهپاد V-BAT است.

هوش مصنوعی Shield همچنین بخشی از کلاس نادری از استارت‌آپ‌های فناوری دفاعی است: استارت‌آپ‌هایی که در واقع قراردادهای دولتی در اندازه مناسبی دارند، مانند آن. قرارداد 198 میلیون دلاری از گارد ساحلی امسال بنیانگذاران، گویی می‌خواهند خود را برای آینده‌ای بزرگ‌تر قرار دهند، دفتر جدیدی را انتخاب کردند که توسط سه طبقه از Raytheon، یکی از پیمانکاران اصلی دفاعی احاطه شده بود.

اوکراین: آزمایشگاه برای استارت آپ های فناوری دفاعی ایالات متحده

16 سپتامبر نشانه ای از تغییر زمان بود: به جای اینکه بنیانگذاران فناوری دفاعی را وادار کند به کاپیتول پرواز کنند، کت و شلوارهای خود را بپوشند و به سراغ سیاستمداران بروند، واشنگتن دی سی به سراغ آنها آمد.

اعضای کمیته خدمات مسلح مجلس نمایندگان آمریکا با شیام سانکار، مدیر ارشد فناوری Palantir، براندون تسنگ و مدیرانی از Skydio، Applied Intuition و Saildrone در پردیس دره سیلیکون UC Santa Cruz گرد هم آمدند. آنها در مورد اصلاحات تملک وزارت دفاع ایالات متحده (DoD) و به ناچار نقش فناوری ایالات متحده در اوکراین را مورد بحث قرار دادند. اولین بود استماع عمومی این کمیته از سال 2006 در خارج از واشنگتن دی سی برگزار شده است.

تسنگ به سیاستگذاران گفت که اوکراین “آزمایشگاه بزرگی بوده است”. آنچه من فکر می‌کنم اوکراینی‌ها کشف کرده‌اند این است که از چیزی که در میدان جنگ کار نمی‌کند استفاده نمی‌کنند.»

بنیانگذاران فناوری دفاع، مانند بنیانگذار Anduril پالمر لاکی و یکی از بنیانگذاران Skydio آدام برای، همه به کشور درگیر هجوم آورده اند تا فناوری نسبتاً جدیدی را برای میدان نبردی که به سرعت رو به وخامت است بفروشند. متأسفانه، همه فناوری های ایالات متحده کار نمی کنند. با توجه به الف گزارش وال استریت ژورنالپهپادهای استارت‌آپ‌های آمریکایی تقریباً به طور جهانی در عملیات جنگ الکترونیک در اوکراین شکست خورده‌اند، به این معنی که پهپادها تحت فناوری خاموشی GPS روسیه کار نمی‌کنند.

«اوکراین در جنگ است و مردم کشته می‌شوند. اما… تو می‌خواهی آن درس‌هایی را که آموخته‌ای، بگیری. شما نمی خواهید هیچ یک از آن درس ها را دوباره یاد بگیرید. ایالات متحده نباید بخواهد هیچ یک از این درس ها را دوباره بیاموزد.»

به طور طبیعی، او مطمئن است که پهپادهای Shield AI در اوکراین بهتر از سایرین عمل کرده اند، زیرا به گفته او، آنها می توانند بدون اتکا به GPS عمل کنند. او گفت: «ما در تلاش هستیم تا هواپیماهای بدون سرنشین بیشتری را بر اساس موفقیت‌هایی که به دست آورده‌ایم، به آنجا برسانیم.

قاتلان هوش مصنوعی شبیه ترمیناتور؟ یا «بازی اندر»؟

دفتر گوشه تسنگ در کنار یک کپی قاب شده از اعلامیه استقلال که به صورت کج روی دیوار آویزان شده است، خالی است. او آن را به عنوان یکی از بزرگترین الهامات خود برشمرد. او گفت: “این به این دلیل نیست که ما کامل هستیم، بلکه به این دلیل است که ما به این ارزش‌ها تمایل داریم که ادعا می‌کنم ارزش‌های کامل هستند.” این چیزی است که از همه مهمتر است. ما همیشه در این مسیر حرکت می کنیم.»

او قبل از اینکه تاریخچه مختصری از جنگ را بررسی کند، قاب را صاف کرد. به گفته او، بازدارندگی زمانی اتفاق می‌افتد که یک فناوری جدید رادیکال مانند بمب اتم یا فناوری پنهان‌کاری و GPS ظاهر شود. او گفت که هوش مصنوعی دوره جدیدی از بازدارندگی را آغاز خواهد کرد – با فرض اینکه وزارت دفاع به درستی آن را تامین مالی کند. او گفت: «شرکت‌های خصوصی بیش از هر مقدار کل بودجه دفاعی برای هوش مصنوعی و خودمختاری پول اختصاص می‌دهند.

ارزش بالقوه قراردادهای فدرال مرتبط با هوش مصنوعی از 335 میلیون دلار در سال 2022 به 4.6 میلیارد دلار در سال 2023 افزایش یافت. گزارش موسسه بروکینگز. اما طبق گفته PitchBook، این هنوز کسری از بیش از 70 میلیارد دلاری است که VCها تقریباً در همان دوره در فناوری دفاعی سرمایه گذاری کردند.

با این حال، بزرگترین سوال استفاده از هوش مصنوعی نظامی بودجه نیست – اخلاق است. بنیانگذاران و سیاستگذاران به طور یکسان با اجازه دادن به سلاح های کاملاً خودمختار دست و پنجه نرم می کنند، به این معنی که هوش مصنوعی خودش تصمیم می گیرد چه زمانی بکشد. اخیراً، به نظر می رسد که لفاظی برخی از بنیانگذاران در سمت ساخت چنین سلاح هایی قرار گرفته است.

به عنوان مثال، چند روز پیش، Anduril’s Luckey ادعا کرد که “یک کمپین سایه ای در حال حاضر توسط بسیاری از دشمنان ما در سازمان ملل به راه افتاده است” تا کشورهای غربی را فریب دهند تا به طور تهاجمی هوش مصنوعی را دنبال نکنند. او اشاره کرد که هوش مصنوعی کاملا خودمختار بدتر از مین های زمینی نیست. او اشاره نکرد که ایالات متحده در میان بیش از 160 کشور است با ممنوعیت استفاده از مین های زمینی ضد نفر موافقت کرد در اکثریت قریب به اتفاق مکان ها

Tseng قاطعانه با سلاح های کاملا خودمختار مخالف است. او گفت: «من مجبور شدم در مورد استفاده از نیروی کشنده در میدان نبرد تصمیم اخلاقی بگیرم. این یک تصمیم انسانی است و همیشه یک تصمیم انسانی خواهد بود. این دیدگاه Shield AI است. این موضع ارتش آمریکا نیز هست.»

او درست می گوید که ارتش ایالات متحده در حال حاضر تسلیحات کاملاً خودمختار خریداری نمی کند، اگرچه شرکت ها را از توسعه آنها منع نمی کند. اگر آمریکا دیدگاه خود را تغییر دهد چه؟ او پاسخ داد: “من فکر می کنم این یک فرضیه دیوانه کننده است.” کنگره این را نمی خواهد. هیچ کس این را نمی خواهد.»

بنابراین اگر او ارتشی از قاتلان ترمیناتور مانند را پیش بینی نمی کند، چه چیزی را متصور است؟ Tseng گفت: «یک فرد می تواند یک میلیون هواپیمای بدون سرنشین را فرماندهی و کنترل کند. محدودیت تکنولوژیکی در مورد اینکه یک نفر چقدر می تواند به طور موثر در میدان جنگ فرماندهی کند، وجود ندارد.

او با اشاره به کلاسیک علمی تخیلی سال 1985 که در آن یک افسر نظامی کودک می تواند لشکر ارتش های فضایی را با تکان دست آزاد کند، گفت: این شبیه به «بازی اندر» خواهد بود.

Tseng گفت: «به‌جز انسان‌های واقعی که او فرماندهی می‌کرد، ربات‌های پرنده خواهند بود».