ForceField با تأیید دادههای منبع به شناسایی دیپفیک و فریب دیجیتال کمک میکند

یک استارتاپ جدید برای مبارزه با بلای دیپ فیک و شواهد جعلی در عصر هوش مصنوعی این هفته در TechCrunch Disrupt 2024 محصولات خود را در مرحله Startup Battlefield به نمایش می گذارد. فورس فیلد در حال ساخت مجموعهای از APIهای “در انتظار ثبت اختراع” با نام MARQ است که اولین آنها برای احراز هویت محتوا طراحی شده است.
برای زمینه، 2022 گزارش دهید آژانس مجری قانون اروپا یوروپل پیشبینی کرد که تا سال 2026 90 درصد از کل محتوای آنلاین توسط هوش مصنوعی تولید میشود. اینترنت در حال حاضر مملو از محتوای دستکاری شده است – یا کاملاً توسط ماشین تولید شده یا با کمک هوش مصنوعی – شرکتهای بزرگ فناوری را مجبور میکند تا ابزارهای جدیدی را برای حل مشکل ایجاد کنید. گوگل ماه گذشته اعلام کرد که بهزودی پرچمگذاری تصاویر تولید شده با هوش مصنوعی را در موتور جستجوی خود آغاز میکند، به دنبال متا، که قبلاً این کار را در فیسبوک و اینستاگرام انجام میداد – البته با دقت مشکوک.
در همین حال، یوتیوب اکنون به افراد امکان می دهد محتوایی را که چهره یا صدای آنها را شبیه سازی می کند، درخواست حذف کنند.
موضوع محتوای «جعلی» از بین نمیرود، و این مشکلی است که باعث شده است تا استارتآپهایی با این مشکل از راههای مختلفی مانند Clarity، Reality Defender و Truepic مقابله کنند، که همگی به میزان قابل توجهی مطرح شدهاند. مبالغی از حامیان نام های بزرگ در سال های اخیر.
ForceField، به نوبه خود، به جای محتوا، بر سطح دستگاه تمرکز می کند – این بدان معنی است هر جریان داده، در هر دستگاهی که فناوری ForceField در آن وجود دارد. این میتواند یک برنامه تلفن همراه با API یکپارچه ForceField، یا سیستم مدیریت ویدئویی دوربین مداربسته یا سختافزار پهپاد باشد – میتواند در زمان واقعی “امضا و هش” را برای تایید انجام دهد.
“زنجیره حضانت”
اولین محصول ForceField به نام هاشمارک، محتوای ارسالی را تأیید می کند و آن را معتبر و مملو از نشان اصالت می داند. به جای استفاده از تکنیک های مماسی مانند هوش مصنوعی متخاصم (یعنی مبارزه با هوش مصنوعی با هوش مصنوعی) یا واترمارکینگ، فناوری فورسفیلد یک «زنجیره نگهبانی» را ایجاد میکند تا با تشخیص اینکه آیا یک قطعه خاص از محتوا تغییر کرده است یا خیر، منشأ ایجاد میکند – این کار را با مشاهده ابردادهها از جریانهای داده و دستگاههای متصل انجام میدهد. آنچه که ما در اینجا در مورد آن صحبت می کنیم، فناوری بلاک چین است، اگرچه بنیانگذار و مدیر عامل ForceField ام سی اسپانو (تصویر بالا) تاکید می کند که این یک راه اندازی “web3” نیست.
اسپانو به TechCrunch گفت: «ما از بلاک چین استفاده میکنیم، از سکه یا رمزارز استفاده نمیکنیم – ما یک شرکت web3 نیستیم. ما از بلاک چین به فطری ترین و هدفمندترین راه استفاده می کنیم که قرارداد هوشمند است. ما هر چیزی را که جمع آوری شده است، مانند یک ویدیو، عکس، یک فایل صوتی، یک اسکرین شات در یک دستگاه تلفن همراه احراز هویت می کنیم – اما هر چند رسانه ای جمع آوری شده در هر اینترنت اشیا را نیز ایمن و احراز هویت می کنیم، که به معنای هر چیزی است، از بلک بری گرفته تا ربات. اما هر داده جریانی که جمعآوری میشود، آن را امضا میکنیم، آن را هش میکنیم و سپس از فناوری دفتر کل استفاده میکنیم.»
این «قراردادهای هوشمند» برای اطمینان از امنیت، شفافیت و تغییر ناپذیری آنها بر روی بلاک چین زندگی میکنند (اگرچه ForceField مشخص نمیکند کدام یک) آنها را تضمین میکند – نمیتوان آنها را تغییر داد. مشتریان سازمانی – که ممکن است شامل هر کسی از مدیران ارشد اطلاعات گرفته تا تیمهای اعتماد و ایمنی باشد – میتوانند از طریق API یا SDK که در برنامههای کاربردی خود ادغام میکنند، به این فناوری دسترسی داشته باشند. بنابراین HashMarq اساساً به عنوان یک گواهی دیجیتال برای محتوایی عمل می کند که بررسی های اثبات خود را پشت سر گذاشته است.
اسپانو گفت: “ما در حال ساخت فناوری برای افراد خوب هستیم – ما پیشبینی میکنیم که بازار، یعنی دولتها، شرکتها، شرکتهای کوچک، حتی افراد، باید ثابت کنند آنچه در جهان عرضه میکنند واقعی است.” این با چیزی شبیه به کاری است که متا و سایر شرکتها انجام میدهند، جایی که آنها اساساً چیزی را که توسط هوش مصنوعی تولید میشود برچسبگذاری میکنند.»
بنابراین، فناوری ForceField هنگام ارزیابی صحت یک دارایی مشخص دقیقاً به چه چیزی توجه می کند؟
اسپانو گفت: “ما در حال بررسی حدود 90 نقطه اثبات هستیم، اما نمی توانم همه آنها را به اشتراک بگذارم.” تصور این است که ما به هوش مکانی اطراف آن دستگاه، آنچه در آن زمان وجود داشت، سیگنالها، سایر دستگاهها و زمان نگاه میکنیم. این دستگاه مخصوصاً در چه زمانی این ویدیو را جمع آوری می کرد؟ و از جمع آوری تا ارسال چقدر بود؟ این نکات به تنهایی می تواند به روزنامه نگاران یا سازمان های خبری یا مجریان قانون بسیار بیشتر از آنچه که در ابتدا داشته اند بگوید و همچنین می تواند موقعیت جغرافیایی را مشخص کند.
اگرچه فورس فیلد به طور رسمی در سال 2021 به ثمر نشست، اما اسپانو می گوید که پیدایش این محصول در سال 2018 زمانی که او در شهر نیویورک مورد حمله قرار گرفت و متعاقباً در جمع آوری و ارائه شواهد مورد نیاز مجریان قانون با موانع بزرگی روبرو شد.
اسپانو گفت: “می دانستم که دوربین هایی وجود دارد، می دانستم که می توان مدارک را جمع آوری کرد.” اما وقتی با پلیس نیویورک برای به دست آوردن شواهد برخورد کردم، احضاریه ای دریافت نکردند – بنابراین مجبور شدم خودم برای درخواست فیلم به سراغ صاحب دوربین بروم. من آن را با تلفنم ضبط کردم، و وقتی آن ضبط را به NYPD تبدیل کردم، گفتند قابل قبول نیست. و آن زمان بود که متوجه شدم سیستم قضایی خیلی زودتر از دادگاه ها شروع می شود.
و این به اصل مشکلی میرسد که Spano و ForceField در تلاش برای حل آن هستند – مشکلی که در عصر هوش مصنوعی مولد، که در آن هر کسی که لپتاپ دارد میتواند «شواهدی» قابل قبول، اما کاملا جعلی ایجاد کند، حتی بزرگتر شده است. ”
اثبات مفهوم
هنوز روزهای اولیه است، اما ForceField در حال توسعه یک اثبات مفهوم (PoC) با آن است غول بیمه ایریدر حالی که اسپانو میگوید این شرکت با سه مشتری دیگر نیز نامههای تعهد امضا کرده است و برنامههایی برای نهایی کردن PoC و عرضه تجاری آن در سه ماهه اول 2025 دارد.
در حالی که بیمه در ابتدا بازار بزرگی برای فورس فیلد خواهد بود، اسپانو می گوید که با ظهور هوش مصنوعی و توانایی تقریباً هر کسی برای ایجاد دارایی هایی با ظاهر واقعی، هیچ محدودیتی برای صنایعی که می تواند در آنها اعمال شود وجود ندارد. به عنوان مثال، یک شهروند خبرنگار که ویدیویی را در دستگاه تلفن همراه خود ضبط کرده است، می تواند آن را به یک ایستگاه خبری ارسال کند، که با API ForceField یکپارچه می شود تا صحت داده های منبع را تعیین کند. مجریان قانون نیز میتوانند از این فناوری برای تأیید اظهارات شاهد یا قربانی استفاده کنند.
از نظر تامین مالی، شرکت تاکنون از طریق ترکیبی از راهاندازی (اسپانو یک شرکت قبلی را فروخته) و سرمایه ارائه شده توسط فرشتگان، از جمله بازیگر دبرا مسینگ، و همچنین تامین مالی شده است. ویلفردو فرناندز، رئیس امور دولتی X و پیشاهنگ شرکت VC Lightspeed. ForceField نیز از طریق خود پول دریافت کرده است مشارکت در Techstars در سال گذشته، در حالی که اولین سرمایه گذاری سازمانی خود را از طریق یک سرمایه گذاری استراتژیک از مشتری خود، بیمه ایری دریافت کرده است.
اسپانو همچنین گفت که امیدوار است تا پایان سال یک دور اولیه را ببندد و افزود که معتقد است یکی از مهمترین جنبه های شرکت این است که یک شرکت کاملاً تحت رهبری زنان در فضایی بسیار مردانه است.
اسپانو گفت: «یک مشکل واقعاً بزرگ با تأمین مالی تیمهای انفرادی زنان در اینجا در ایالات متحده وجود دارد. من تنها زنی هستم که در حال حاضر این نوع فناوری را میسازم، همه رقبای دیگر همه توسط مردان رهبری میشوند – بنابراین داشتن صدای یک زن، شفافیت، صداقت و حقیقت… واقعاً مهم است.»