PlayAI صداها را بر اساس فرمان شبیه سازی می کند

قالب پادکست PlayNote توسط آخرین مدل PlayAI، PlayDialog، امکان پذیر شده است، که سید می گوید می تواند از “زمینه و تاریخچه” یک مکالمه برای تولید گفتاری استفاده کند که جریان گفتگو را منعکس کند. او ادامه داد: «پلی دیالوگ با استفاده از بافت تاریخی مکالمه برای کنترل عروض، احساسات و سرعت، مکالمه را با ارائه طبیعی و لحن مناسب ارائه می‌کند.»

PlayAI که رقیب نزدیک ElevenLabs است، بوده است انتقاد کرد در گذشته به دلیل رویکرد آزادسازی آن به ایمنی. ابزار شبیه‌سازی صوتی این شرکت مستلزم آن است که کاربران کادری را علامت بزنند که نشان می‌دهد آنها «همه حقوق یا رضایت لازم را برای شبیه‌سازی صدا دارند» – اما هیچ مکانیزم اجرایی وجود ندارد. من هیچ مشکلی برای ایجاد یک کلون از صدای کامالا هریس از یک ضبط نداشتم.

این مربوط به در نظر گرفتن است بالقوه برای کلاهبرداری و دیپ فیک.

PlayAI همچنین ادعا می کند که به طور خودکار “محتوای جنسی، توهین آمیز، نژادپرستانه یا تهدید آمیز” را شناسایی و مسدود می کند. اما در آزمایش من اینطور نبود. من از کلون هریس برای تولید سخنرانی استفاده کردم که رک و پوست کنده نمی توانم آن را در اینجا جاسازی کنم و یک بار هم پیام هشداری ندیدم.

در همین حال، پورتال اجتماعی PlayNote که پر از محتوای تولید شده عمومی است، دارای فایل هایی با عناوین صریح مانند “زن در حال انجام سکس دهانی”.

سید به من می گوید که PlayAI به گزارش های صداهای شبیه سازی شده بدون رضایت پاسخ می دهد. مثل این یکی، با مسدود کردن کاربر مسئول و حذف فوری صدای شبیه سازی شده. او همچنین ادعا می‌کند که کلون‌های صوتی PlayAI با بالاترین وفاداری، که به 20 دقیقه نمونه صوتی نیاز دارند، قیمت بیشتری دارند (49 دلار در ماه صورتحساب سالانه یا 99 دلار در ماه) از آنچه اکثر کلاهبرداران مایل به پرداخت هستند.

سید گفت: «PlayAI چندین پادمان اخلاقی دارد. ما مکانیسم‌های قوی را برای شناسایی اینکه آیا صدایی با استفاده از فناوری ما سنتز شده است یا خیر، پیاده‌سازی کرده‌ایم. در صورت گزارش هرگونه سوء استفاده، ما فوراً منشأ محتوا را تأیید می‌کنیم و اقدامات قاطعی برای اصلاح وضعیت و جلوگیری از نقض‌های اخلاقی بیشتر انجام می‌دهیم.»

من مطمئناً امیدوارم که اینطور باشد – و PlayAI از آن دور شود کمپین های بازاریابی با حضور افراد مشهور فناوری. اگر تعدیل PlayAI قوی نباشد، ممکن است با چالش‌های قانونی روبرو شود تنسی، که قانونی در مورد کتاب ها دارد که از میزبانی پلتفرم های هوش مصنوعی برای ضبط غیرمجاز صدای افراد جلوگیری می کند.

رویکرد PlayAI برای آموزش هوش مصنوعی شبیه سازی صدا نیز کمی مبهم است. این شرکت ظاهراً به دلایل رقابتی اطلاعات مدل‌های خود را از کجا تهیه کرده است.

PlayAI عمدتا از مجموعه داده های باز استفاده می کند، [as well as licensed data] سید گفت و مجموعه داده های اختصاصی که در داخل ساخته می شوند. ما از داده‌های کاربر از محصولات در آموزش یا سازندگان برای آموزش مدل‌ها استفاده نمی‌کنیم. مدل‌های ما بر روی میلیون‌ها ساعت گفتار واقعی انسان آموزش دیده‌اند و صداهایی را در جنسیت‌های مرد و زن در چندین زبان و لهجه ارائه می‌دهند.

بیشتر مدل‌های هوش مصنوعی بر روی داده‌های وب عمومی آموزش داده می‌شوند – برخی از آنها ممکن است دارای حق چاپ یا تحت مجوز محدود باشند. بسیاری از فروشندگان هوش مصنوعی استدلال می کنند که استفاده منصفانه دکترین آنها را در برابر ادعاهای حق چاپ محافظت می کند. اما این موضوع باعث توقف مالکان داده ها نشده است از طرح دعوی حقوقی دسته جمعی مبنی بر اینکه فروشندگان بدون اجازه داده های آنها استفاده کرده اند.

PlayAI مورد شکایت قرار نگرفته است. با این حال، شرایط خدمات آن پیشنهاد می کند در صورتی که کاربران خود را در معرض تهدید قانونی قرار دهند، به ضرر آنها نخواهد بود.

پلتفرم‌های شبیه‌سازی صدا مانند PlayAI با انتقاد بازیگرانی مواجه می‌شوند که می‌ترسند در نهایت صداگذاری با وکال‌های تولید شده توسط هوش مصنوعی جایگزین شود و بازیگران کنترل کمی بر نحوه استفاده از دوبل‌های دیجیتال خود داشته باشند.

اتحادیه بازیگران هالیوود SAG-AFTRA با برخی از استارتاپ‌ها، از جمله بازار آنلاین استعدادیابی Narrativ و Replica Studios، به‌عنوان ترتیبات شبیه‌سازی صوتی «عادلانه» و «اخلاقی»، قرارداد بسته است. اما حتی این گره‌آپ‌ها هم از بین رفته است بررسی شدیداز جمله از اعضای خود SAG-AFTRA.

در کالیفرنیا، قوانین شرکت‌هایی را ملزم می‌کنند که به ماکت دیجیتالی اجراکننده (مثلاً صدای شبیه‌سازی‌شده) تکیه می‌کنند، شرحی از استفاده مورد نظر از ماکت ارائه دهند و با مشاور حقوقی اجراکننده مذاکره کنند. آنها همچنین نیاز دارند که کارفرمایان سرگرمی قبل از استفاده از شبیه سازی دیجیتالی آن شخص، رضایت دارایی یک مجری متوفی را کسب کنند.

سید می‌گوید که PlayAI «تضمین می‌کند» که هر شبیه‌سازی صوتی که از طریق پلتفرم آن تولید می‌شود منحصر به سازنده است. وی افزود: «این انحصار برای حفاظت از حقوق خلاقانه کاربران حیاتی است.

افزایش بار قانونی یک باد مخالف برای PlayAI است. دیگری رقابت است. Papercup، Deepdub، Acapela، Respeecher و Voice.ai، و همچنین شرکت‌های بزرگ فناوری آمازون، مایکروسافت و گوگل، ابزارهای دوبله و شبیه‌سازی صدا را با هوش مصنوعی ارائه می‌دهند. گفته می‌شود که ElevenLabs فوق‌الذکر، یکی از معتبرترین فروشندگان شبیه‌سازی صدا، در حال جمع‌آوری سرمایه جدید با ارزش بیش از 3 میلیارد دلار است.

با این حال، PlayAI برای یافتن سرمایه گذار مشکلی ندارد. در این ماه، شرکت تحت حمایت Y Combinator یک دور اولیه 21 میلیون دلاری را با همکاری 500 استارتاپ و سرمایه‌گذاری دوستانه با مشارکت Race Capital، 500 Global و Soma Capital بست.

سید گفت: «سرمایه جدید برای سرمایه‌گذاری در مدل‌های صوتی مولد هوش مصنوعی و پلت‌فرم عامل صوتی و کوتاه‌تر کردن زمان کسب‌وکارها برای ایجاد تجربیات گفتاری با کیفیت انسانی استفاده می‌شود.» وی افزود که PlayAI قصد دارد نیروی کار ۴۰ نفره خود را گسترش دهد. .