دیپ فیک صوتی تهدیدی برای جوامع بشری به حساب می آید؟

به گزارش تور فرانسه ارزان، پیش بینی دقیق آینده دیپ فیک صوتی، سخت است. اما می توان گفت که ما در آستانه کلاهبرداری های صوتی قرار داریم، هر چند که خطر وقوع چنین مواردی در حال حاضر پایین بوده و ابزار های تشخیصی می توانند کار خود را به خوبی انجام دهند.

دیپ فیک صوتی تهدیدی برای جوامع بشری به حساب می آید؟

به گزارش ، دیپ فیک ویدیویی بدین معنا است که ما نمی توانیم به هر آنچه که می بینیم، اعتماد کنیم. حال دیپ فیک صوتی نیز بدین معنا است که دیگر گوش های ما قابل اعتماد نیستند. چنین فناوری هایی باعث می شوند تا مسائل بشر روزبه روز افزایش یابند. در قرن بیستم تنها نگرانی تکنولوژیک انسان ها، به مسائلی همانند بمب های اتمی و شیمیایی مربوط می شد، اما اکنون این دامنه گسترش یافته است.

در چند سال گذشته نگرانی های مختلفی در مورد ماشین ها و بیماری های همه گیر به وجود آمده و حال نیز نوبت به دیپ فیک صوتی رسیده است؛ چیزی که باعث می شود تا مردم اعتماد به صدای یکدیگر را نیز از دست بدهند.

به احتمال زیاد، ویدیو های دیپ فیک را مشاهده کرده اید. در این ویدیو ها از الگوریتم های یادگیری عمیق استفاده شده و بدین ترتیب رفتار های دو نفر با یکدیگر جایگزین می شوند. در صدای دیپ فیک یک صوت شبیه سازی شده غیرقابل تشخیص استفاده شده تا بدین ترتیب بتوان صدای مصنوعی فرد موردنظر را تولید کرد؛ دقیقا همانند فتوشاپ کردن صدا.

حداقل فتوشاپ های غیرحرفه ای را می توان تشخیص داد، اما در مورد دیپ فیک صوتی فقط می توان حدس زد، آن هم با میزان درستی 57 درصد! علاوه بر این، از آنجایی که بسکمک از ضبط های صدا توسط میکروفن گوشی ها انجام می پذیرد (یا در محیط های پر سروصدا)، پس دیپ فیک صوتی می توانند بهتر کار خود را انجام دهد. حال سؤال اینجا است که چرا یک شخص باید به فتوشاپ کردن صدا بپردازد؟

  • نحوه مبارزه توئیتر با دیپ فیک مشخص شد

یکی از این موارد به صنعت بازی های ویدیویی مربوط می شود. در گذشته امکان نداشت که صدا را به محض درخواست، ایجاد کرد. حتی در عناوین تعاملی که از گرافیک سینمایی نیز برخوردار هستند، ارتباطات کلامی با شخصیت های غیرقابل بازی، چندان پویا به نظر نمی رسند.

حال با پیشرفت فناوری، استودیو های بازی سازی نیز می توانند صدای شخصیت ها را شبیه سازی کرده و با استفاده از یک موتور تبدیل کننده متن به صوت، سخنان شخصیت های درون بازی ها را پویاتر نشان دهند. در واقع این فرایند در زمان واقعی رخ داده و از پیش مشخص و رندر نمی شود.

البته این فناوری استفاده هایی نیز در تبلیغات، فناوری و خدمات پشتیبانی از مشتریان دارد. در اینجا نیز صدای یک انسان قابل اعتماد شبیه سازی شده و متون گفتار نیز توسط هوش مصنوعی مشخص و ادا می شوند. شرکت های شبیه سازی صدا، در مورد کاربرد های پزشکی این فناوری نیز هیجان زده هستند. البته این موضوع چندان جدید نبوده و در واقع استیون هاوکینگ نیز از صدای مصنوعی استفاده می کرد. اما حال چنین مواردی می توانند بهبود بیشتری را تجربه کنند.

در سال 2008، شرکت شبیه سازی صدای CereProc، صدای راجر ایبرت (Roger Ebert) را پس از سرطان دریافت وی، شبیه سازی کرد. همچنین این شرکت وب سایتی را نیز ایجاد کرده بود که در آن مردم می توانستند متنی را تایپ کرده و سپس این متن با صدای جورج بوش، بیان شود.

شبیه سازی صدا در حال حاضر از محبوبیت مناسبی برخوردار است. شرکت هایی همانند Resemble AI و Descript وب سایت هایی را دایر کرده اند که می توانید در آن ها به صورت رایگان، صدای خود را شبیه سازی کنید. در این زمینه هوش مصنوعی و مخصوصا الگوریتم های یادگیری عمیق هستند که می توانند صدای ضبط شده را با متن مربوطه تطبیق داده و در نتیجه صدای شما را شبیه سازی کنند. در ادامه هوش مصنوعی از بلوک های ساختاری زبان استفاده کرده تا بدین ترتیب بتواند تقریبی از کلماتی را که تا به حال از زبان شما نشنیده، به دست آورد.

متیو آیلت (Matthew Aylett)؛ مدیر ارشد علمی شرکت CereProc می گوید: پایه این فناوری مدت ها است که وجود دارد، اما تنها به مقداری کمک احتیاج دارد. کپی کردن صدا همانند درست کردت شیرینی است. این کار کمی سخت بوده و همچنین راه های مختلفی نیز جهت انجام آن وجود دارند.

توسعه دهندگان جهت کسب نتایج مورد قبول، به مقادیر زیادی از صدا های ضبط شده احتیاج دارند. چند سال پیش، دانشمندان شبکه های GAN را توسعه دادند.

بدین ترتیب برای اولین بار، امکان قیاس از داده های موجود فراهم شد. آیلت می گوید: به جای اینکه یک رایانه، تصویری را از یک اسب مشاهده کند و بگوید که این اسب است، مدل من اکنون می تواند یک اسب را به یک گورخر تبدیل کند؛ بنابراین پیشرفت های شبیه سازی صدا، مدیون تلاش های آکادمیک حوزه رایانه هستند.

یکی از مهم ترین پیشرفت ها در زمینه شبیه سازی صدا، مربوط به کاهش حجم صدای اولیه مورداحتیاج است. در گذشته حجم بالایی از صدای شخص مورداحتیاج بود، اما اکنون تنها چند دقیقه کافی است.

فناوری هایی همانند انرژی هسته ای، فناوری نانو، چاپ سه بعدی و CRISPR، در عین هیجان انگیز بودن، ترسناک نیز هستند. در اخبار نیز مواردی به چشم می خورند که طی آن ها، دیپ فیک صوتی توانسته که مردم را فریب دهد.

در کانال های یوتیوبی، می توان ویدیو هایی از رؤسای جمهور پیشین آمریکا را مشاهده کرد که در آن ها، این اشخاص مشغول خواندن یک آهنگ هستند. موسیقی و صدا های پس زمینه باعث می شوند تا حرکات رباتیک کمتر به چشم آیند، اما در هر صورت پتانسیل زیادی در این موضوع وجود دارد.

می توان به آسانی تصور کرد که این فناوری به مرور زمان بهتر خواهد شد. سیستم های صدای دیپ فیک به ورودی های کمتری احتیاج خواهند داشت و همچنین پردازش های سریع تر نیز می توانند شبیه سازی را در آن واحد انجام دهند. به مرور هوش مصنوعی بهتر نیز می تواند لحن و ریتم صدای اشخاص را بهتر شبیه سازی کند.

بیشتر شرکت های فعال در این زمینه سعی دارند تا این فناوری را به جهت ایمن و درستی راهنمایی کنند. مثلا شرکت Resemble AI، یک بیانیه اخلاقی را در وب سایت خود قرار داده که در زیر به گزیده ای از آن اشاره می کنیم:

ما نسبت به شرکت های مختلف، سختگیری هایی را اعمال کرده و مطمئن می شویم که صدای شبیه سازی شده توسط آن ها استفاده شده و همچنین رضایت کامل صدا پیشه ها را نیز جلب کرده اند.

کاندان کومار (Kundan Kumar)؛ بنیان گذار Lyrebird (که اکنون بخشی از Descript است)، می گوید که Lyrebird از ابتدا نسبت به سوءاستفاده حساس بوده و به همین دلیل است که اکنون Descript به مردم اجازه می دهد که فقط صدای خود را شبیه سازی کنند.

خوب است که می شنویم بازیگران مطرح این صنعت، به موازین اخلاقی پایبند هستند. اما در هر صورت ابزار های دیپ فیک صوتی دیگری نیز وجود دارند که چنین رویه ای را در پیش نگرفته و حتی جهت سوءاستفاده از آن ها، به دانش کدنویسی نیز احتیاجی ندارید.

متخصصان امنیت، پیش تر نیز با چنین مواردی روبرو شده اند

پیش از اینکه دیپ فیک صوتی قابل استفاده باشد، کلاهبرداران همیشه سعی کرده اند که به صورت تلفنی، نسبت به سرقت پول اقدام کنند، اما متخصصان امنیت در این گونه مواقع نیز حاضر بوده اند. شرکت هایی همانند Pindrop به این کار مشغول بوده و طبق ادعا های این شرکت، آن ها 1.2 میلیارد مکالمه صوتی را تحلیل کرده و توانسته اند که از سرقت 470 میلیون دلار پول، جلوگیری کنند.

پیش از دیپ فیک صوتی، کلاهبرداران از مکانی دیگر تماس می دریافتد و با ارائه اطلاعات شخصی هدف خود، سعی می کردند که وجوه وی را انتقال دهند. ویجی بالاسوبرامانیان (Vijay Balasubramaniyan)؛ مدیرعامل Pindrop، می گوید: امضای صوتی به ما اجازه می دهد که ویژگی های صوتی را تشخیص داده و بدین ترتیب بفهمیم که تماس موردنظر از نیجریه و با استفاده از اسکایپ اجرا شده است.

در حالی که می دانیم مشتری واقعی از گوشی AT&T استفاده کرده و از آتلانتا نیز تماس می گیرد. گاهی اوقات با کلاهبردار هایی روبرو می شویم که صدای جوجه و یا گریه کودک را در پس زمینه تماس های خود استفاده می کنند تا بدین ترتیب بتوانند کارمندان ما را فریب دهند. حتی مواردی نیز داشته ایم که در آن ها مرد ها سعی کرده اند تا با استفاده از ابزار های شبیه سازی، فرکانس صدای خود را افزایش داده و بدین ترتیب صدای خود را زنانه جلوه دهند. اما گاهی اوقات نرم افزار مورد استفاده آن ها خوب کار نکرده و صدایی شبیه به شخصیت های کارتونی تولید می کند.

اگر پس از گوش دادن به صدای یک شخص، به سختی بتوانیم مصنوعی بودن آن را متوجه شویم، آنگاه این موضوع می تواند حاوی خبر های خوب و بدی برای ما باشد. خبر خوب این است که هوش مصنوعی و سیستم های یادگیری عمیق در حال تکامل بوده و جهت تولید صدایی واقعی، به ورودی های کمتری احتیاج دارند. خبر بد هم این است که تشخیص موارد تقلبی و همچنین کلاهبرداری ها نیز مشکل تر می شود.

هر چقدر طول یک فایل کمتر باشد و در محیط های شلوغ تری نیز ضبط شده باشد، آنگاه تشخیص دیپ فیک بودن آن نیز سخت تر خواهد شد. نکته ای که در این بین وجود دارد، این است که اگر انسان ها قادر به تشخیص صدای تقلبی نباشند، در هر صورت کامپیوتر ها قادر به انجام این کار خواهند بود.

خوشبختانه ابزار های تصدیق هم اکنون نیز وجود دارند. شرکت Pindrop ابزاری را استفاده می کند که حتی اگر تمامی صدا های فایل مورد بررسی نیز توسط شخص واقعی ضبط شده باشند، بازهم بتواند مصنوعی بودن صدای شبیه سازی شده را تشخیص دهد.

بسته به کیفیت صدا، هر ثانیه از مکالمه می تواند بین 8000 الی 50000 نمونه داده جهت تحلیل را در بر داشته باشد. بالاسوبرامانیان می گوید: چیزی که ما به دنبال آن هستیم، محدودیت های گفتاری ناشی از تکامل انسان ها هستند.

به عنوان مثال، دو صدای آواز، حداقل تفاوت هایی را با یکدیگر دارند، زیرا به دلیل محدودیت های فیزیکی، نمی توان برخی از عبارات را از حدی سریع تر خاطرنشان کرد. مثلا با شنیدن برخی از صدا های ترکیبی، می گوییم که امکان ندارد این صدا متعلق به یک انسان باشد، زیرا برای ادای آن، فرد باید یک گردن 7 فوتی داشته باشد.

برخی صدا ها نیز وجود دارند که سایشی نامیده می شود (حروفی همانند F، S، V و Z). سیستم های یادگیری عمیق به سختی می توانند این صدا ها را از نویز ها تمایز دهند. الگوریتم های هوش مصنوعی به سختی می توانند پایان کلمات را از نویز پس زمینه تمایز دهند، بنابراین محو شدن کلمات در چنین مدل هایی، بیش از گفتار واقعی انسان ها رخ می دهد. به همین دلیل رایانه ها آسان تر می توانند مصنوعی بودن صدا را تشخیص دهند.

پیش بینی دقیق آینده دیپ فیک صوتی، سخت است. اما می توان گفت که ما در آستانه کلاهبرداری های صوتی قرار داریم، هر چند که خطر وقوع چنین مواردی در حال حاضر پایین بوده و ابزار های تشخیصی نیز می توانند کار خود را به خوبی انجام دهند.

هنری آجِر (Henry Ajder)؛ مدیر بخش تهدید اطلاعاتی در Deeptrace، می گوید: اگر مردم ابزار های دیپ فیک صوتی متن-باز را به یکدیگر متصل کرده و سپس آن ها را در قالب اپلیکیشن و یا سرویس های کاربرپسند (و بدون تعهدات اخلاقی) عرضه کنند، آنگاه مسائل متعددی در این زمینه به وجود خواهند آمد.

بدین ترتیب، حیاتی است که شرکت های امنیتی خود را در برابر چنین تهدید هایی مقاوم کرده و به عنوان مثال بتوانند آسیب پذیری روز-صفر بعدی را بهتر درک کنند که طبیعتا دیپ فیک صوتی کاندیدای اصلی این موضوع خواهد بود.

منبع: آی تی رسان

منبع: باشگاه خبرنگاران جوان
انتشار: 15 مهر 1399 بروزرسانی: 15 مهر 1399 گردآورنده: parisro.com شناسه مطلب: 1168

به "دیپ فیک صوتی تهدیدی برای جوامع بشری به حساب می آید؟" امتیاز دهید

امتیاز دهید:

دیدگاه های مرتبط با "دیپ فیک صوتی تهدیدی برای جوامع بشری به حساب می آید؟"

* نظرتان را در مورد این مقاله با ما درمیان بگذارید