أداة جديدة مخصصة لإعادة إنتاج الصوت تشهد إساءة استخدام متزايدة

تقول شركة Eleven Labs ، الشركة الناشئة التي تقف وراء أداة استنساخ الصوت بالذكاء الاصطناعي ، إنها شهدت “زيادة في الاستخدام المسيء” لبرامجها مع انتشار التلاعب بالصوت عبر الإنترنت.

أطلقت الشركة التي تتخذ من لندن مقراً لها مؤخراً نسخة تجريبية من منصتها لإنشاء “أدوات تنتج كلمات ذات أصوات قريبة جداً من الواقع” بعد أن جمعت مليوني دولار.

شارك مستخدمو صفحة “4chan” المجهولة رسائل تم إنشاؤها باستخدام البرنامج الذي يحتوي على أصوات مزيفة لعدد من المشاهير ، بما في ذلك الممثلة البريطانية إيما واتسون والمذيع الأمريكي جو روغان ، بهدف جعلها جمل عنصرية وجندرية مطلقة.

في إحدى هذه الرسائل ، سُمع صوت مشابه لصوت إيما واتسون وهو يقرأ مقتطفًا من كتاب أدولف هتلر “كفاحي” ، بينما في رسالة أخرى سمع صوت مشابه لصوت المحلل الأمريكي بن ​​شابيرو وهو يهدد باغتصاب الممثل إسكندريا أوكاسيو. -كورتيز.

كما تم إساءة استخدام أصوات المخرجين كوينتين تارانتينو وجورج لوكاس.

غرد أحد عشر Labs أمس …