ابزار هوش مصنوعی اوپن ای آی برای تبدیل صوت به متن، جملاتی می سازد و به متن می افزاید که باعث ایجاد چالش جدیدی شده است.
به گزارش لینک بگیر دات کام به نقل از آسوشیتدپرس، شرکت «اوپن ای آی» ابزار رونویسی مبتنی بر هوش مصنوعی خود به نام «ویسپر» (Wisper) را با ادعای آن که دقت و قدرتی معادل یک کاربر انسانی دارد، عرضه نموده است. اما ویسپر یک چالش اساسی دارد. به قول مهندسان نرم افزار، توسعه دهندگان و محققان آکادمیک امکان دارد این ابزار بخشی از متن یا حتی جملاتی کامل را خودش بنویسد. این کارشناسان اعتقاد دارند بعضی از متن های اختراعی این ابزار امکان دارد حاوی اظهارات نژادی، خشونت آمیز یا حتی درمان های پزشکی خیالی باشد.
به قول آنها چنین جملاتی مشکل ساز هستند چونکه از این ابزار در چند صنعت در سراسر دنیا برای تبدیل مصاحبه ها، تولید متن در زمینه فناوری های مصرفی محبوب و ساخت زیرنویس برای ویدیوها استفاده می شود. نکته نگران کننده تر، عجله مراکز پزشکی جهت استفاده از ابزارهای مبتنی بر ویسپر برای رونویسی مشاوره های بیماران با پزشکان است. حال آن که اوپن ای آی قبلا اخطار داده از این ابزار نباید در حوزه هایی با ریسک زیاد استفاده گردد.
گستره کامل این مشکل را به سختی میتوان تعیین کرد اما محققان و مهندسان اعلام نموده اند در فعالیت هایشان اغلب با توهمات ابداعی ویسپر روبرو شده اند. بعنوان مثال یک محقق دانشگاه میشیگان مشغول انجام تحقیقی از جلسات عمومی بود و در هر ۱۰ رونویسی کلیپ صوتی که او بررسی نموده بود ۸ مورد حاوی توهمات ویسپر بودند. بعد از آن وی تلاش خود برای ارتقای این مدل هوش مصنوعی را شروع کرد. یک مهندس یادگیری ماشینی هم می گوید او بیشتر از ۱۰۰ ساعت نمونه رونویسی که ویسپر انجام داده بود را تحلیل و در حدود نیمی از آنها توهمات این هوش مصنوعی را مشاهده کرده است.
محقق سومی هم مدعی شده هنگام بررسی ۲۶ هزار متنی که با کمک ویسپر ابداع شده، حدودا در هر یک از رونویسی ها توهمات این ابزار را مشاهده کرده است. این چالش حتی در رونویسی از نمونه های کوتاه و باکیفیت صوتی هم وجود دارد.
منبع: لینك بگیر دات كام