میرنیوز
هوش مصنوعی اوپن ای آی توهم زد!
2024-10-26T10:27:19+03:30
به گزارش خبرگزاری مهر به نقل از آسوشیتدپرس، شرکت «اوپن ای آی» ابزار رونویسی مبتنی بر هوش مصنوعی خود به نام «ویسپر» (Wisper) را با ادعای آنکه دقت و قدرتی معادل یک کاربر انسانی دارد، عرضه کرده است.
اما ویسپر یک چالش اساسی دارد. به گفته مهندسان نرم افزار، توسعه دهندگان و محققان آکادمیک ممکن است این ابزار بخشی از متن یا حتی جملاتی کامل را خودش بنویسد. این کارشناسان معتقدند برخی از متن های اختراعی این ابزار ممکن است حاوی اظهارات نژادی، خشونت آمیز یا حتی درمان های پزشکی خیالی باشد.
به گفته آنها چنین جملاتی مشکل ساز هستند زیرا از این ابزار در چند صنعت در سراسر جهان برای تبدیل مصاحبه ها، تولید متن در زمینه فناوری های مصرفی محبوب و ساخت زیرنویس برای ویدئوها استفاده می شود.
نکته نگران کننده تر، عجله مراکز پزشکی برای استفاده از ابزارهای مبتنی بر ویسپر برای رونویسی مشاوره های بیماران با پزشکان است. حال آنکه اوپن ای آی قبلا هشدار داده از این ابزار نباید در حوزه هایی با ریسک زیاد استفاده شود.
گستره کامل این مشکل را به سختی می توان تعیین کرد اما محققان و مهندسان اعلام کرده اند در فعالیت هایشان اغلب با توهمات ابداعی ویسپر روبرو شده اند. به عنوان مثال یک محقق دانشگاه میشیگان مشغول انجام تحقیقی از جلسات عمومی بود و در هر ۱۰ رونویسی کلیپ صوتی که او بررسی کرده بود ۸ مورد حاوی توهمات ویسپر بودند. پس از آن وی تلاش خود برای ارتقای این مدل هوش مصنوعی را آغاز کرد.
یک مهندس یادگیری ماشینی نیز می گوید او بیش از ۱۰۰ ساعت نمونه رونویسی که ویسپر انجام داده بود را تحلیل و در حدود نیمی از آنها توهمات این هوش مصنوعی را مشاهده کرده است. محقق سومی نیز مدعی شده هنگام بررسی ۲۶ هزار متنی که با کمک ویسپر ابداع شده، تقریبا در هر یک از رونویسی ها توهمات این ابزار را مشاهده کرده است.
این چالش حتی در رونویسی از نمونه های کوتاه و با کیفیت صوتی نیز وجود دارد.
منبع : خبرگزاری مهر
کلمات کلیدی : میرنیوز حاکمیت سایبری هوش مصنوعی چت جی پی تی
اشتراک گذاری :
آخرین اخبار علمی
این مُسکن‌ها خطر خونریزی داخلی را افزایش می‌دهند
مهاجرت ۲۵ درصد اساتید؛ تلاش برای رفع مشکلات اقتصادی
وزارت بهداشت طب سنتی و مکمل را به رسمیت می‌شناسد
باید هزینه سلامت را با سبک زندگی سالم پایین بیاوریم
حسگر محققان ایرانی محیط آبزیان را ایمن نگه می‌دارد
عامل مهم ابتلا به تب دنگی در جهان
هزینه درمان ۸۰۰ هزار مصدوم ترافیکی روی دست نظام سلامت!
مهاجرت ۲۵ درصد اساتید/ تلاش برای رفع مشکلات اقتصادی اساتید
مهاجرت ۲۵درصد اساتید/ تلاش برای رفع مشکلات اقتصادی اساتید
اظهارات وزیر علوم درباره انتصابات و آمار دانشجویان اخراجی و تعلیقی
سه فاکتور خطر سکته مغزی/ آسان‌ترین راهکار کاهش استرس و اضطراب
قدیانی: دانشجویان بسیجی باید پرچمدار مراکز تحقیقاتی باشند
دانشجویان بسیجی باید پرچمدار مراکز تحقیقاتی باشند
نحوه ارائه خدمات پیامک انبوه برای کاهش شکایت کاربران بررسی شد
همکاری دانشگاههای شهیدبهشتی و شریف در حوزه هوش مصنوعی و رباتیک
مشکلات رزیدنت‌ها بررسی و رفع خواهد شد
شرایط پذیرش دانشجویان استعداد درخشان در دانشگاه شریف اعلام شد
ثبت‌نام دانشجویان استعداد درخشان در دانشگاه علم و صنعت تمدید شد
نوجوانان استرالیایی در آستانه محدودیت استفاده از شبکه‌های اجتماعی
ظفرقندی: موافق درمان رایگان سالمندان نیستم
افزایش ۲۰ درصدی مسمومیت با مونوکسید کربن در سال جاری
هر ایرانی صاحب شناسنامه سبک زندگی می‌شود
رشد تعداد مشترکین و ضریب نفوذ خدمات ارتباطی
آغاز ثبت نام وام شهریه دانشجویان از امروز
افزایش ۲۰ درصدی مسمومیت با مونوکسید کربن در سال جاری/ کاهش ۱۴ درصدی فوتی‌ها
برخی داروهای دیابت می توانند آسم را مهار کنند
ایران می‌تواند الگوی ادغام طب سنتی و مکمل در منطقه باشد
گسترش همکاری علمی بین دانشگاه علوم پزشکی شهیدبهشتی و شریف
حمایت بنیاد ملی علم از طرح‌های پژوهشی و رساله‌های مرتبط با فلسطین
ابلاغ هرگونه آیین‌نامه و بخشنامه منوط به تأیید حقوقی وزارت علوم شد
