میرنیوز
به گزارش خبرگزاری مهر به نقل از نکست وب، پژوهشگران این دانشگاه یک سیستم متنی موسوم به تکست فولر ابداع کردهاند که میتواند مدلهای هوش مصنوعی که از سیستم پردازش زبانهای طبیعی استفاده میکنند را گول بزند.
بسیاری از دستیارهای صوتی مانند الکسای آمازون و سیری اپل از سیستم پردازش زبانهای طبیعی برای درک دستورات کاربران استفاده میکنند و لذا فریب آنها میتواند امنیت چنین سیستمهایی را به خطر بیاندازد. همچنین فریب سیستم مذکور موجب سوءاستفاده از آنها برای ارسال هرزنامه یا متون غیرمؤدبانه میشود.
تکست فولر یک سیستم فریبنده است که با درک نقصها و ضعفهای سیستم پردازش زبانهای طبیعی آنها را فریب میدهد.
این سیستم جملاتی را با دستکاری چند کلمه آنها به خورد سیستم پردازش زبانهای طبیعی میدهد، بدون اینکه دستکاری یادشده موجب تغییر معنا یا ایجاد غلطهای دستور زبانی شود.
بعد از این کار و بررسی واکنش سیستم پردازش زبانهای طبیعی به این تغییر، به تدریج تغییرات جدی تر و عمیقتری در جملات ایجاد میشود تا در نهایت از حساسیت و دقت این سیستم کاسته شود و بتوان آن را فریب داد.
محققان دانشگاه ام آی تی میگویند با همین روش سه مدل متداول در سیستم پردازش زبانهای طبیعی را دستکاری کرده و فریب دادهاند.
یکی از این مدلها که برت نام دارد، یک مدل زبانی متن باز ابداع شده توسط گوگل است که تنها تغییر ۱۰ درصد از بخشهای هر جمله توسط تکست فولر به فریب آن منجر شد. بر همین اساس انتظار میرود شرکتهای فناوری برای ارتقای سیستم پردازش زبانهای طبیعی اقدام کنند تا از دستکاری آن جلوگیری کنند.
منبع : خبرگزاری مهر
اعضای شورای راهبری هوش مصنوعی معرفی شدند/ایجاد زیر ساخت هوش مصنوعی در دستور کار ۱۰ نهاد
آتشسوزی جنگلی موجب رشد حیات دریایی میشود!
استرس کاری ریسک بیماری قلبی را در مردان افزایش می دهد
۲.۵ میلیون ایرانی در اهدای خون مشارکت دارند
چین در شرق تهران بیمارستان هوشمند احداث می کند
راه اندازی ۶۰ هزار تخت بیمارستانی در کشور
وزارت بهداشت برای اولین بار سرایدار استخدام میکند
زمان اخذ رأی در انتخابات نظام پرستاری افزایش یافت
هوای آلوده و افزایش ریسک سرطان سینه/ درمان سوءهاضمه با زردچوبه
بیماری هزارچهره را جدی بگیریم/ عوارض بیماری سلیاک
اهمیت تولید محصولات غذایی فاقد گلوتن برای بیماران سلیاک
نشست چالشهای زنجیره تأمین دارو در ایران برگزار میشود
چگونه از ابتلا به سرماخوردگی جلوگیری کنیم
خرید اعتباری محصولات پتروشیمی به نفع صنعت دارو است
چه کسانی پرونده الکترونیک سلامت دارند
بررسی راهکارهای ورود ایران به بازار دارویی اوراسیا
جامعه پزشکی باید تخصص را همراه تعهد حرفهای داشته باشد
هفته دفاع مقدس فرصتی برای انتقال مفاهیم بهداری رزمی
نشست چالش های قیمت گذاری دارو برگزار میشود
دانش آموز بدون صبحانه مدرسه نرود/ میان وعدههای سالم
وزیر بهداشت زنگ دبیرستان شهید آوینی را نواخت
۱۰ هزار نیروی پرستاری در بخش درمان استخدام می شوند
بازدید سرزده عین اللهی از بیمارستان شفا یحیاییان
۲۲ بیمار کرونایی در یک هفته گذشته فوت شدند
داروی ایرانی از طریق صادرات به دنیا معرفی میشود
ایران دارای قویترین نظام سلامت در منطقه است
ادعای دخالت وزارت بهداشت در انتخابات نظام پرستاری رد شد
اورژانس تهران در هفته گذشته ۲۰ هزار مأموریت انجام داد
جهان امروز با کمبود آب و غذای سالم مواجه است
تایید موفقیت نخستین واکسن ایرانی کرونا