میرنیوز

محققان ام آی تی هوش مصنوعی گوگل را فریب دادند

2020-02-09T14:01:01+03:30

به گزارش خبرگزاری مهر به نقل از نکست وب، پژوهشگران این دانشگاه یک سیستم متنی موسوم به تکست فولر ابداع کرده‌اند که می‌تواند مدل‌های هوش مصنوعی که از سیستم پردازش زبان‌های طبیعی استفاده می‌کنند را گول بزند.

بسیاری از دستیارهای صوتی مانند الکسای آمازون و سیری اپل از سیستم پردازش زبان‌های طبیعی برای درک دستورات کاربران استفاده می‌کنند و لذا فریب آنها می‌تواند امنیت چنین سیستم‌هایی را به خطر بیاندازد. همچنین فریب سیستم مذکور موجب سوءاستفاده از آنها برای ارسال هرزنامه یا متون غیرمؤدبانه می‌شود.

تکست فولر یک سیستم فریبنده است که با درک نقص‌ها و ضعف‌های سیستم پردازش زبان‌های طبیعی آنها را فریب می‌دهد.

این سیستم جملاتی را با دستکاری چند کلمه آنها به خورد سیستم پردازش زبان‌های طبیعی می‌دهد، بدون اینکه دستکاری یادشده موجب تغییر معنا یا ایجاد غلط‌های دستور زبانی شود.

بعد از این کار و بررسی واکنش سیستم پردازش زبان‌های طبیعی به این تغییر، به تدریج تغییرات جدی تر و عمیق‌تری در جملات ایجاد می‌شود تا در نهایت از حساسیت و دقت این سیستم کاسته شود و بتوان آن را فریب داد.

محققان دانشگاه ام آی تی می‌گویند با همین روش سه مدل متداول در سیستم پردازش زبان‌های طبیعی را دستکاری کرده و فریب داده‌اند.

یکی از این مدل‌ها که برت نام دارد، یک مدل زبانی متن باز ابداع شده توسط گوگل است که تنها تغییر ۱۰ درصد از بخش‌های هر جمله توسط تکست فولر به فریب آن منجر شد. بر همین اساس انتظار می‌رود شرکت‌های فناوری برای ارتقای سیستم پردازش زبان‌های طبیعی اقدام کنند تا از دستکاری آن جلوگیری کنند.

منبع : خبرگزاری مهر

کلمات کلیدی : میرنیوز هوش مصنوعی گوگل دانشگاه ام آی تی
اشتراک گذاری :

آخرین اخبار علمی

نیروهای پلیس راهور سفیر اهدای عضو شدند

2024-11-26T16:40:44+03:30

جلسه توجیهی ویژه کارکنان نیروهای پلیس راهور تهران بزرگ با حضور بیش از ۱۰۰ نفر در سالن الغدیر پلیس راهور برگزار شد.

حضور ۱۸ شرکت‌ دانش‌بنیان در نمایشگاه صنعت بازی رایانه‌ای روسیه

2024-11-26T16:14:03+03:30

هیئت تجاری متشکل از شرکت‌های دانش‌بنیان کشورمان با حمایت صندوق نوآوری و شکوفایی در نمایشگاه صنعت بازی رایانه‌ای مسکو حاضر شدند.

پیش بینی اکونومیست از سال ۲۰۲۵؛ شکوفایی فناوری‌های پاک به رهبری چین

2024-11-26T15:47:23+03:30

یک نشریه اقتصادی در گزارشی پیش بینی کرده در سال آتی میلادی چین سردمدار تولید فناوری های حافظ محیط زیست خواهد بود و آینده هوش مصنوعی با وجود سرمایه گذاری کلان...

«صندوق بیمه ویژه» برای اجرای مطمئن‌تر پروژه‌های صنعتی راه اندازی شد

2024-11-26T15:47:22+03:30

معاون علمی، فناوری و اقتصاد دانش بنیان رئیس جمهور گفت: یک صندوق بیمه تشکیل شده و تقریبا ۱۲ بیمه کشور در آن حاضر هستند تا ریسک پروژه های صنعتی مخصوصا در حوزه ...

فیلترینگ در چه شرایطی موجه و مطلوب است/ پالایش هوشمند در اینستاگرام

2024-11-26T15:34:03+03:30

نشست فیلترینگ فضای مجازی در ایران با محوریت ابعاد حقوقی آن ظهر امروز در دانشگاه علامه طباطبایی برگزار شد.

پوشش ضد رادار چین هواپیماها و تجهیزات نظامی را نامرئی می‌کند

2024-11-26T14:54:05+03:30

ارتش چین مدعی شده یک پوشش ضد رادار جدید ابداع کرده که می تواند هدف های مورد نظر را از رادارهای ضد پنهان کاری( شناساگر) مخفی کند.

۶۴۵ میلیارد تومان وام ودیعه مسکن به دانشجویان پرداخت شد

2024-11-26T14:40:43+03:30

رئیس صندوق رفاه دانشجویان گفت: ۶۴۵ میلیارد تومان، وام ودیعه مسکن توسط صندوق رفاه دانشجویان پرداخت شده است.

پوشش ضد رادار چین هواپیماها و تجیهزات نظامی را نامرئی می‌کند

2024-11-26T14:27:34+03:30

مراکز علمی کاربردی ملزم به ارائه قیمت تمام شده آموزش شدند

2024-11-26T14:27:33+03:30

معاون اداری، مالی و مدیریت منابع دانشگاه جامع علمی کاربردی گفت: قیمت تمام شده آموزش توسط مراکز آموزش علمی کاربردی ارائه شود.

مهلت شرکت در تکمیل ظرفیت آزمون دستیاری دندانپزشکی تا ۱۰ آذر تمدید شد

2024-11-26T14:27:33+03:30

فرصت شرکت در مرحله تکمیل ظرفیت سی و هشتمین دوره آزمون پذیرش دستیار در رشته های تخصصی دندانپزشکی سال تحصیلی ۱۴۰۴-۱۴۰۳ با توجه به ایجاد ظرفیت های جدید تا ۱۰ آذ...

پرهیز از تبعیض میان تشکل‌های دانشجویی در آستانه ۱۶ آذر

2024-11-26T14:27:28+03:30

معاون وزیر علوم با اشاره به ۱۶ آذر گفت: ضروری است معاونان دانشجویی با هماهنگی روسای دانشگاه‌ها اقداماتی را برای پاسخ‌گویی به سوالات دانشجویان داشته باشند.

مهلت اجرای تکمیل ظرفیت آزمون دستیاری دندانپزشکی تا ۱۰ آذر تمدید شد

2024-11-26T14:14:04+03:30

دوره آموزشی «کاربردهای هوش مصنوعی در علوم پزشکی» ویژه دانشجویان آغاز به کار کرد

2024-11-26T13:47:22+03:30

درس «کاربردهای هوش مصنوعی درعلوم پزشکی» برای دانشجویان دانشگاه های علوم پزشکی کشور توسط دانشگاه علوم پزشکی هوشمند ارائه شده و این دوره از امروز ۶ آذر آغاز شد...

حضور بیش از ۲۰ هزار نفر از ۷۰ کشور جهان در مسابقات «برنامه‌سازی رایان»

2024-11-26T13:34:05+03:30

مسابقه‌ بین‌المللی برنامه‌سازی رایان با حمایت معاونت علمی و ستاد اقتصاد دانش‌بنیان دیجیتال به میزبانی دانشگاه شریف برگزار می‌شود.پیش بینی می شود از ۷۰ کشور...

دلایل پایین بودن نرخ اتصال فیبرنوری در ایران

2024-11-26T13:34:04+03:30

وزیر ارتباطات با تأکید بر اهمیت کیفیت خدمات دیجیتال از ضعف جدی در اجرای پروژه فیبرنوری و فاصله ۲۵درصدی با استانداردهای جهانی خبر داد و خواستار نقش‌آفرینی تسه...

افتخارآفرینی تیم دانشگاه تهران در المپیاد جهانی معماری منظر

2024-11-26T13:34:04+03:30

تیم دانشگاه تهران موفق شد در المپیاد جهانی معماری منظر در بخش «همکاری دانشجویی»، رتبه نخست را کسب کند.

برگزیدگان همایش کتاب سال بانوان معرفی شدند

2024-11-26T13:20:46+03:30

چهارمین همایش ملی کتاب سال بانوان با پیام آیت‌الله العظمی سبحانی و تقدیر از برگزیدگان به کار خود پایان داد.

هوش مصنوعی آهنگساز می شود

2024-11-26T12:40:42+03:30

انویدیا یک مدل هوش مصنوعی جدید برای تولید موسیقی و صوت رونمایی کرد که می تواند اصوات را اصلاح و صداهای جدید تولید کند.

دوره آموزشی «کاربردهای هوش مصنوعی درعلوم پزشکی» ویژه دانشجویان آغاز به کار کرد

2024-11-26T12:00:39+03:30

دولت چهاردهم اهتمامی به اجرای قانون جوانی جمعیت ندارد

2024-11-26T11:47:23+03:30

کارشناس حوزه جمعیت گفت: موضع گیری هایی که از سوی شخص رئیس جمهور تخاذ شده است، نشان می دهد اهتمام زیادی به اجرای قانون جوانی جمعیت ندارند.

استفاده از هوش مصنوعی در دندان پزشکی

2024-11-26T11:47:22+03:30

رئیس شانزدهمین کنگره دندان پزشکان عمومی ایران گفت: هوش مصنوعی مبحث تازه ای است که کاربردهای موثری را در درمان دندان پزشکی دارد و استفاده از این ظرفیت کار دند...

حضور سرزده پزشکیان در وزارت بهداشت

2024-11-26T11:47:22+03:30

رئیس جمهور، روز سه شنبه ششم آذر ۱۴۰۳ به طور سرزده راهی وزارت بهداشت شد.

اندونزی پیشنهاد سرمایه گذاری اپل در این کشور را رد کرد

2024-11-26T11:47:21+03:30

وزارت صنعت اندونزی پیشنهاد اپل برای سرمایه گذاری ۱۰۰ میلیون دلاری در کارخانه تولید تجهیزات و قطعات آیفون در این کشور را قبول نکرد.

امکان تغییر محل آزمون دانشجویان پیام‌نور فراهم شد

2024-11-26T11:47:20+03:30

بر اساس تقویم آموزشی دانشگاه پیام‌نور امکان تغییر محل آزمون برای دانشجویان این دانشگاه در سامانه گلستان فراهم شد.

برنامه وزارت علوم برای حل مسکن دانشگاهیان و خوابگاه متاهلی

2024-11-26T11:20:39+03:30

مشاور اقتصادی وزیر علوم تحقیقات و فناوری گفت: پیش‌بینی ما این است که در دوره چهارساله وزارت دکتر سیمایی حدود ۳۰ هزار خوابگاه متأهلی ایجاد کنیم.

پرهیز از تمایز میان تشکل‌های دانشجویی در آستانه ۱۶ آذر

2024-11-26T11:20:39+03:30

تقلید از سیستم بینایی انسان برای ارتقای عملکرد حسگرها

2024-11-26T10:54:06+03:30

محققان دستگاه اپتوالکترونیکی ساختند که از بینایی انسان برای محاسبات درون حسگری تقلید می‌کند؛ این سامانه مصرف انرژی کم و سرعت بالایی دارد.

امضای نخستین قرارداد الکترونیکی صندوق نوآوری با یک شرکت دانش‌بنیان

2024-11-26T10:54:05+03:30

صندوق نوآوری و شکوفایی با هدف سرعت بخشیدن به درخواست‌ها و کاهش میزان مراجعات حضوری، نخستین قرارداد الکترونیکی را با یک شرکت دانش‌بنیان منعقد کرد.

آخرین تغییرات در شورای عالی حوزه‌های علمیه

2024-11-26T10:40:40+03:30

اعضای جدید شورای عالی حوزه‌های علمیه با تأیید رهبر معظم انقلاب اسلامی و مراجع تقلید معرفی شدند.

زنجیره تولید و تامین دارو گرفتار کمبود نقدینگی است

2024-11-26T10:27:19+03:30

رئیس سازمان غذا و دارو، با اشاره به کمبود نقدینگی در زنجیره تولید و تامین دارو، گفت: چالش‌های بیرونی بر فعالیت‌های داخلی سازمان غذا و دارو سایه انداخته است.