میرنیوز
به گزارش خبرگزاری مهر به نقل از نشریه هیل، تحقیق جدید دانشگاه کارنگی ملون روشهای جدیدی را برای دور زدن پروتکلهای ایمنی نشان میدهد. براساس این پژوهش جلوگیری از ایجاد محتوای مخرب چتباتهای هوش مصنوعی ممکن است دشوارتر از آنچه در تصورات اولیه است، باشد. سرویسهای مشهور هوش مصنوعی مانند ChatGPT و Bard از محتوای ورودی کاربر برای تولید پاسخهای مفید از تولید متون و ایدهها گرفته تا کل نوشتهها، استفاده میکنند.
این سرویسها دارای پروتکلهای ایمنی هستند که از ایجاد محتوای مخرب مانند مطالب توهینآمیز یا مجرمانه توسط رباتها جلوگیری میکند.
در این میان برخی از محققان کنجکاو راه فرار یا«jailbreak» را کشف کردهاند که در حقیقت یک دستگاه کادربندی است که هوش مصنوعی را فریب میدهد تا از پروتکلهای ایمنی آن اجتناب کند. البته توسعهدهندگان نرم افراز به راحتی میتوانند این شکاف ها را ترمیم کنند. یک راه فرار مشهور در این زمینه، درخواست از ربات برای پاسخ دادن به یک سوال ممنوع بود. این سوال مانند داستانی است که از طرف مادر بزرگ کاربر، بیان می شود.
ربات نیز پاسخ را در قالب یک داستان ایجاد میکند و اطلاعاتی ارائه میدهد که در غیر این صورت قادر به ارایه آنها نبود.
اکنون محققان شکل جدیدی از راه فرار برای هوش مصنوعی را کشف کردند که توسط رایانه نوشته شده و اساساً امکان ایجاد بی نهایت الگوی فرار را فراهم می کند.
محققان در این باره می گویند:ما نشان میدهیم در واقع امکان ساخت خودکار حملات متخاصمانه روی چت بات ها وجود دارد. چنین حملاتی باعث میشود سیستم حتی در صورت تولید محتوای مخرب از دستورات کاربر اطاعت کند.
برخلاف راه فرارهای معمول این حوزه، محتوای مذکور کاملاً خودکار ساخته میشود و به فرد امکان میدهند تعداد تقریباً نامحدودی از این حملات را ایجاد کنند.
در بخشی ار تحقیق آمده است: این امر نگرانی هایی درباره ایمنی چنین مدلهایی بهوجود میآورد.
این نوع جدید حمله می تواند اقدامات امنیتی را تقریبا در تمام چت بات های هوش مصنوعی موجود در بازار دور بزند.
منبع : خبرگزاری مهر
اعضای شورای راهبری هوش مصنوعی معرفی شدند/ایجاد زیر ساخت هوش مصنوعی در دستور کار ۱۰ نهاد
آتشسوزی جنگلی موجب رشد حیات دریایی میشود!
استرس کاری ریسک بیماری قلبی را در مردان افزایش می دهد
۲.۵ میلیون ایرانی در اهدای خون مشارکت دارند
چین در شرق تهران بیمارستان هوشمند احداث می کند
راه اندازی ۶۰ هزار تخت بیمارستانی در کشور
وزارت بهداشت برای اولین بار سرایدار استخدام میکند
زمان اخذ رأی در انتخابات نظام پرستاری افزایش یافت
هوای آلوده و افزایش ریسک سرطان سینه/ درمان سوءهاضمه با زردچوبه
بیماری هزارچهره را جدی بگیریم/ عوارض بیماری سلیاک
اهمیت تولید محصولات غذایی فاقد گلوتن برای بیماران سلیاک
نشست چالشهای زنجیره تأمین دارو در ایران برگزار میشود
چگونه از ابتلا به سرماخوردگی جلوگیری کنیم
خرید اعتباری محصولات پتروشیمی به نفع صنعت دارو است
چه کسانی پرونده الکترونیک سلامت دارند
بررسی راهکارهای ورود ایران به بازار دارویی اوراسیا
جامعه پزشکی باید تخصص را همراه تعهد حرفهای داشته باشد
هفته دفاع مقدس فرصتی برای انتقال مفاهیم بهداری رزمی
نشست چالش های قیمت گذاری دارو برگزار میشود
دانش آموز بدون صبحانه مدرسه نرود/ میان وعدههای سالم
وزیر بهداشت زنگ دبیرستان شهید آوینی را نواخت
۱۰ هزار نیروی پرستاری در بخش درمان استخدام می شوند
بازدید سرزده عین اللهی از بیمارستان شفا یحیاییان
۲۲ بیمار کرونایی در یک هفته گذشته فوت شدند
داروی ایرانی از طریق صادرات به دنیا معرفی میشود
ایران دارای قویترین نظام سلامت در منطقه است
ادعای دخالت وزارت بهداشت در انتخابات نظام پرستاری رد شد
اورژانس تهران در هفته گذشته ۲۰ هزار مأموریت انجام داد
جهان امروز با کمبود آب و غذای سالم مواجه است
تایید موفقیت نخستین واکسن ایرانی کرونا