چالش‌ها و الزامات توسعه «هوش مصنوعی مولد» بررسی شد

به گزارش خبرنگار مهر، هوش مصنوعی مولد نوعی فناوری هوش مصنوعی است که می‌تواند انواع مختلفی از جمله متن، تصویر، صدا و داده‌های مصنوعی را تولید کند. فناوری‌های هوش مصنوعی در سال‌های اخیر با انتشار انواع چت‌بات‌ها توجه زیادی را به خود جلب کرده‌اند.

سادگی رابط‌های کاربری جدید برای ایجاد متن، گرافیک و ساخت ویدئوهای با کیفیت بالا در عرض چند ثانیه و همچنین توانایی خلق محتواهایی که پیش از این وجود نداشته است، سبب ایجاد هیاهویی در مورد هوش مصنوعی مولد شده است.

مرکز پژوهش‌های مجلس شورای اسلامی در گزارشی به بررسی چالش‌ها و الزامات توسعه و پیاده‌سازی هوش مصنوعی مولد پرداخته است.

در این گزارش عنوان شده است که با وجود توسعه سریع انواع شاخه‌های هوش مصنوعی، نگرانی‌ها و ملاحظاتی درباره به‌کارگیری هوش مصنوعی به معنای عام آن، پیرامون حریم خصوصی داده‌ها، امنیت، انطباق‌ها، عدم شفافیت در نحوه رسیدن به یک پاسخ و سوق دادن افراد به سمت تصمیم‌گیری، سوگیری‌ها، نیروی کار، نقض حقوق مالکیت، تاثیر بر مشاغل خلاق و ... وجود دارد. این نگرانی‌ها در حوزه هوش مصنوعی مولد که ویژگی منحصر به فرد آن تقلید رفتار و تفکر امسانی و خودمختاری است، بسیار جدی‌تر است. به همین دلیل سیاست‌گذارات تلاش دارند به سمت تنظیم چارچوب‌ها و اصولی بروند که با در نظر گرفتن ویژگی‌های مخاطره‌آمیز هوش مصنوعی زمینه توسعه هدفمند و پایدار هوش مصنوعی را فراهم کنند.

در این گزارش چالش‌های پیش روی توسعه هوش مصنوعی مولد مورد بررسی قرار گرفته است. بر اساس این گزارش؛ چالش‌های هوش مصنوعی مولد را می‌توان از سه منظر چالش‌های فنی عملیاتی، چالش‌های استفاده و پیامدسازی فناوری‌های هوش مصنوعی مولد در کسب‌وکارها و چالش‌های عمومی و اجتماعی مخاطرات هوش مصنوعی مولد بررسی کرد.

چالش‌های فنی و عملیاتی هوش مصنوعی مولد

چالش‌های فنی و عملیاتی شامل لزوم دسترسی به داده زیاد، با کیفیت و متنوع (با چالش‌هایی مانند پرهزینه بودن، زمان‌بر و دشوار بودن، کمیاب یا حساس بودن، در چارچوب قوانین مالکیت یا حریم خصوصی بودن)، کیفیت و کمیت داده (با چالش‌هایی مانند دسترسی به منابع داده قابل‌اعتماد و معتبر، پیاده‌سازی تکنیک‌های پاک‌سازی و تقویت داده‌ها، ایجاد استانداردهای اخلاقی و قانونی برای حفاظت از داده‌ها)، تأمین امنیت و حفاظت از داده‌های داخلی به‌کمک توسعه الگوها و کدها (با چالش‌هایی مانند لزوم پایه‌گذاری یک مدل زبانی بزرگ بر روی مجموعه‌ای از حقایق خارجی و قابل‌تأیید، حفظ حریم خصوصی، امنیت و انطباق داده‌ها و رعایت قوانین و مقررات حفاظت از داده‌ها)، بررسی عملکرد و ارزیابی مدل (با چالش‌هایی مانند امکان بهینه کردن مقیاس‌پذیری و کارایی و توسعه معیارهایی برای دریافت بازخورد کاربر نسبت به خروجی‌ها)، کاهش سوگیری داده‌های آموزشی و قابلیت توضیح و اعتماد مدل (با چالش‌هایی مانند شفافیت و پاسخ‌گو کردن مدل، توسعه روش‌های اجتناب از سوگیری، اصلاح و خودکنترلی مدل)، تأمین زیرساخت‌های سخت‌افزاری و نرم‌افزاری محاسباتی (با چالش‌هایی مانند توسعه زیرساخت‌های ارتباطات، ابرسامانه‌های پردازشی و ذخیره‌سازی داده‌های بزرگ در کنار بحث آموزش و محاسبات استنتاج) و تأمین انرژی مورد نیاز برای محاسبات و چالش رد پای کربن (با چالش‌هایی مانند مصرف زیاد انرژی و انتشار کربن به‌علت حجم بالای پردازش) می‌شود.

چالش‌های هوش مصنوعی مولد در کسب و کارها

چالش‌های استفاده و پیاده‌سازی فناوری‌های هوش مصنوعی مولد در کسب‌وکارها نیز شامل پیچیدگی فنی راه‌اندازی و استفاده (با چالش‌هایی مانند عدم ظرفیت تجهیزاتی سازمان‌ها برای راه‌اندازی این مدل‌های بزرگ، گران بودن منابع محاسباتی و پردازشی، عدم تمایل کسب‌وکار به راه‌اندازی و استفاده دائم)، مقاومت سیستم‌های قدیمی در برابر فناوری‌های جدید (با چالش‌هایی مانند ابهام، تضاد یا تعارض سازمان نسبت به نحوه مدیریت و کارکرد سیستم‌های فعلی و وظیفه‌های رایج خود در مقابل روش نوین، مقاومت بدنه برای پذیرش، افزایش هزینه سازمان به‌دلیل لزوم آموزش نیروها در به‌کارگیری این فناوری و نیز هدایت بخشی از نیروها جهت راه‌اندازی مرکزی برای اجرا، هماهنگی و نظارت) و ابهام در مدل‌های اقتصادی و امکان ایجاد بدهی فنی (با چالش‌هایی مانند توجیه سرمایه‌گذاری در انواع مدل‌های هوش مصنوعی و کاهش هزینه‌ها در بخش‌های دیگر که جبران‌کننده هزینه‌کرد در این زمینه باشد).

از جمله دیگر موارد اشاره شده در این گزارش در حوزه چالش‌های استفاده و پیاده‌سازی فناوری‌های هوش مصنوعی مولد در کسب و کارها می‌توان این موارد را برشمرد: تغییر شکل بخشی از نیروی کار کسب‌وکارها (نگرانی‌های مربوط به از دست دادن شغل و لزوم ایجاد مشاغل جدید متناسب برای همان افراد در شرکت یا سازمان)، توهمات هوش مصنوعی (با نگرانی‌هایی مانند امکان افشای اطلاعات و اسرار درون‌سازمانی، ارائه اطلاعات نادرست به هوش مصنوعی و همچنین راه‌حل‌ها یا مشاوره‌های نادرست هوش مصنوعی مولد)، نگرانی شرکت‌ها از عواقب حقوقی سوگیری الگوریتمی هوش مصنوعی مولد (مسائل مربوط به رعایت حقوق مالکیت فکری، احتمال دسترسی و افشا کردن اطلاعات خصوصی یا محرمانه یا حساس و همچنین ارائه تصمیمات نادرست دارای بار حقوقی) و نحوه مدیریت کارکنان و جلوگیری از سوء‌استفاده آنها (کنترل و نظارت بر واگذاری وظایف یا تکالیف سازمانی به هوش مصنوعی مولد (این امر در حال حاضر در حوزه آموزش و پژوهش کاملاً مشهود است)، عواقب حقوقی یا اخلاقی ناشی از خودکارسازی تأییدیه‌ها یا بررسی‌های قانونی توسط سامانه هوشمند به‌جای انسان که ممکن است اخلاقیات، انطباق، استقلال و یا سایر برنامه‌ها را تحت‌تأثیر قرار دهد.

چالش‌های عمومی و اجتماعی هوش مصنوعی مولد

این گزارش در ادامه به چالش‌های عمومی و اجتماعی هوش مصنوعی مولد پرداخته و به این موارد اشاره می‌کند: مخاطرات دقت و صحت (احتمال گمراه شدن کاربران به‌علت عدم تشخیص صحت و حقیقی بودن اطلاعات و منبع آن، عدم تعمیم پاسخ‌ها با توجه به ویژگی و عدم امکان تأیید اطلاعات، عدم شناخت محدودیت‌های هوش مصنوعی و بیش‌برآورد توانایی‌های آن)، مخاطرات سوگیری اجتماعی (رویکردهای جنسیتی، نژادپرستانه یا تبعیض‌های مرتبط با ناتوانی و معلولیت در جوامع آنلاین، نمایندگی یک تفکر یا گروه‌های خاص، واقعیت‌سازی، تقویت سوگیری‌های موجود)، نقض حریم خصوصی داده‌ها و مخاطرات امنیتی (نشت داده‌های حساس، سوء‌استفاده از داده‌های شخصی و اجتماعی، دسترسی به داده‌ها و حقوق آن)، مخاطرات مالکیت فکری (چالش با هنجارها و مقررات مالکیت فکری سنتی از منظر اصالت و مالکیت، مجوزها، حقوق بهره‌برداری و نقض حقوق مالکیت فکری افراد)، مخاطرات سرقت ادبی، تقلب علمی و تشخیص آن (افزایش زمینه‌های سرقت، تقلب علمی و ادبی و تشخیص دشوار و چالش‌برانگیز آن)، مخاطرات اخلاقی (گسترش جعل عمیق و حملات سایبری، دست‌کاری افکار عمومی و ایجاد آزار یا بدنامی، ادعاهای حقوقی تقلبی مانند درخواست بیمه خسارت، کلاهبرداری، فیشینگ و هک سیستم‌ها، فرسایش خلاقیت انسان، احتمال افزایش بیکاری، نگرانی‌های زیست‌محیطی) و ابهام و پیچیدگی انطباق با مفاهیم و چارچوب‌های موجود (دشواری در تعریف و ارزیابی آسیب و خسارت، تعیین سطح آسیب، گروه‌های آسیب‌دیده و مسئول خسارت.

پیش‌نیازهای اصلی توسعه هوش مصنوعی مولد

مرکز پژوهش‌های مجلس در این گزارش راهکارهایی را برای غلبه بر این چالش‌ها پیشنهاد کرده است. این پیشنهات در دو لایه «زیرساختی و فنی» و «تنظیم‌گری» مطرح شده است.

بر اساس این گزارش؛ در لایه زیرساختی و فنی، راه‌حل‌هایی برای رفع چالش‌هایی نظیر تأمین داده‌های با کیفیت، حفاظت از داده‌ها، بهبود دقت و سرعت پردازش و ارزیابی عملکرد مدل‌ها قابل پیاده‌سازی است و برای رفع آن‌ها می‌توان اقداماتی از جمله استفاده از داده‌های مصنوعی، یادگیری انتقالی، کاهش سوگیری، محاسبات ابری، محاسبات توزیع‌شده، فشرده‌سازی مدل و کاهش تاخیر و کاهش اندازه انجام داد.

بر اساس این گزارش؛ در لایه تنظیم‌گری می‌توان با تکمیل یا ایجاد زیرساخت‌های قانونی مرتبط با داده از جمله تکمیل و بهبود قانون مدیریت داده‌ها و اطالعات ملی مصوب سال، ۱۴۰۱ ایجاد ضوابط مرتبط با پردازش داده‌های شخصی افراد و استفاده اشخاص یا سامانه‌های هوش مصنوعی مولد از این داده‌ها در قالب تدوین طرح/ لایحه حفاظت و حمایت از داده‌های شخصی و حریم خصوصی، به‌روزرسانی و انطباق قوانین موجود با مصادیق و موضوعات هوش مصنوعی مولد ازجمله قانون جرائم رایانه‌ای مصوب سال ۱۳۸۸ قانون تجارت الکترونیک مصوب سال ۱۳۸۲ و احکام مرتبط در قوانین مجازات اسلامی و حقوق مدنی– قوانین مرتبط با حمایت از مالکیت فکری با موضوعات هوش مصنوعی مولد ازجمله قانون حمایت از مالکیت صنعتی- مصوب صحن مجلس در -۱۴۰۰/۹/۲۱ قانون حمایت از حقوق پدیدآورندگان نرمافزارهای رایانهای مصوب سال -۱۳۷۹ قانون حمایت حقوق مؤلفان و مصنفان و هنرمندان مصوب سال، ۱۳۴۸ ایجاد زیرساختهای قانونی ویژه هوش مصنوعی مولد در کنترل و سطح مسئولیت و خودمختاری، می‌توان دسترسی به داده و سامان‌دهی و شفافیت مدیریت داده و اطلاعات را تسهیل کرد.

همچنین در لایه تنظیم‌گری اقدامات دیگری مانند شناسایی و توسعه اصول، دستورالعمل‌ها، توصیه‌نامه و مقررات، بهبود سرمایه انسانی و ظرفیت نوآوری در کسب و کارها و همچنین افزایش سواد دیجیتالی برای استفاده ایمن از هوش مصنوعی مولد با تاکید بر حفاظت از اقشار حساس مانند کودکان و نوجوانان و افراد کم‌سواد و مسن در پیش گرفت.

منبع : خبرگزاری مهر

آخرین اخبار علمی

آخرین وضعیت تدوین اساسنامه سازمان هوش مصنوعی

2024-10-28T17:47:19+03:30

سخنگوی دولت گفت: اساسنامه سازمان ملی هوش مصنوعی در حال تدوین است و در شورای عالی انقلاب فرهنگی به تصویب می‌رسد.

آخرین وضعیت تدوین اساسنامه سازمان هوش مصنوعی/ رئیس سازمان براساس اساسنامه تعیین می‌شود

2024-10-28T17:33:59+03:30

سخنگوی دولت گفت: اساسنامه سازمان ملی هوش مصنوعی در حال تدوین است و در شورای عالی انقلاب فرهنگی به تصویب می‌رسد.

ماموریت عارف به افشین برای برون رفت از عقب ماندگی در علم و فناوری

2024-10-28T17:20:55+03:30

معاون اول رئیس جمهور به معاون علمی رییس جمهور ماموریت داد که در یک پروژه ۳ ماهه راهبردها برای برون رفت از برخی عقب ماندگی ها را اعلام کند.

شرایط بیهوشی در ایران نگران کننده است

2024-10-28T16:40:40+03:30

رئیس انجمن آنستزیولوژی و مراقبت‌های ویژه، ضمن تشریح چالش های رشته بیهوشی، از گرایش به انجام عمل‌های زیبایی در کشور که تبعات زیادی برای نظام سلامت در پی داشته...

خبر خوش ظفرقندی برای پرستاران

2024-10-28T16:40:40+03:30

وزیر بهداشت با بیان اینکه در مورد اصلاح فرمول و میزان اضافه کاری پرستاران جلسات فراوانی با سازمان های اداری و استخدامی و برنامه و بودجه برگزار کردیم، گفت: در...

دعوت از دانشجویان برای حل مسائل دانشگاه و صنعت

2024-10-28T16:14:01+03:30

معاون فرهنگی دانشگاه تهران ضمن دعوت از دانشجویان برای حل مسائل دانشگاه و صنعت گفت: دانشگاه زمینه فعالیت در این بخش را با حمایت از تشکل‌ها فراهم می‌کند.

ورود ۴ هزار و ۵۰۰ نودانشجو به دانشگاه تهران/ پیشتازی جمعیت دختران دانشجو

2024-10-28T16:14:01+03:30

سرپرست دانشگاه تهران با  بیان اینکه امسال جمع بزرگی از نو دانشجویان را در دانشگاه تهران پذیرا هستیم گفت: ۴ هزار و ۵۰۰ دانشجو در مقطع کارشناسی وارد دانشگاه شدند.

زمان ثبت نام وام شهریه دانشجویی دانشگاه علمی کاربردی اعلام شد

2024-10-28T16:00:40+03:30

سرپرست معاونت فرهنگی و دانشجویی دانشگاه جامع علمی کاربردی اعلام کرد: ثبت نام وام شهریه دانشجویی دانشجویان دانشگاه جامع علمی کاربردی از اول آذرماه ۱۴۰۳ آغاز م...

رقابت ۱۶۱۴ استعدادبرتر در المپیک فناوری ۱۴۰۳ در مرحله فینال/ ۲۰۰ هکتار به منطقه نوآوری اضافه شد

2024-10-28T15:34:01+03:30

دبیر رویداد المپیک فناوری ۱۴۰۳ گفت: در این دوره از رقابت ها ۶۳۲۰ نفر ثبت نام کردند که در نهایت ۱۶۱۴ نفر به مرحله فینال راه یافتند.

شمارش معکوس برای پرتاب دو ماهواره «هدهد» و «کوثر»

2024-10-28T15:34:01+03:30

دو ماهواره «هدهد» و «کوثر» که با حمایت معاونت علمی، فناوری و اقتصاد دانش بنیان ریاست جمهوری طراحی و ساخته شده اند به زودی با هدف توسعه ارتباطات فضایی و اینتر...

امیدوارم واژه هوش مصنوعی از فانتزی خارج و عملی شود

2024-10-28T15:07:20+03:30

رئیس سازمان فناوری اطلاعات ایران گفت: امیدوارم واژه هوش مصنوعی از واژه فانتزی خارج و تبدیل به واژه عملیاتی در فضای کشور شود

مأموریت ویژه به یک دانشگاه برای هوش مصنوعی / ایجاد طرح سرآمدان فناوری

2024-10-28T15:07:19+03:30

معاون فناوری و نوآوری وزارت علوم ایجاد طرح سرآمدان برای حوزه فناوری را مطرح کرد.

دفترچه تماس گوگل مدرن می شود

2024-10-28T14:40:40+03:30

برنامه دفترچه تلفن گوگل اکنون صاحب یک نوار اسکرول جدید می شود. نوار اسکرول پیشین با محتوای مدرنی که در اپ مذکور وجود داشت، همخوانی نداشت. اکنون تغییری در این...

دانشگاه های برتر در امر اقامه نماز معرفی و تقدیر شدند

2024-10-28T14:40:39+03:30

مرکز اقامه نماز نهاد نمایندگی رهبری در دانشگاه ها از دانشگاه‌های علوم پزشکی تبریز، مازندران، بابل، جهرم و فسا به عنوان دانشگاه های برتر در امر اقامه نماز طی ...

چرایی حفظ سنت‌های اصیل حوزوی

2024-10-28T14:40:39+03:30

معاون پژوهشگاه فرهنگ و اندیشه اسلامی به تبیین چرایی حفظ سنت‌های اصیل حوزوی پرداخت.

شهید حیدری، چمران جامعه پزشکی بود

2024-10-28T14:27:24+03:30

رئیس سازمان نظام پزشکی تهران گفت: شهید حیدری، چمران جامعه پزشکی بود.

مهلت ثبت‌نام آزمون کارشناسان رسمی دادگستری مجدد تمدید شد

2024-10-28T14:14:00+03:30

مهلت ثبت‌نام آزمون کارشناسان رسمی دادگستری شورای عالی کارشناسان رسمی دادگستری سال ۱۴۰۳ مجدد تمدید شد.

شهریه دانشگاه آزاد برای دانشجویان علوم پزشکی کاهش یافت

2024-10-28T13:47:20+03:30

دانشگاه آزاد اسلامی از کاهش ۵۰ درصدی شهریه برای پذیرفته‌شدگان سال ۱۴۰۳ خبر داد. این تخفیف مشروط به سپردن تعهد خدمت محضری به مدت ۳ سال است.

ثبت نام پذیرفته‌شدگان ارشد پیام نور تا ۱۲ آبان ادامه دارد

2024-10-28T12:54:00+03:30

پذیرفته‌شدگان کارشناسی ارشد استعداد درخشان دانشگاه پیام نور تا ۱۲ آبان ۱۴۰۳ برای ثبت نام فرصت دارند.

تعیین تکلیف مطالبات پرستاران در نشست سه شنبه مجلس

2024-10-28T12:27:24+03:30

قرار است وزیر بهداشت و رئیس سازمان برنامه و بودجه برای تعیین تکلیف مطالبات پرستاری، روز سه شنبه در نشست کمیسیون بهداشت و درمان مجلس حاضر شوند.

کشف عسلی که برای دیابت و سلامت دندان خوب است!

2024-10-28T12:27:23+03:30

براساس تحقیقی جدید عسلی که زنبوهای عسل بدون نیش تولید می کنند حاوی مقدار زیادی از یک قند خاص است که برای دیابت نوع ۲ و جلوگیری از پوسیدگی دندان مفید است.

کاهش مصرف آب در ساختمان‌سازی با ملات‌های خمیری آماده

2024-10-28T12:27:22+03:30

یک شرکت دانش بنیان با تولید محصول دانش‌بنیان ملات‌های خمیری آماده مصرف که سبب کاهش مصرف آب و کاهش آلودگی شهرها، کاهش مصرف انرژی و ... در صنعت ساختمان سازی می...

کمبود شیرخشک به دلیل تقاضا برای برندهای خاص است

2024-10-28T12:14:02+03:30

مدیرکل فرآورده‌های طبیعی، سنتی و مکمل سازمان غذا و دارو، گفت: کمبود شیرخشک در کشور وجود ندارد و مشکل تنها ناشی از تقاضای بالا برای برخی برندهای خاص است.

تعیین تکلیف مطالبات پرستاران در نشست سه شنبه

2024-10-28T12:14:02+03:30

قرار است وزیر بهداشت و رئیس سازمان برنامه و بودجه برای تعیین تکلیف مطالبات پرستاری، روز سه شنبه در نشست کمیسیون بهداشت و درمان مجلس حاضر شوند.

آموزش ۸ هزار طلبه در حوزه «فن پژوهش»

2024-10-28T12:14:02+03:30

معاون پژوهش مرکز مدیریت حوزه‌های علمیه کشور گفت: در دو سال اخیر ۸ هزار طلبه در کارگاه‌های تخصصی فن پژوهش شرکت کردند.

۸ عضو هیئت علمی دانشگاه آزاد اسلامی به مرتبه استادی ارتقا یافتند

2024-10-28T12:14:01+03:30

در جلسات هیئت ممیزه دانشگاه آزاد اسلامی با ارتقا مرتبه علمی ۸ عضو هیئت علمی به استادی موافقت شد.

تغییر رویه دانشگاه تهران درباره تشکل‌های دانشجویی/ ارتباط با دانشجو از طریق فضای مجازی

2024-10-28T11:34:02+03:30

معاون دانشجویی دانشگاه تهران گفت:عملکرد سلیقه‌ای باعث شده بسیاری از جوان‌هایی که مثل مافکر نمی‌کنند از تشکل‌ها حذف و نادیده گرفته شوند. باید شرایط حضور همه د...

جوبایدن ماسک را یک مهاجر غیرقانونی نامید

2024-10-28T11:07:19+03:30

جوبایدن رییس جمهور آمریکا ایلان ماسک را به ریاکاری درباره موضوع مهاجرت متهم کرده است.

کتاب «ارتباطات سلامت» منتشر شد

2024-10-28T10:54:02+03:30

ارتقای «سواد سلامت» مردم، یکی از مسئولیت ها و ماموریت های سازمان های سیاستگذار و روابط عمومی های حوزه سلامت است.

"پنی سیلین" خطر پارکینسون را کاهش می‌دهد

2024-10-28T10:54:01+03:30

یک مطالعه جدید نشان می دهد که برخی از میکروب های روده ممکن است با خطر ابتلا به بیماری پارکینسون در افراد مرتبط باشد.