چالش‌ها و الزامات توسعه «هوش مصنوعی مولد» بررسی شد

به گزارش خبرنگار مهر، هوش مصنوعی مولد نوعی فناوری هوش مصنوعی است که می‌تواند انواع مختلفی از جمله متن، تصویر، صدا و داده‌های مصنوعی را تولید کند. فناوری‌های هوش مصنوعی در سال‌های اخیر با انتشار انواع چت‌بات‌ها توجه زیادی را به خود جلب کرده‌اند.

سادگی رابط‌های کاربری جدید برای ایجاد متن، گرافیک و ساخت ویدئوهای با کیفیت بالا در عرض چند ثانیه و همچنین توانایی خلق محتواهایی که پیش از این وجود نداشته است، سبب ایجاد هیاهویی در مورد هوش مصنوعی مولد شده است.

مرکز پژوهش‌های مجلس شورای اسلامی در گزارشی به بررسی چالش‌ها و الزامات توسعه و پیاده‌سازی هوش مصنوعی مولد پرداخته است.

در این گزارش عنوان شده است که با وجود توسعه سریع انواع شاخه‌های هوش مصنوعی، نگرانی‌ها و ملاحظاتی درباره به‌کارگیری هوش مصنوعی به معنای عام آن، پیرامون حریم خصوصی داده‌ها، امنیت، انطباق‌ها، عدم شفافیت در نحوه رسیدن به یک پاسخ و سوق دادن افراد به سمت تصمیم‌گیری، سوگیری‌ها، نیروی کار، نقض حقوق مالکیت، تاثیر بر مشاغل خلاق و ... وجود دارد. این نگرانی‌ها در حوزه هوش مصنوعی مولد که ویژگی منحصر به فرد آن تقلید رفتار و تفکر امسانی و خودمختاری است، بسیار جدی‌تر است. به همین دلیل سیاست‌گذارات تلاش دارند به سمت تنظیم چارچوب‌ها و اصولی بروند که با در نظر گرفتن ویژگی‌های مخاطره‌آمیز هوش مصنوعی زمینه توسعه هدفمند و پایدار هوش مصنوعی را فراهم کنند.

در این گزارش چالش‌های پیش روی توسعه هوش مصنوعی مولد مورد بررسی قرار گرفته است. بر اساس این گزارش؛ چالش‌های هوش مصنوعی مولد را می‌توان از سه منظر چالش‌های فنی عملیاتی، چالش‌های استفاده و پیامدسازی فناوری‌های هوش مصنوعی مولد در کسب‌وکارها و چالش‌های عمومی و اجتماعی مخاطرات هوش مصنوعی مولد بررسی کرد.

چالش‌های فنی و عملیاتی هوش مصنوعی مولد

چالش‌های فنی و عملیاتی شامل لزوم دسترسی به داده زیاد، با کیفیت و متنوع (با چالش‌هایی مانند پرهزینه بودن، زمان‌بر و دشوار بودن، کمیاب یا حساس بودن، در چارچوب قوانین مالکیت یا حریم خصوصی بودن)، کیفیت و کمیت داده (با چالش‌هایی مانند دسترسی به منابع داده قابل‌اعتماد و معتبر، پیاده‌سازی تکنیک‌های پاک‌سازی و تقویت داده‌ها، ایجاد استانداردهای اخلاقی و قانونی برای حفاظت از داده‌ها)، تأمین امنیت و حفاظت از داده‌های داخلی به‌کمک توسعه الگوها و کدها (با چالش‌هایی مانند لزوم پایه‌گذاری یک مدل زبانی بزرگ بر روی مجموعه‌ای از حقایق خارجی و قابل‌تأیید، حفظ حریم خصوصی، امنیت و انطباق داده‌ها و رعایت قوانین و مقررات حفاظت از داده‌ها)، بررسی عملکرد و ارزیابی مدل (با چالش‌هایی مانند امکان بهینه کردن مقیاس‌پذیری و کارایی و توسعه معیارهایی برای دریافت بازخورد کاربر نسبت به خروجی‌ها)، کاهش سوگیری داده‌های آموزشی و قابلیت توضیح و اعتماد مدل (با چالش‌هایی مانند شفافیت و پاسخ‌گو کردن مدل، توسعه روش‌های اجتناب از سوگیری، اصلاح و خودکنترلی مدل)، تأمین زیرساخت‌های سخت‌افزاری و نرم‌افزاری محاسباتی (با چالش‌هایی مانند توسعه زیرساخت‌های ارتباطات، ابرسامانه‌های پردازشی و ذخیره‌سازی داده‌های بزرگ در کنار بحث آموزش و محاسبات استنتاج) و تأمین انرژی مورد نیاز برای محاسبات و چالش رد پای کربن (با چالش‌هایی مانند مصرف زیاد انرژی و انتشار کربن به‌علت حجم بالای پردازش) می‌شود.

چالش‌های هوش مصنوعی مولد در کسب و کارها

چالش‌های استفاده و پیاده‌سازی فناوری‌های هوش مصنوعی مولد در کسب‌وکارها نیز شامل پیچیدگی فنی راه‌اندازی و استفاده (با چالش‌هایی مانند عدم ظرفیت تجهیزاتی سازمان‌ها برای راه‌اندازی این مدل‌های بزرگ، گران بودن منابع محاسباتی و پردازشی، عدم تمایل کسب‌وکار به راه‌اندازی و استفاده دائم)، مقاومت سیستم‌های قدیمی در برابر فناوری‌های جدید (با چالش‌هایی مانند ابهام، تضاد یا تعارض سازمان نسبت به نحوه مدیریت و کارکرد سیستم‌های فعلی و وظیفه‌های رایج خود در مقابل روش نوین، مقاومت بدنه برای پذیرش، افزایش هزینه سازمان به‌دلیل لزوم آموزش نیروها در به‌کارگیری این فناوری و نیز هدایت بخشی از نیروها جهت راه‌اندازی مرکزی برای اجرا، هماهنگی و نظارت) و ابهام در مدل‌های اقتصادی و امکان ایجاد بدهی فنی (با چالش‌هایی مانند توجیه سرمایه‌گذاری در انواع مدل‌های هوش مصنوعی و کاهش هزینه‌ها در بخش‌های دیگر که جبران‌کننده هزینه‌کرد در این زمینه باشد).

از جمله دیگر موارد اشاره شده در این گزارش در حوزه چالش‌های استفاده و پیاده‌سازی فناوری‌های هوش مصنوعی مولد در کسب و کارها می‌توان این موارد را برشمرد: تغییر شکل بخشی از نیروی کار کسب‌وکارها (نگرانی‌های مربوط به از دست دادن شغل و لزوم ایجاد مشاغل جدید متناسب برای همان افراد در شرکت یا سازمان)، توهمات هوش مصنوعی (با نگرانی‌هایی مانند امکان افشای اطلاعات و اسرار درون‌سازمانی، ارائه اطلاعات نادرست به هوش مصنوعی و همچنین راه‌حل‌ها یا مشاوره‌های نادرست هوش مصنوعی مولد)، نگرانی شرکت‌ها از عواقب حقوقی سوگیری الگوریتمی هوش مصنوعی مولد (مسائل مربوط به رعایت حقوق مالکیت فکری، احتمال دسترسی و افشا کردن اطلاعات خصوصی یا محرمانه یا حساس و همچنین ارائه تصمیمات نادرست دارای بار حقوقی) و نحوه مدیریت کارکنان و جلوگیری از سوء‌استفاده آنها (کنترل و نظارت بر واگذاری وظایف یا تکالیف سازمانی به هوش مصنوعی مولد (این امر در حال حاضر در حوزه آموزش و پژوهش کاملاً مشهود است)، عواقب حقوقی یا اخلاقی ناشی از خودکارسازی تأییدیه‌ها یا بررسی‌های قانونی توسط سامانه هوشمند به‌جای انسان که ممکن است اخلاقیات، انطباق، استقلال و یا سایر برنامه‌ها را تحت‌تأثیر قرار دهد.

چالش‌های عمومی و اجتماعی هوش مصنوعی مولد

این گزارش در ادامه به چالش‌های عمومی و اجتماعی هوش مصنوعی مولد پرداخته و به این موارد اشاره می‌کند: مخاطرات دقت و صحت (احتمال گمراه شدن کاربران به‌علت عدم تشخیص صحت و حقیقی بودن اطلاعات و منبع آن، عدم تعمیم پاسخ‌ها با توجه به ویژگی و عدم امکان تأیید اطلاعات، عدم شناخت محدودیت‌های هوش مصنوعی و بیش‌برآورد توانایی‌های آن)، مخاطرات سوگیری اجتماعی (رویکردهای جنسیتی، نژادپرستانه یا تبعیض‌های مرتبط با ناتوانی و معلولیت در جوامع آنلاین، نمایندگی یک تفکر یا گروه‌های خاص، واقعیت‌سازی، تقویت سوگیری‌های موجود)، نقض حریم خصوصی داده‌ها و مخاطرات امنیتی (نشت داده‌های حساس، سوء‌استفاده از داده‌های شخصی و اجتماعی، دسترسی به داده‌ها و حقوق آن)، مخاطرات مالکیت فکری (چالش با هنجارها و مقررات مالکیت فکری سنتی از منظر اصالت و مالکیت، مجوزها، حقوق بهره‌برداری و نقض حقوق مالکیت فکری افراد)، مخاطرات سرقت ادبی، تقلب علمی و تشخیص آن (افزایش زمینه‌های سرقت، تقلب علمی و ادبی و تشخیص دشوار و چالش‌برانگیز آن)، مخاطرات اخلاقی (گسترش جعل عمیق و حملات سایبری، دست‌کاری افکار عمومی و ایجاد آزار یا بدنامی، ادعاهای حقوقی تقلبی مانند درخواست بیمه خسارت، کلاهبرداری، فیشینگ و هک سیستم‌ها، فرسایش خلاقیت انسان، احتمال افزایش بیکاری، نگرانی‌های زیست‌محیطی) و ابهام و پیچیدگی انطباق با مفاهیم و چارچوب‌های موجود (دشواری در تعریف و ارزیابی آسیب و خسارت، تعیین سطح آسیب، گروه‌های آسیب‌دیده و مسئول خسارت.

پیش‌نیازهای اصلی توسعه هوش مصنوعی مولد

مرکز پژوهش‌های مجلس در این گزارش راهکارهایی را برای غلبه بر این چالش‌ها پیشنهاد کرده است. این پیشنهات در دو لایه «زیرساختی و فنی» و «تنظیم‌گری» مطرح شده است.

بر اساس این گزارش؛ در لایه زیرساختی و فنی، راه‌حل‌هایی برای رفع چالش‌هایی نظیر تأمین داده‌های با کیفیت، حفاظت از داده‌ها، بهبود دقت و سرعت پردازش و ارزیابی عملکرد مدل‌ها قابل پیاده‌سازی است و برای رفع آن‌ها می‌توان اقداماتی از جمله استفاده از داده‌های مصنوعی، یادگیری انتقالی، کاهش سوگیری، محاسبات ابری، محاسبات توزیع‌شده، فشرده‌سازی مدل و کاهش تاخیر و کاهش اندازه انجام داد.

بر اساس این گزارش؛ در لایه تنظیم‌گری می‌توان با تکمیل یا ایجاد زیرساخت‌های قانونی مرتبط با داده از جمله تکمیل و بهبود قانون مدیریت داده‌ها و اطالعات ملی مصوب سال، ۱۴۰۱ ایجاد ضوابط مرتبط با پردازش داده‌های شخصی افراد و استفاده اشخاص یا سامانه‌های هوش مصنوعی مولد از این داده‌ها در قالب تدوین طرح/ لایحه حفاظت و حمایت از داده‌های شخصی و حریم خصوصی، به‌روزرسانی و انطباق قوانین موجود با مصادیق و موضوعات هوش مصنوعی مولد ازجمله قانون جرائم رایانه‌ای مصوب سال ۱۳۸۸ قانون تجارت الکترونیک مصوب سال ۱۳۸۲ و احکام مرتبط در قوانین مجازات اسلامی و حقوق مدنی– قوانین مرتبط با حمایت از مالکیت فکری با موضوعات هوش مصنوعی مولد ازجمله قانون حمایت از مالکیت صنعتی- مصوب صحن مجلس در -۱۴۰۰/۹/۲۱ قانون حمایت از حقوق پدیدآورندگان نرمافزارهای رایانهای مصوب سال -۱۳۷۹ قانون حمایت حقوق مؤلفان و مصنفان و هنرمندان مصوب سال، ۱۳۴۸ ایجاد زیرساختهای قانونی ویژه هوش مصنوعی مولد در کنترل و سطح مسئولیت و خودمختاری، می‌توان دسترسی به داده و سامان‌دهی و شفافیت مدیریت داده و اطلاعات را تسهیل کرد.

همچنین در لایه تنظیم‌گری اقدامات دیگری مانند شناسایی و توسعه اصول، دستورالعمل‌ها، توصیه‌نامه و مقررات، بهبود سرمایه انسانی و ظرفیت نوآوری در کسب و کارها و همچنین افزایش سواد دیجیتالی برای استفاده ایمن از هوش مصنوعی مولد با تاکید بر حفاظت از اقشار حساس مانند کودکان و نوجوانان و افراد کم‌سواد و مسن در پیش گرفت.

منبع : خبرگزاری مهر

آخرین اخبار علمی

بازنگری در طرح‌های بنیاد ملی نخبگان در دستور کار قرار دارد

2024-10-17T14:51:47+03:30

قائم مقام بنیاد ملی نخبگان، با تاکید بر لزوم بهبود مستمر و تطبیق برنامه‌های بنیاد با نیازهای روز، از بازنگری در طرح‌های بنیاد ملی نخبگان خبر داد.

تشکیل کارگروه «مسکن نخبگان» در بنیاد ملی نخبگان/ بازگشت طرح‌های کلیدی با رویکردی نو

2024-10-17T14:25:02+03:30

رئیس بنیاد ملی نخبگان با اشاره به تقویت جایگاه بنیادهای استانی در تعامل با استانداران، از پیگیری موضوع مسکن نخبگان و بازگشت طرح‌های شهید وزوایی وشهید احمدی ر...

ستاد توسعه علوم شناختی به شرکت‌ها مشاوره دانش بنیانی ارائه می‌دهد

2024-10-17T14:11:42+03:30

با هدف کمک به رونق اکوسیستم شناختی ، توسعه کسب و کار و بومی سازی محصولات شناختی، ستاد توسعه علوم و فناوری‌های شناختی به شرکت‌های فعال در حوزه شناختی، مشاوره‌...

مدیر جدید حوزه علمیه استان یزد انتخاب شد

2024-10-17T12:58:21+03:30

حجت‌الاسلام حسینی با تأیید شورای عالی حوزه‌های علمیه به عنوان مدیر حوزه علمیه استان یزد انتخاب شد.

اسامی محصولات آرایشی و بهداشتی غیرمجاز

2024-10-17T12:18:22+03:30

سازمان غذا و دارو در اطلاعیه‌ای اسامی تعدادی از محصولات آرایشی و بهداشتی غیرمجاز را اعلام کرد.

بازدید طلاب و فضلای نخبه اهل‌سنت از پژوهشگاه مطالعات فقه معاصر

2024-10-17T12:05:03+03:30

جمعی از طلاب و فضلای نخبه و فعالان فرهنگی اهل سنت استان گلستان در سفری به قم ضمن بازدید از پژوهشگاه مطالعات فقه معاصر با آیت‌ﷲ سید مجتبی نورمفیدی رئیس این پژ...

راه‌اندازی نخستین پارک دیجیتال دینی کشور در حوزه علمیه خراسان

2024-10-17T12:05:02+03:30

مدیر حوزه علمیه خراسان بر اهمیت راه اندازی پارک تولید محتوای دیجیتال دینی تاکید کرد و گفت: ابعاد راه‌اندازی این پارک باید در کمیسیون‌های تخصصی بررسی و با ترس...

باید برای هزینه بالای درمان در سبد خانوار فکری کرد

2024-10-17T11:38:22+03:30

رئیس کمیسیون آموزش، تحقیقات و فناوری مجلس شورای اسلامی گفت: باید برای هزینه بالای درمان در سبد خانوار فکری کرد و مساله بیمه‌ها یک چالش جدی است که باید در دو...

طراحی نانوذراتی که رسوبات داخل شریان خون را تمیز می‌کند

2024-10-17T11:25:02+03:30

محققان نشان دادند نوعی نانوذرات که آن‌ها طراحی کرده‌اند می‌تواند پلاکت‌های رسوب کرده داخل رگ را تمیز کنند.

ثبت نام بیش از ۱۲۱ هزار نفر در آزمون کارشناسی ارشد ۱۴۰۴/ شنبه آخرین فرصت ثبت نام در کنکور ارشد

2024-10-17T11:11:42+03:30

مدیرکل روابط عمومی سازمان ملی سنجش و ارزشیابی نظام آموزش کشور از ثبت نام بیش از ۱۲۱ هزار نفر در آزمون ورودی کارشناسی ارشد ناپیوسته سال ۱۴۰۴ خبر داد.

شرایط انجام تعهدات قانونی مقطع فوق تخصصی پزشکی سال ۱۴۰۳ اعلام شد

2024-10-17T10:31:44+03:30

مرکز جذب و امور اعضای هیئت علمی و نخبگان وزارت بهداشت شرایط انجام تعهدات قانونی مقطع فوق تخصصی پزشکی سال ۱۴۰۳ را اعلام کرد.

جزئیات گفتگوهای رئیسی با همتایان قطری و عراقی

2024-10-17T10:18:23+03:30

معاون بهداشت وزارت بهداشت، در حاشیه هفتاد و یکمین اجلاس کمیته منطقه مدیترانه شرقی سازمان جهانی بهداشت، دیدارهایی با همتایان قطری و عراقی داشت.

دستیاری پزشکی شغل می‌شود

2024-10-17T10:18:22+03:30

وزیر بهداشت درمان و آموزش پزشکی گفت: بیست سال است که موضوع دستیاری مطرح شده و بالاخره در حال حل شدن است. مصوب شده که دستیاری به عنوان شغل اعلام شود.

ابلاغ تعرفه‌ها تا قبل از پایان سال انجام شود

2024-10-17T10:05:02+03:30

رئیس کل سازمان نظام پزشکی کشور گفت: ابلاغ تعرفه باید قبل بودجه و ابلاغ نهایی آن تا پایان سال انجام شود و باید شورای عالی بیمه و برنامه و بودجه آن را تصویب کند.

دو انتصاب جدید در بنیاد ملی نخبگان

2024-10-17T09:38:22+03:30

با حکم رئیس بنیاد ملی نخبگان، معاون سرآمدان و نخبگان و معاون مستعدان و آینده‌سازان بنیاد ملی نخبگان منصوب شدند.

ساخت دستگاه اکسیژن ساز هوشمند نانویی/ قابلیت ارتباط تصویری بیمار و پزشک

2024-10-17T09:25:03+03:30

یک شرکت دانش بنیان دستگاه اکسیژن ساز هوشمند با عملکرد بالاتری نسبت به تجهیزات موجود در بازار ساخته که در این دستگاه از فناوری‌نانو به منظور بهبود کیفیت هوای ...

آخرین وضعیت بازگشت دانشجویان محروم شده از تحصیل به دانشگاه

2024-10-17T08:05:07+03:30

رییس سازمان امور دانشجویان آخرین وضعیت بازگشت به تحصیل دانشجویان محروم از تحصیل را تشریح کرد.

مهم‌ترین چکاپ‌ها برای سلامت زنان میانسال/ خطرناکترین سرطان زنانه

2024-10-17T07:38:22+03:30

رئیس اداره سلامت میانسالان وزارت بهداشت مهم‌ترین چکاپ‌ها برای سلامت زنان را تشریح کرد.

اعلام نتایج نهایی پذیرش کارشناسی ناپیوسته  دانشگاه علمی کاربردی

2024-10-16T22:05:03+03:30

معاون آموزشی دانشگاه جامع علمی کاربردی از اعلام نتایج نهایی تمامی رشته‌محل‌های متمرکز و شرایط خاص (تعهد اشتغال) پذیرش دوره‌های کارشناسی ناپیوسته خبر داد.

تنها حدود ۶ درصد از دانشجویان پزشکی به شرایط شهریه معترض‌اند/ امکان جابه‌جایی دانشجویان فراهم است

2024-10-16T16:58:22+03:30

سخنگوی دانشگاه آزاد اسلامی گفت: بیش از ۷۰ درصد دانشجویان شهریه خود را پرداخت کرده و مراحل ثبت‌نام نهایی را انجام داده‌اند و تنها ۵ تا ۶ درصد از دانشجویان به ...

آغاز ثبت‌نام در آزمون دکتری نیمه‌متمرکز (Ph.D) سال ۱۴۰۴ از ۲۹ مهر/ ممنوعیت ثبت‌نام قبولی‌های ۱۴۰۳

2024-10-16T16:18:22+03:30

سازمان ملی سنجش و ارزشیابی نظام آموزش کشور تاریخ ثبت‌نام در آزمون ورودی مقطع دکتری نیمه‌متمرکز (Ph.D) سال ۱۴۰۴ را اعلام کرد.

همه می‌توانیم نقش معلمی خود برای ارتقا سلامت دانشجویان ایفا کنیم

2024-10-16T16:05:03+03:30

رئیس سازمان امور دانشجویان گفت: سال ها فعالیت در حوزه دانشجویی به من آموخته است همه ما در هر جایگاهی هستیم می‌توانیم نقش معلمی خود برای ارتقا سلامت ایفا کنیم.

نشتی‌های ایستگاه فضایی بین‌المللی، فضانوردان را نگران کرد

2024-10-16T15:38:22+03:30

مقامات ناسا در مصاحبه ای با واشنگتن پست اعلام کرده اند ۴ نشتی و ۵۰ حوزه نگرانی را در ایستگاه فضایی بین المللی تحت نظر دارند.

ارسال بیش از ۷ هزار اثر به جشنواره بین المللی سلامت دانشجویان/ ضرورت توسعه سواد سلامت دانشجویان

2024-10-16T15:38:22+03:30

دبیر جشنواره بین‌المللی سلامت دانشجویان از ارسال بیش از ۷ هزار اثر به جشنواره بین المللی سلامت دانشجویان خبر داد و بر ضرورت توسعه سواد سلامت در میان دانشجویا...

کیفیت خوب آموزش مستلزم افزایش شهریه رشته‌های علوم پزشکی است/ شهریه حدود ۲ برابر شده است

2024-10-16T15:25:04+03:30

سخنگوی دانشگاه آزاد اسلامی تاکید کرد: برای کیفیت خوب آموزش لازم بود شهریه در رشته های علوم پزشکی افزایش پیدا کند.

سرپرست دانشگاه علوم پزشکی تبریز منصوب شد

2024-10-16T15:11:44+03:30

دکتر احمدرضا جودتی از سوی دکتر محمدرضا ظفرقندی وزیر بهداشت، درمان و آموزش پزشکی به عنوان سرپرست دانشگاه علوم پزشکی تبریز منصوب شد.

شرکت‌های دارویی که احتکار دارو داشتند ‌را معرفی کردیم

2024-10-16T14:58:24+03:30

رئیس سازمان بازرسی کل کشور گفت: در برهه کمبود داروی آنتی‌بیوتیک‌ها برخی از شرکت‌ها اقدام به احتکار دارو کردند، ۴ شرکت را به اتهام احتکار و اختلال در عرصه دار...

کیفیت خوب آموزش مستلزم افزایش شهریه رشته های علوم پزشکی است/ شهریه حدود ۲ برابر شده است

2024-10-16T14:58:23+03:30

سخنگوی دانشگاه آزاد اسلامی تاکید کرد: برای کیفیت خوب آموزش لازم بود شهریه در رشته های علوم پزشکی افزایش پیدا کند.

دانشگاه‌ مکانی برای یادگیری، نوآوری، خلاقیت و تجربه زندگی اجتماعی

2024-10-16T14:58:23+03:30

وزیر علوم گفت: دانشگاه‌ فقط جای آموزش نیست مکانی برای یادگیری، نوآوری، خلاقیت و تجربه زندگی اجتماعی است.

دانشکده‌های دندانپزشکی بیمار ندارند

2024-10-16T14:45:04+03:30

رئیس انجمن پریودنتولوژی ایران، یکی از مشکلات دانشکده‌های دندانپزشکی را نبود بیمار عنوان کرد که به یک معضل برای مراکز آموزشی تبدیل شده است.