به نقل از «باشگاه خبرنگاران»

۳ راه آسان برای افزایش امنیت چت ربات‌های هوش مصنوعی

تاریخ انتشار: ۱۲ فروردین ۱۴۰۲ | کد خبر: ۳۷۴۳۳۱۲۹

ما وارد دنیای جدید و جسورانه چت ربات‌های هوش مصنوعی شده‌ایم. این می‌تواند معانی بسیاری داشته باشد؛ از بازبینی نحوه یادگیری دانش آموزان در مدرسه تا محافظت از خود در برابر اطلاعات نادرست تولید انبوه. این همچنین به معنای توجه به درخواست‌های فزاینده برای تنظیم هوش مصنوعی است تا به ما کمک کند عصری را طی کنیم که در آن رایانه‌ها مانند مردم روان می‌نویسند یا حتی بهتر.

بیشتر بخوانید: اخباری که در وبسایت منتشر نمی‌شوند!

تاکنون توافق بیشتری در مورد نیاز به مقررات هوش مصنوعی نسبت به آنچه که این امر مستلزم آن است، وجود دارد.

میرا موراتی، رئیس تیمی که برنامه چت بات ChatGPT را به عنوان سریع‌ترین برنامه مصرف‌کننده اینترنتی در حال رشد در تاریخ ایجاد کرد، گفت: دولت‌ها و تنظیم‌کننده‌ها باید درگیر شوند، اما او روشی را پیشنهاد نکرد.

در یک رویداد شرکتی در ماه مارس، ایلان ماسک حرف‌های مشابهی بیان کرد: ما به نوعی به یک مرجع نظارتی یا چیزی برای نظارت بر توسعه هوش مصنوعی نیاز داریم. در همین حال، طیف وسیع استفاده‌های ChatGPT تلاش‌های اروپا را برای تنظیم برنامه‌های هوش مصنوعی تک‌منظوره افزایش داد.

برای شکستن این بن بست، الزامات شفافیت و شناسایی پیشنهاد می‌شود که به طور خاص برای چت بات‌ها طراحی شده است، برنامه‌های رایانه‌ای که برای مکالمه با کاربران و تولید متن روان در پاسخ به درخواست‌های تایپ شده بر هوش مصنوعی متکی هستند. برنامه‌های چت بات مانند ChatGPT کنج بسیار مهمی از هوش مصنوعی هستند که آماده تغییر شکل بسیاری از فعالیت‌های روزانه هستند؛ از نحوه نوشتن تا نحوه یادگیری ما. مهار چت بات‌ها بدون گرفتار شدن در قوانین هوش مصنوعی که برای سلاح‌های خودران، تشخیص چهره، اتومبیل‌های خودران، الگوریتم‌های تبعیض‌آمیز و تاثیرات اقتصادی اتوماسیون گسترده ایجاد شده است، به‌اندازه کافی مشکل ایجاد می‌کند. ما نیاز به قانون فوری و متمرکز داریم که همگام باشد.

اولین الزام قانونی که پیشنهاد می‌شود این است که همه برنامه‌های روبه‌روی مصرف‌کننده که شامل فناوری ربات‌های گفت و گو هستند، متنی را که هوش مصنوعی برای اولین بار در آن آموزش دیده، عمومی کند. فشار عمومی حتی می‌تواند شرکت‌ها را از آموزش ربات‌های چت در مورد مواردی مانند سایت‌های «اخباری» تئوری توطئه منصرف کند، اما این تنها در صورتی است که مردم بدانند شرکت‌ها با چه متنی آموزش می‌دهند.

ارزیاب‌های انسانی نیز رفتار چت‌بات را به شدت شکل می‌دهند که به یک الزام شفافیت دوم اشاره دارد. یکی از مهندسان ChatGPT اخیرا اصولی را که تیم برای هدایت مرحله دوم آموزش استفاده کرده، توضیح داده است: شما می‌خواهید مفید باشد، می‌خواهید همه چیز صادقانه باشد، باید روشن شود که این یک سیستم هوش مصنوعی است. نباید هویتی را فرض کند که ندارد، نباید ادعا کند که توانایی‌هایی دارد که ندارد؛ اما در حال حاضر هیچ فشار قانونی برای افشای چیزی در مورد روند آموزش وجود ندارد.

از آن جایی که گوگل، متا و دیگران برای جاسازی ربات‌های چت در محصولات خود رقابت می‌کنند تا با استقبال مایکروسافت از ChatGPT همگام شوند، کاربران شایسته دانستن اصول راهنمای شکل‌دهنده آن‌ها هستند. طبق گزارش‌ها، ایلان ماسک در حال استخدام تیمی برای ساخت یک ربات چت است تا با چیزی که به‌عنوان بیداری بیش از حد ChatGPT می‌بیند رقابت کند. بدون شفافیت بیشتر در فرآیند آموزش، تعجب برانگیز است که این به چه معناست و چه ایدئولوژی‌های خارج از محدودیت و بالقوه خطرناک ربات چت او از آن حمایت خواهد کرد؛ بنابراین لازمه دوم این است که دستورالعمل‌های مورد استفاده در مرحله دوم توسعه ربات چت باید به دقت بیان شود و در دسترس عموم قرار گیرد.

این امر باعث می‌شود شرکت‌ها نتوانند چت‌بات‌ها را به شیوه‌ای سرسری آموزش دهند و نشان می‌دهد که یک چت بات چه جنبه‌ای سیاسی ممکن است داشته باشد، چه موضوعاتی را لمس نمی‌کند و توسعه‌دهندگان از چه موارد خطرناکی اجتناب نکرده‌اند.

همان طور که مصرف کنندگان حق دارند مواد تشکیل دهنده غذای خود را بدانند، باید مواد تشکیل دهنده ربات‌های گفت وگوی خود را نیز بدانند. دو الزام شفافیت پیشنهاد شده در اینجا لیستی از مواد تشکیل دهنده ربات چت را به افراد می‌دهد که شایسته آن‌هاست. این به افراد کمک می‌کند تا در مورد رژیم غذایی اطلاعاتی خود انتخاب‌های سالمی داشته باشند.

بسیاری از معلمان و سازمان‌ها در نظر دارند محتوای تولید شده توسط چت‌بات‌ها را ممنوع کنند؛ بعضی‌ها قبلا این کار را انجام داده‌اند، از جمله Wired و یک سایت محبوب برنامه‌نویسی پرسش و پاسخ، اما اگر راهی برای شناسایی متن چت‌بات وجود نداشته باشد، ممنوعیت چندان ارزشی ندارد. OpenAI، شرکت سازنده ChatGPT، یک ابزار آزمایشی برای تشخیص خروجی ChatGPT منتشر کرد، اما به طرز وحشتناکی غیر قابل اعتماد بود. خوشبختانه راه بهتری وجود دارد؛ این که OpenAI ممکن است به زودی واترمارک را اجرا کند؛ این یک روش فنی برای تغییر فرکانس کلمات چت بات است که برای کاربران قابل توجه نیست، اما یک مهر پنهان برای شناسایی متن با نویسنده ربات چت آن ارائه می‌دهد.

به جای این که امیدوار باشیم OpenAI و دیگر تولیدکنندگان چت بات، واترمارکینگ را اجرا کنند، باید آن را اجباری کنیم. ما باید از توسعه دهندگان چت بخواهیم که چت بات‌ها و واترمارکینگ منحصر به فرد خود را در یک آژانس نظارت بر هوش مصنوعی ثبت کنند.

منبع: scientificamerican

باشگاه خبرنگاران جوان علمی پزشکی فناوری

منبع: باشگاه خبرنگاران

کلیدواژه: چت جی پی تی هوش مصنوعی چت بات ها ربات چت

درخواست حذف خبر:

«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت www.yjc.ir دریافت کرده‌است، لذا منبع این خبر، وبسایت «باشگاه خبرنگاران» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۷۴۳۳۱۲۹ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.

با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.

خبر بعدی:

امنیت غذایی جهان تهدید می شود

به گزارش خبرگزاری مهر به نقل از سازمان دامپزشکی کشور، «مجتبی نوروزی» در آئین افتتاح بیست و یکمین کنگره دامپزشکی ایران افزود: از سال ۱۹۹۶ میلادی به این سو امنیت غذایی و ایمنی غذایی نزد سران بسیاری از کشورهای عضو سازمان ملل متحد به عنوان مهمترین مؤلفه هزاره سوم که عموم مردم به‌صورت پایدار به غذای سالم و بهداشتی فاقد هرگونه آلودگی انگلی دسترسی داشته باشند، مطرح شد.

رئیس سازمان دامپزشکی کشور با بیان اینکه از آن مقطع زمانی مقرر شده بود تا سال ۲۰۱۵ تعداد گرسنگان به نصف کاهش یابد، گفت: بر اساس ارزیابی فائو روند گرسنگی رو به افزایش است و هم اکنون یک میلیارد نفر با درآمد یک دلار در روز در حال گذراندن عمر هستند.

وی در تشریح چالش‌های کنونی تهدیدکننده امنیت و ایمنی غذایی در جهان، به افزایش جمعیت و رشد کشورهای در حال توسعه که به رشد تقاضای غذا طی یک دهه آینده منجر خواهد شد اشاره کرد و افزود: گسترش شهرسازی و تغییر غذایی در کشورهای در حال توسعه، افزایش تقاضا با توجه به محدودیت شدید منابع آبی و سایر مخاطرات تغییرات اقلیمی نیز از عوامل تهدیدکننده ای است که باید با کشف راهکارهای جدید و تقویت منابع انسانی به دنبال پیشگیری از تشدید ناامنی غذایی و حتی نجات تمام گرسنگان بود.

نوروزی در ادامه سه چالش عمده غذایی در جهان را در افزایش گرسنگی در جهان، عدم تعادل در رژیم غذایی روزانه و چالش‌های تولید متأثر از فرسایش خاک، کمبود آب و تهدیدات زیست محیطی جمع بندی کرد و گفت: با توجه به اینکه تهدیدات جدید ایمنی مواد غذایی به طور مداوم در حال ظهور است، تغییرات در محیط زیست و افزایش مقاومت میکروبی، امنیت غذایی و ایمنی غذایی پایدار را تهدید می‌کند.

رئیس سازمان دامپزشکی کشور با اشاره به برخی عوامل تأثیرگذار دیگر مانند افزایش سفر در جهان و پیامدهای زیست محیطی این مسأله اظهار کرد: رشد مصرف نابجا و غیرضروری آنتی بیوتیک‌ها و اثرات منفی آن در بروز روند درمان و شیوع سایر ناهنجاری‌ها؛ وقوع انواع سیل‌های مهلک نابهنگام مثل آنچه در سال ۲۰۱۰ در پاکستان تا سال‌های اخیر رخ داد؛ آتش سوزیهای مخرب در روسیه و آمریکا و اروپا از دیگر تهدیدات امنیت غذایی و ایمنی غذایی است که گویای انتظار بروز آثار سو دیگر تغییرات اقلیمی خواهد بود.

نوروزی در ادامه به تدبیر درست سازمان‌های زیر مجموعه سازمان ملل متحد در رویکرد جدید که سلامت واحد( one health) است اشاره کرد و گفت: در واقع با این رویکرد سلامت واحد؛ سلامتی اکوسیستم، انسان و دام به یکدیگر کاملاً مرتبط است و غفلت از هر کدام از این سه باعث بروز انواع بیماری‌های نوپدید و بازپدید است.

وی با ابراز امیدواری از اینکه کنگره‌های دامپزشکی موقعیت بسیار مغتنمی برای استفاده از دانش و مطالعات و تجربیات و انرژی دانشجویان و اساتید و محققان دامپزشکی در بررسی راهکارهای کمک کننده به تحقق امنیت غذایی و ایمنی غذایی پایدار است فراهم سازد افزود: کما اینکه در همین جا باید تأکید کنم که اگر موفقیت‌هایی در حوزه سلامت و بهداشت ملی رخ داده، این دستاوردها حاصل یافته‌های تحقیقاتی و علمی شماست.

رئیس سازمان دامپزشکی کشور توجه به بهداشت و امنیت غذایی؛ اپیدمیولوژی؛ بیماری‌های نوظهور و بازپدید؛ بهداشت محیط؛ معرفی داروها و مکمل‌های غذایی سالم و کارآمد؛ استفاده از هوش مصنوعی؛ رسیدگی به رفاه دام و حیوانات و… را که از محورهای بیست و یکمین کنگره دامپزشکی ایران است به عنوان محورهای ارزشمند در این کنگره برشمرد و گفت: سازمان دامپزشکی کشور به دنبال بازمهندسی در فرآیندهای سازمانی است و با ایجاد مرکز بیماری‌های منتقله دامی و فرآورده‌های خام دامی به دنبال بنیان گذاشتن دامپزشکی نوین در کشوری است که بسیار سال‌ها پیش از طلوع اسلام و زمانی که اروپاییان مبادرت به نامگذاری نخستین شنبه ماه آوریل هر سال به نام «روز جهانی دامپزشکی» کنند به آغاز دامپزشکی و بیطاری همت گماشته بودند.

کد خبر 6094421