هوش مصنوعی رکب خورد/ آموزش ساخت بمب و اخلال در انتخابات در چتباتها
تاریخ انتشار: ۱۶ مرداد ۱۴۰۲ | کد خبر: ۳۸۳۹۹۴۹۳
به گزارش خبرنگار خبرگزاری علم و فناوری آنا، «چت جی‌پی‌تی» (ChatGPT) و «بارد» (Bard) ممکن است بازیگران کلیدی انقلاب دیجیتال باشند که در حال حاضر در زمینه محاسبات، کدنویسی، پزشکی، آموزش، صنعت و امور مالی در حال انجام است، اما آنها همچنین قادر هستند به راحتی فریب داده شوند و داده‌های خرابکارانه ارائه دهند.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
مقالات ماه‌های اخیر برخی از مشکلات اصلی را شرح می‌دهند. اطلاعات نادرست، محتوای نامناسب و توهین‌آمیز، نقض حریم خصوصی و آسیب روانی به کاربران آسیب‌پذیر، همگی سوالاتی را در مورد اینکه چگونه می‌توان چنین محتوایی را کنترل کرد، مطرح می‌کنند.
به عنوان مثال «اوپن‌ای‌آی» (OpenAI) و گوگل موانع حفاظتی طراحی کرده‌اند تا برخی از اتفاقات ناخوشایند و محتوای توهین‌آمیز را از بین ببرند.
محققان دانشگاه کارنگی ملون در پیتسبورگ اینکه چگونگی دستور‌ها به مدل‌های زبانی بزرگ می‌توانند موانع محافظتی را دور بزنند، نگرانی‌های جدیدی را مطرح می‌کنند. محققان به سادگی با تغییر عبارت درخواست‌ها توانستند چتباتها را فریب دهند تا به درخواست‌هایی که مدل‌ها برای کاهش آنها برنامه ریزی شده بودند، پاسخ دهند.
این محققان معتقدند که اضافه کردن یک پسوند ساده به پرسش‌ها می‌تواند شانس غلبه بر واکنش درونی یک مدل هوش مصنوعی برای رد کردن یک پاسخ را تا حد زیادی افزایش دهد.
به گفته یکی از محققان چتباتها عموما در پاسخ به سوالات کاربران، محتوای نامناسب را تبلیغ نمی‌کنند. وارد کردن یک متن کوتاه بلافاصله پس از ورود کاربر می‌تواند یک چت‌بات را هدایت کند تا به جستجوی موارد نامناسب بپردازد.
آنها توانستند دستورالعمل‌هایی را در مورد موضوعاتی مانند چگونگی انجام تقلب مالیاتی، چگونگی مداخله در انتخابات ۲۰۲۴، چگونگی ساخت بمب و چگونگی ساخت دارو‌های غیرقانونی استخراج کنند.
در حالی که مدل‌هایی مانند چت جی‌پی‌تی و بارد به همراه مدل‌های زبانی متن باز در ابتدا چنین درخواست‌هایی را رد می‌کردند، اما اضافه کردن عبارت‌هایی دفاع آنها را درهم شکست؛ پس از آن تکرار درخواست چتباتها چگونگی انجام تقلب مالیاتی، چگونگی ساخت بمب یا چگونگی اخلال در انتخابات را توضیح داد.
یکی از محققان معتقد است که با تکرار درخواست به این شیوه، کاربر احتمال اینکه مدل پاسخ مثبت تولید کند را به حداکثر می‌رساند.
محققان به دلایل واضح، پاسخ دقیقی از سوی چتباتها ارائه نکردند. اما آنها پیشنهاد‌های مختصری ارائه کردند. با پذیرش گسترده‌تر مدل‌های زبانی، خطرات بالقوه افزایش خواهند یافت. محققان امیدوارند که این تحقیق بتواند به روشن کردن خطراتی که حملات خودکار برای مدل‌های زبانی ایجاد می‌کنند، کمک کند.
انتهای پیام/
منبع: آنا
کلیدواژه: چت GPT هوش مصنوعی چت بات چت جی پی تی مدل زبانی مدل های زبانی چت بات ها مدل ها
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۸۳۹۹۴۹۳ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
استقرار ۴ صندوق الکترونیکی در شعب تهران
«محسن اسلامی» ، با اشاره به آمادگی وزارت کشور برای برگزاری مرحله دوم انتخابات مجلس شورای اسلامی، گفت: انتخابات در برخی از حوزه‌ها به دور دوم کشیده شده است. حوزه‌های انتخابیه تبریز، شبستان، میانه، پارس‌آباد، سمیرم، لنجان، کرج، تهران، ورامین، بیرجند، مشهد، آبادان، رامهرمز، خدابنده، زنجان، شیراز، مرودشت، خرم‌آباد، قائمشهر، ملایر، کرمانشاه و گنبدکاووس، ۲۲ حوزه انتخابیه‌ای هستند که انتخابات در آنها به دور دوم کشیده شده است.
وی اضافه کرد: در این حوزه‌های انتخابیه ۹۰ نفر برای کسب ۴۵ کرسی باقیمانده مجلس شورای اسلامی با هم رقابت می‌کنند.
سخنگوی ستاد انتخابات کشور با اشاره به شیوه برگزاری انتخابات در مرحله دوم، تصریح کرد: انتخابات در ۸ حوزه انتخابیه تبریز، تهران، آبادان، شیراز، کرمانشاه، خرم‌آباد، قائمشهر و ملایر به صورت تمام الکترونیکی برگزار می‌شود. در تهران برای هر شعبه ۴ صندوق الکترونیکی و در باقی حوزه‌های انتخابیه برای هر شعبه، ۳ صندوق الکترونیکی در نظر گرفته شده است تا ازدحامی را در شعب مشاهده نکنیم و رأی‌دهندگان به راحتی و سهولت رأی خود را به صندوق بیاندازند.
آموزش لازم به دست اندرکاران انتخاباتی داده شده است
اسلامی اظهار کرد: آموزش لازم به همکاران ما در ستاد انتخابات و ۲۲ حوزه انتخابیه داده شده است و تربیت مدرس، آموزش لازم را دریافت و طی ۱۰ روز گذشته به مدرسان استانی آموزش داده‌اند و آنها (مدرسان استانی) در حال آموزش باقی همکاران در استان‌ها هستند.
وی اعلام کرد: گرچه رأی دادن در شیوه الکترونیکی بسیار ساده است، اما یک ویدئوی آموزشی از سوی کمیته فناوری ستاد انتخابات کشور تهیه شده است که برای آموزش همگانی به صداوسیما و ستاد‌های انتخابات ارسال شده است. در برخی از مراکز عمومی مثل نماز جمعه و یا نمایشگاه کتاب، آموزش‌های لازم به مردم داده می‌شود.
سخنگوی ستاد انتخابات کشور با تأکید بر اینکه کسانی می‌توانند در مرحله دوم رأی بدهند که حتما در دور اول در همان حوزه انتخابیه رأی داده باشند و یا اصلا در کل کشور رأی نداده باشند، گفت: رأی‌دهنده با این پیش فرض وارد شعبه می‌شود و با ارائه هریک از مدارک هویتی پنج‌گانه (کارت ملی، شناسنامه، گذرنامه، گواهینامه و کارت پایان خدمت)، احراز می‌شود. برای فرد یک کارت رأی دادن صادر شده و در اختیار او قرار می‌گیرد. رأی‌دهنده کارت را در صندوق ثبت رأی الکترونیک وارد می‌کند و گزینه رأی دادن فعال می‌شود.
اسلامی با بیان اینکه سپس کد انتخاباتی نامزد مورد نظر را وارد کرده و عکس و مشخصات فرد به نمایش درمی‌آید، اظهار کرد: کد هر نامزدی که وارد شود، اطلاعات او در صفحه به نمایش درمی‌آید. نهایتاً رأی‌دهنده اتمام رأی دهی را ثبت می‌کند و پرینتی از رأی، رأی‌دهنده از زیر صندوق الکترونیکی قرار می‌گیرد. رأی‌دهنده کارت تعرفه را به منشی ما در شعبه، تحویل می‌دهد و سرانجام کارت شناسایی خود را دریافت می‌کند. فرآینده رأی‌دهی الکترونیکی ساده و در یک وقت بسیار کم صورت می‌گیرد.
۱۱ هزار و ۵۰۰ شعبه در مرحله دوم انتخابات فعال است
وی گفت: در حوزه‌هایی که اشاره کردم ـ حدود ۱۱ هزار و ۵۰۰ شعبه داریم ـ که شامل شعب شهری، روستایی، ثابت و سیار می‌شود. براساس تجربه‌ای که در مرحله دوم وجود دارد، تعداد شعب مرحله دوم نسبت به مرحله اول، کمتر است. البته در این دوره، نظر هیأت‌های اجرایی حوزه‌های انتخابیه را دریافت کردیم و نظر آنها ملاک اصلی ما بود. اگر هیأت اجرایی در آن حوزه انتخابیه تشخیص داده بود که هیچ حوزه‌ای کم نشود، ما همان را اعمال کردیم.
سخنگوی ستاد انتخابات کشور یادآور شد: عوامل اجرایی در کل ۲۲ حوزه انتخابیه مشخص شده و تا ۱۳ اردیبهشت در سامانه جامع انتخابات نهایی خواهد شد.
اسلامی با بیان اینکه در خصوص تبلیغات انتخاباتی نامزد‌ها و سامانه شفافیت به نامزد‌ها اطلاع‌رسانی شده است که حتما تبلیغات و هزینه‌های خود را وارد کنند، خاطر نشان کرد: تبلیغات از ساعت ۰۰:۰۰ بامداد پنجشنبه ۱۳ اردیبهشت آغاز می‌شود و تا پنجشنبه ۲۰ اردیبهشت ساعت ۸ صبح ادامه دارد. دستورالعمل تبلیغات و قانون مرتبط با تبلیغات که در مرحله اول اطلاع‌رسانی شده، ملاک خواهد بود. البته امکاناتی در استان‌ها از ناحیه دستگاه‌های اجرایی در اختیار نامزد‌ها قرار گرفته که می‌توانند استفاده کنند.
استان‌ها تعرفه‌های انتخاباتی را از فردا دریافت می‌کنند
وی گفت: صداوسیما هم قرار است مناظراتی را در شبکه‌های استانی برای ۹۰ کاندیدا تنظیم کند که همگی در حال ضبط است و از تاریخ اعلام شده، پخش خواهد شد.
دبیر ستاد انتخابات کشور خاطرنشان کرد: در استان تهران، صرفا حوزه انتخابیه تهران، ری، شمیرانات، اسلامشهر و پردیس الکترونیکی خواهد بود و در حوزه انتخابیه ورامین و قرچک ثبت رأی به صورت تعرفه است. تعرفه‌ها هم چاپ شده و در حال ارسال است. استان‌ها تعرفه‌ها را از فردا دریافت می‌کنند و مشکلی در این زمینه وجود ندارد.
انتخابات دوازدهمین دوره مجلس شورای اسلامی ۱۱ اسفند ۱۴۰۲ برگزار شد و از میان کاندیدا‌های حاضر در عرصه رقابت ۲۴۵ نفر به مجلس راه یافتند و سرنوشت ۴۵ کرسی باقی مانده در دور دوم انتخابات که در ۲۱ اردیبهشت برگزار می‌شود، روشن خواهد شد.
طبق اعلام وزارت کشور تعداد رأی صحیح مأخوذه در حوزه انتخابیه تهران ۱ میلیون و ۵۶۹ هزار و ۸۵۷ رأی بود از بین نامزد‌ها تعداد ۱۴ نفر به طور مستقیم وارد مجلس شدند و ۳۲ نفر دیگر نیز به مرحله دوم انتخابات راه یافتند که برای تصدی ۱۶ کرسی باقی مانده بهارستان در ۲۱ اردیبهشت به رقابت خواهند پرداخت.
آخرین جلسه مجلس یازدهم ۲ خرداد تشکیل و مراسم افتتاحیه مجلس شورای اسلامی در دوره دوازدهم، ۷ خرداد ماه با حضور مسئولان کشوری و لشکری و با پیام مقام معظم رهبری برگزار می‌شود.
منبع : ایسنا
خودکشی از رزیدنتها به پزشکان رسیده؛ چرا دکتر سمیرا آلسعیدی خودکشی کرد؟/ «خودکشی پزشکان بهمثابه یک انتحار اجتماعی است»