تاریخ انتشار: دوشنبه 1403/02/24 - 21:29
کد خبر: 504563

هوش مصنوعی، فریب انسان را یاد گرفته‌ است

هوش مصنوعی، فریب انسان را یاد گرفته‌ است

مقاله تحقیقاتی جدید نشان داد سیستم‌های هوش مصنوعی مختلف، هنر فریب دادن انسان را یاد گرفته‌اند.

به گزارش «خبرنامه دانشجویان ایران»؛  هوش مصنوعی می‌تواند با کمک به انسان در کدنویسی، نوشتن و ترکیب حجم وسیعی از داده، بهره وری را افزایش دهد با این وجود اکنون می‌تواند ما را فریب هم دهد.

طبق یک مقاله تحقیقاتی جدید، طیفی از سیستم‌های هوش مصنوعی تکنیک‌هایی را برای القای سیستماتیک باورهای نادرست در دیگران برای دستیابی به نتایجی غیر از حقیقت یاد گرفته‌اند.این مقاله بر دو نوع سیستم هوش مصنوعی متمرکز شد: مدل CICERO متا که برای تکمیل یک کار خاص طراحی شده‌ و مدل همه منظوره جی‌پی‌تی۴ که برای انجام طیف متنوعی از وظایف آموزش دیده‌اند.در حالی که این سیستم ها برای صادق بودن آموزش دیده اند، اغلب از ترفندهای فریب را یاد می گیرند.

پیتر اس پارک، نویسنده اول مقاله گفت: فریب توسط هوش مصنوعی به این دلیل به وجود می آید که یک استراتژی مبتنی بر فریب بهترین راه برای عملکرد خوب در وظیفه آموزشی مشخص شده است. فریب به آنها کمک می کند تا به اهداف خود برسند.
تحقیقات همچنین نشان می‌دهد که اصلاح مدل‌های فریبنده کار آسانی نیست.در مطالعه‌ای که در ژانویه (دی_بهمن) توسط آنتروپیک، انجام شد، محققان دریافتند زمانی که مدل‌های هوش مصنوعی ترفندهای فریب را یاد بگیرند، تکنیک‌های آموزشی ایمنی برای معکوس کردن آنها دشوار است.

خطراتی که مدل های هوش مصنوعی فریبنده ایجاد می کنند به طور فزاینده جدی هستند.این مقاله از سیاست‌گذاران می‌خواهد که از مقررات محکم‌تر هوش مصنوعی دفاع کنند زیرا سیستم‌های هوش مصنوعی فریبنده می‌توانند خطرات مهمی برای دموکراسی ایجاد کنند.

مرتبط ها
نظرات
حداکثر تعداد کاراکتر نظر 200 ميياشد
نظراتی که حاوی توهین یا افترا به اشخاص، قومیت‌ها، عقاید دیگران باشد و یا با قوانین جمهوری اسلامی ایران و آموزه‌های دینی مغایرت داشته باشد منتشر نخواهد شد - لطفاً نظرات خود را با حروف فارسی تایپ کنید
تورهای مسافرتی آفری
چگونه فرش دستباف را در منزل شست و شو دهیم؟
دانشگاه‌های مورد تایید وزارت بهداشت ایران
آخرین خبر از چگونگی حضور عارف در انتخابات ریاست جمهوری
قالیباف وارد انتخابات ریاست‌جمهوری می‌شود؟
بن سلمان به ایران می آید +جزئیات
برای آشپزخانه های صنعتی به چه دستگاه هایی نیاز است؟ +نکات بهداشتی مهم
دوره ICDL در تبریز/ آموزشگاه آپادانا تبریز
۱۲ ویژگی مهم یک فلزیاب حرفه ای
مزایده آنلاین خودرو راهی سریع و موثر برای خرید خودرو
واکنش مادر رئیسی بعد از دیدن پیکر پسرش +فیلم
اولین واکنش همسر رئیس جمهور شهید بعد از شهادت +فیلم
گفت‌وگوی رهبر انقلاب با همسر شهید امیرعبداللهیان
حمله به دو خواننده معروف +جزئیات
استاد رفیعی: اخلاق را در انتخابات رعایت کنید +فیلم
آغاز توزیع کارت آزمون کارشناسی ارشد علوم پزشکی سال ۱۴۰۳ از فردا
بررسی رابطه نکونام و تاج قبل از بازی استقلال و نساجی
بورس بیش از ۱۶هزار واحد افت کرد
واکنش متفاوت شهید رئیسی در برابر درخواست یک دختر دانشجو +فیلم
شکایت استقلال خوزستان از داوری به AFC و فیفا
دیدار خانواده‌های شهدای خدمت با رهبر انقلاب +عکس
شکایت پرسپولیس از جواد نکونام و چند بازیکن استقلال
نظرسنجی
بنظر شما باتوجه به حوادث اخیر فلسطین چقدر احتمال فروپاشی رژیم صهیونیستی وجود دارد؟




مشاهده نتایج
go to top