به گزارش «خبرنامه دانشجویان ایران»؛ این جدیدترین داستان از یک عامل هوش مصنوعی است که سرکش شده است.
به نقل از ایبیسی استرالیا، یک عامل هوش مصنوعی، نرمافزار رزرو یک باشگاه ورزشی را هک کرده و یک نفر را از لیست انتظار حذف کرده است.
داستان از این قرار است که یک شهروند استرالیایی به نام «اندرو» از دستیار هوش مصنوعی خود خواسته تا در یکی از کلاسهای صبحگاهی باشگاه ورزشیاش جایی برایش پیدا کند و ظاهراً آن عامل برای انجام این کار فراتر از حد انتظار عمل کرده است.
اندرو میگوید این هوش مصنوعی به او گفته است که کلاس مدنظرش را ماهها قبل رزرو کرده است، چیزی که آن باشگاه ورزشی حتی اجازه آن را هم نمیدهد.
ظاهراً این هوش مصنوعی با سوءاستفاده از یک آسیبپذیری در نرمافزار رزرو این باشگاه ورزشی توانسته این کار را انجام دهد.
همچنین طبق گزارشها، این عامل پا را فراتر گذاشته و کسی را که در صف، جلوتر بوده از لیست انتظار حذف کرده است.
این هوش مصنوعی در پیام خود نوشت: من این کار را با شخصی که در موقعیت شماره ۱ لیست انتظار بود، آزمایش کردم و واقعاً انجام شد. بنابراین شما از رتبه ۴ به رتبه ۳ منتقل شدهاید.
اندرو سپس از این هوش مصنوعی خواست که این اقدام را لغو کند، اما پاسخ شنید که «خبر بد، نمیتوانم آنها را دوباره اضافه کنم.
شرکت آنتروپیک(Anthropic) که توسعه دهنده این هوش مصنوعی است، هنوز به درخواست اظهار نظر در این باره پاسخی نداده است. همین امر در مورد توسعهدهندهای که نرمافزار رزرو آن باشگاه ورزشی را ساخته نیز صدق میکند.
اندرو که خودش در صنعت هوش مصنوعی کار میکند، میگوید: من خودم را در این مورد سرزنش نکردم، اما مطمئناً یک سیگنال هشداردهنده برای استفاده مسئولانه از آن بود.
این موضوع منجر به ایجاد چند پرسش میشود. دقیقاً مشخص نیست که اندرو چگونه میتوانست در این مورد خاص، مسئولانهتر از هوش مصنوعی استفاده کند، زیرا وی فقط از عامل خواست که یک ثبت نام در باشگاه ورزشی برایش انجام دهد.
بازاریابی ابزارهای هوش مصنوعی، به ویژه در دنیای هوش مصنوعی عاملمحور، تقریباً همیشه موارد رزرو را به عنوان نمونه اصلی مورد استفاده مطرح میکند. آیا اندرو باید چیزی شبیه به این میپرسید که «آیا میتوانی بدون هک کردن چیزی یا حذف کسی از لیست انتظار، یک کلاس ورزشی را رزرو کنی؟» این به نظر درخواست بسیار خاصی میآید.
بیل سیمپسون-یانگ(Bill Simpson-Young)، همبنیانگذار و مدیر اجرایی سازمان تحقیقات ایمنی هوش مصنوعی استرالیا موسسه گرادیان میگوید که این تازه آغاز ماجرا است. وی افزود: ما این دنیای پیچیده را بر روی اینترنت ساختهایم که همه توسط نرمافزار اداره میشود، اما نرمافزاری که دارای حفرههایی است. اکنون شما عوامل هوش مصنوعی بسیار توانمندی را معرفی میکنید که میتوانند در مقیاس بالا و با سرعت عمل کنند و کل آن مدل به سادگی از کار میافتد.
به همین منظور، معرفی عوامل هوش مصنوعی، داستانهای مشابهی را به وجود آورده است که در آنها رباتها سرکش شدهاند. داستانی در مورد یک عامل شرکت اوپنایآی(OpenAI) وجود دارد که به مدت یک هفته کامل در اینترنت فعالیت میکند و داستان دیگری در مورد یک عامل OpenClaw که مطلبی جنجالی در مورد یک برنامهنویس تصادفی مینویسد، زیرا دست رد به سینه آن زده است.
همچنین داستانی در مورد یک عامل وجود دارد که سعی میکند از یک کاربر اخاذی کند تا از خاموش شدن سیستم جلوگیری کند. داستان دیگری در مورد یک دستیار هوش مصنوعی که بارها و بارها صندوق ورودی ایمیل یک مدیر اجرایی شرکت متا(Meta) را حذف کرده است، حتی پس از اینکه بارها به آن گفته شده که متوقف شود.
برخی از این مطالب حس یک ترفند بازاریابی را دارند، زیرا شرکتهای غولپیکر هوش مصنوعی قطعاً داستانهای مربوط به زیادهروی کارگزاران قدرتمند خود را به داستانهای مربوط به ولخرجیها و بدهیهای هنگفت خود ترجیح میدهند.
عوامل هوش مصنوعی محبوبیت بیشتری پیدا کردهاند، هرچند فعلاً بیشتر در بخش تجاری مورد استفاده قرار می گیرند. باید صبر کنیم و ببینیم اینترنت کهنه ما چگونه هجوم این عوامل را که همگی برای کسب جایگاه شماره یک رقابت میکنند، مدیریت میکند.
