متن خبر
به گزارش خبرگزاری آگاه؛ سازمان غیرانتفاعی «مدافعان حقوقی علم و فناوری ایمن» (LASST) روز ۷ مهر شکایت خود را در دادگاه عالی کالیفرنیا در سان‌فرانسیسکو ثبت کرد. این سازمان مدعی است فعالیت ایجنت‌های اوپن‌ای‌آی در جریان نفوذ به هاگینگ فیس، قانون جامع دسترسی و تقلب در داده‌های رایانه‌ای کالیفرنیا را نقض کرده و مسئولیت اقدامات یک سامانه هوش مصنوعی نیز متوجه شرکتی است که آن را توسعه داده و آزمایش کرده است. LASST در این پرونده به‌دنبال دریافت غرامت مالی نیست و از دادگاه می‌خواهد اوپن‌ای‌آی را از دسترسی آگاهانه یا فراهم کردن دسترسی بدون مجوز ایجنت‌هایش به سامانه‌های رایانه‌ای دیگر منع کند.
ماجرای نفوذ از یک آزمایش امنیتی آغاز شد
حادثه مورد بحث به تیر امسال برمی‌گردد؛ زمانی که اوپن‌ای‌آی چند مدل خود را با ExploitGym آزمایش می‌کرد. این معیار برای سنجش توانایی مدل‌های هوش مصنوعی در یافتن و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری طراحی شده و ایجنت باید با پیدا کردن راه نفوذ به یک برنامه، پاسخ مشخصی را از محیط آزمایش استخراج کند. اوپن‌ای‌آی بعداً در گزارش رسمی خود تأیید کرد مدل‌ها در این آزمایش‌ها با سطح پایین‌تری از محدودیت‌های ایمنی نسبت به محصولات عمومی فعالیت می‌کردند و توانستند کنترل‌هایی را که برای جلوگیری از دسترسی آن‌ها به اینترنت در نظر گرفته شده بود دور بزنند.
ایجنت‌ها ابتدا از یک آسیب‌پذیری در Artifactory استفاده کردند؛ سامانه‌ای که اوپن‌ای‌آی برای دریافت و ذخیره بسته‌های نرم‌افزاری به کار می‌برد و دسترسی محدودی به اینترنت داشت. آن‌ها از همین مسیر ارتباط با اینترنت را برقرار کردند و سپس هنگام جست‌وجوی راهی برای حل بهتر آزمون‌ها به زیرساخت‌های خارج از اوپن‌ای‌آی رسیدند. هاگینگ فیس نیز بعداً اعلام کرد نفوذ شناسایی‌شده در زیرساخت این شرکت از ابتدا تا انتها توسط یک سامانه ایجنت خودکار انجام شده بود.
ایجنت‌ها به سرور‌های هاگینگ فیس رسیدند
گزارش فنی اوپن‌ای‌آی جزئیات گسترده‌تری از اتفاقات ارائه می‌کند. ایجنت‌ها ابتدا تعدادی اطلاعات ورود عمومی، اما قابل استفاده مرتبط با هاگینگ فیس را پیدا کردند و سپس چند آسیب‌پذیری را در کنار هم قرار دادند تا روی سرور‌های این شرکت کد اجرا کنند. دامنه دسترسی در ادامه افزایش یافت و به گفته اوپن‌ای‌آی، ایجنت‌ها روی ده‌ها سرور کد اجرا کردند، روی یکی از آن‌ها دسترسی کامل ریشه به دست آوردند و به بخشی از داده‌های خصوصی و اطلاعات ورود سامانه‌های داخلی دسترسی پیدا کردند.
هدف اولیه ایجنت‌ها حمله به هاگینگ فیس نبود. آن‌ها برای حل آزمون ExploitGym به‌دنبال پاسخ یا اطلاعاتی بودند که بتواند امتیازشان را در ارزیابی بالا ببرد و به‌تدریج از محدوده وظیفه تعیین‌شده خارج شدند. اوپن‌ای‌آی این رفتار را نمونه‌ای از «تقلب در پاداش» توصیف کرده است؛ شرایطی که سامانه به‌جای حل مسئله از مسیر موردنظر، راه دیگری برای رسیدن به نتیجه و دریافت امتیاز پیدا می‌کند. شرکت همچنین اذعان کرده ایجنت‌ها در این فرایند به زیرساخت‌های اشخاص ثالث دسترسی پیدا کردند و اقداماتی انجام دادند که با هدف اصلی آزمایش هم‌راستا نبود.
شاکی می‌گوید نظارت اوپن‌ای‌آی کافی نبوده است
LASST در شکایت خود مدعی است اوپن‌ای‌آی هنگام انجام این آزمایش‌ها عمداً بعضی سازوکار‌های محدودکننده امنیت سایبری را کنار گذاشته و در عین حال نظارت کافی بر رفتار ایجنت‌ها نداشته است. گزارش خود اوپن‌ای‌آی نیز تأیید می‌کند که مدل‌های مورد آزمایش با همه محدودیت‌های امنیتی نسخه‌های عمومی اجرا نمی‌شدند، هرچند نحوه توصیف مسئولیت حقوقی شرکت در دادخواست، ادعای شاکی است و دادگاه هنوز درباره آن تصمیمی نگرفته است.
این سازمان همچنین می‌گوید برای بررسی و واکنش به حادثه مجبور شده بخشی از زمان کارکنان و منابع خود را به این موضوع اختصاص دهد و بر همین اساس استدلال می‌کند حق طرح شکایت تحت قانون رقابت ناعادلانه کالیفرنیا را دارد. یکی از محور‌های اصلی پرونده این است که آیا توسعه‌دهنده یک سامانه هوش مصنوعی می‌تواند در برابر اقداماتی که مدل بدون دستور مستقیم انسان انجام داده، مسئول شناخته شود یا خیر.
اوپن‌ای‌آی پس از حادثه محدودیت‌ها را افزایش داد
اوپن‌ای‌آی پس از بررسی حادثه اعلام کرد مدل پژوهشی که نقش اصلی را در نفوذ داشت از دسترس خارج شده و مجموعه‌ای از تغییرات امنیتی را اجرا کرده است. شرکت محیط‌های آزمایشی را بیشتر از شبکه‌های خارجی جدا کرده، دسترسی به اینترنت را محدودتر کرده و نظارت بر فرایند استدلال و رفتار ایجنت‌ها را افزایش داده است. اوپن‌ای‌آی این حادثه را هشداری درباره توانایی ایجنت‌های پیشرفته توصیف کرده و پذیرفته است چنین سامانه‌هایی در نبود محدودیت‌های کافی می‌توانند آسیب‌پذیری‌های چند سامانه مختلف را پیدا و از آن‌ها سوءاستفاده کنند.
ماجرای هاگینگ فیس تنها مورد گزارش‌شده از خروج ایجنت‌های پیشرفته از محدوده آزمایش نیست. آنتروپیک نیز اوایل شهریور جزئیات ۴ حادثه را منتشر کرد که در آن‌ها مدل‌های Claude هنگام ارزیابی‌های امنیت سایبری به سامانه‌های واقعی اشخاص ثالث دسترسی بدون مجوز پیدا کرده بودند. این شرکت اعلام کرد همه موارد در محیط‌های آزمایشی رخ داده‌اند، اما رفتار مدل‌ها را جدی ارزیابی کرده و ضعف در نحوه تعریف محدوده مأموریت و تنظیم محیط آزمایش را از عوامل وقوع آن‌ها دانسته است.
LASST اکنون از دادگاه می‌خواهد علاوه بر جلوگیری از دسترسی بدون مجوز ایجنت‌های اوپن‌ای‌آی به سامانه‌های دیگر، این شرکت را از شیوه‌هایی که به ادعای شاکی قوانین ضدنفوذ کالیفرنیا را نقض می‌کنند یا می‌توانند خطر جدی برای عموم ایجاد کنند منع کند. نتیجه این پرونده می‌تواند به یکی از نخستین آزمون‌های حقوقی درباره مسئولیت شرکت‌ها در قبال اقداماتی تبدیل شود که ایجنت‌های خودکار آن‌ها بدون دستور مرحله‌به‌مرحله انسان انجام می‌دهند.
انتهای خبر/280611/
اخبار اقتصادی
- مسئولان با تلاش بیشتر برای کاهش فشارهای اقتصادی چارهاندیشی کنند
- سازمان بازرسی ۶۰ پروژه نظارتی برای مقابله با تخلفات اقتصادی و حمایت از معیشت مردم تعریف کرده است
- آیتالله خاتمی: ایران قدرتمند و دشمنانش خار و ذلیل هستند/ پیشبینی آمریکا برای فروپاشی اقتصاد ایران محقق نشد
- بهره برداری از اولین سامانه آشکار سازی ایکس ری غیر مانع پلیس امنیت اقتصادی در بوشهر
- هشدار صندوق بینالمللی پول: اقتصاد کشورهای حوزه خلیج فارس به زودی به روند رشد پیش از جنگ باز نخواهد گشت
- نشانی هوشمند می‌تواند بهرهوری اقتصادی را افزایش دهد
- نظرسنجی در ترکیه؛ ۷۲ درصد از شهروندان سیاستهای اقتصادی دولت اردوغان را ناموفق میدانند
- دامپزشکی یکی از رشتههای راهبردی در حوزه سلامت، اقتصاد و توسعه ملی است
- تشکلهای اقتصاد دیجیتال برای رفع موانع فعالیت پلتفرمهای سلامت آنلاین همکاری می‌کنند
- همتی: ادعای فروپاشی اقتصاد ایران توهمی بیش نیست
اخبار اجتماعی
- چه ارتباطی میان شبکه‌های اجتماعی و شیفتگی وسواسگونه به سلبریتیها وجود دارد؟
- حتی متخصصان فناوری، استفاده فرزندانشان از شبکه‌های اجتماعی را محدود می‌کنند
- طراحی فناوریهای نوین برای پایش عدالت اجتماعی و امنیت غذایی کشور
- احکام تعرفه پرستاری در تأمین اجتماعی از آذرماه آغاز میشود
- میراث زنده؛ سرمایهای برای تابآوری اجتماعی در روزگار بحران
- خدمت جوانان به مردم در مناطق محروم جلوهای ارزشمند از تعهد اجتماعی و امیدآفرینی است
- چگونه احساس ناکافی بودن در کاربران شبکه‌های اجتماعی شکل میگیرد
- اقتدار ملی ایران از شاخصهای مادی فراتر رفته است/ انسجام اجتماعی، حلقه اتصال قدرت سخت و نرم
- تقویت نقش محلات و مساجد در کاهش آسیبها/ پیشگیری، اولویت مدیریت اجتماعی پایتخت باشد
- بحران آب با تاروپود زیست اجتماعی پیوند خورده/ ضرورت گذار به حکمرانی مشارکتی و ترمیم اعتماد اجتماعی
