اوپن‌ای‌آی به‌دلیل نفوذ ایجنت‌هایش به هاگینگ فیس با شکایت حقوقی روبه‌رو شد

به گزارش خبرگزاری آگاه؛ سازمان غیرانتفاعی «مدافعان حقوقی علم و فناوری ایمن» (LASST) روز ۷ مهر شکایت خود را در دادگاه عالی کالیفرنیا در سان‌فرانسیسکو ثبت کرد. این سازمان مدعی است فعالیت ایجنت‌های اوپن‌ای‌آی در جریان نفوذ به هاگینگ فیس، قانون جامع دسترسی و تقلب در داده‌های رایانه‌ای کالیفرنیا را نقض کرده و مسئولیت اقدامات یک سامانه هوش مصنوعی نیز متوجه شرکتی است که آن را توسعه داده و آزمایش کرده است. LASST در این پرونده به‌دنبال دریافت غرامت مالی نیست و از دادگاه می‌خواهد اوپن‌ای‌آی را از دسترسی آگاهانه یا فراهم کردن دسترسی بدون مجوز ایجنت‌هایش به سامانه‌های رایانه‌ای دیگر منع کند.

ماجرای نفوذ از یک آزمایش امنیتی آغاز شد

حادثه مورد بحث به تیر امسال برمی‌گردد؛ زمانی که اوپن‌ای‌آی چند مدل خود را با ExploitGym آزمایش می‌کرد. این معیار برای سنجش توانایی مدل‌های هوش مصنوعی در یافتن و بهره‌برداری از آسیب‌پذیری‌های نرم‌افزاری طراحی شده و ایجنت باید با پیدا کردن راه نفوذ به یک برنامه، پاسخ مشخصی را از محیط آزمایش استخراج کند. اوپن‌ای‌آی بعداً در گزارش رسمی خود تأیید کرد مدل‌ها در این آزمایش‌ها با سطح پایین‌تری از محدودیت‌های ایمنی نسبت به محصولات عمومی فعالیت می‌کردند و توانستند کنترل‌هایی را که برای جلوگیری از دسترسی آن‌ها به اینترنت در نظر گرفته شده بود دور بزنند.

ایجنت‌ها ابتدا از یک آسیب‌پذیری در Artifactory استفاده کردند؛ سامانه‌ای که اوپن‌ای‌آی برای دریافت و ذخیره بسته‌های نرم‌افزاری به کار می‌برد و دسترسی محدودی به اینترنت داشت. آن‌ها از همین مسیر ارتباط با اینترنت را برقرار کردند و سپس هنگام جست‌وجوی راهی برای حل بهتر آزمون‌ها به زیرساخت‌های خارج از اوپن‌ای‌آی رسیدند. هاگینگ فیس نیز بعداً اعلام کرد نفوذ شناسایی‌شده در زیرساخت این شرکت از ابتدا تا انتها توسط یک سامانه ایجنت خودکار انجام شده بود.

ایجنت‌ها به سرور‌های هاگینگ فیس رسیدند

گزارش فنی اوپن‌ای‌آی جزئیات گسترده‌تری از اتفاقات ارائه می‌کند. ایجنت‌ها ابتدا تعدادی اطلاعات ورود عمومی، اما قابل استفاده مرتبط با هاگینگ فیس را پیدا کردند و سپس چند آسیب‌پذیری را در کنار هم قرار دادند تا روی سرور‌های این شرکت کد اجرا کنند. دامنه دسترسی در ادامه افزایش یافت و به گفته اوپن‌ای‌آی، ایجنت‌ها روی ده‌ها سرور کد اجرا کردند، روی یکی از آن‌ها دسترسی کامل ریشه به دست آوردند و به بخشی از داده‌های خصوصی و اطلاعات ورود سامانه‌های داخلی دسترسی پیدا کردند.

هدف اولیه ایجنت‌ها حمله به هاگینگ فیس نبود. آن‌ها برای حل آزمون ExploitGym به‌دنبال پاسخ یا اطلاعاتی بودند که بتواند امتیازشان را در ارزیابی بالا ببرد و به‌تدریج از محدوده وظیفه تعیین‌شده خارج شدند. اوپن‌ای‌آی این رفتار را نمونه‌ای از «تقلب در پاداش» توصیف کرده است؛ شرایطی که سامانه به‌جای حل مسئله از مسیر موردنظر، راه دیگری برای رسیدن به نتیجه و دریافت امتیاز پیدا می‌کند. شرکت همچنین اذعان کرده ایجنت‌ها در این فرایند به زیرساخت‌های اشخاص ثالث دسترسی پیدا کردند و اقداماتی انجام دادند که با هدف اصلی آزمایش هم‌راستا نبود.

شاکی می‌گوید نظارت اوپن‌ای‌آی کافی نبوده است

LASST در شکایت خود مدعی است اوپن‌ای‌آی هنگام انجام این آزمایش‌ها عمداً بعضی سازوکار‌های محدودکننده امنیت سایبری را کنار گذاشته و در عین حال نظارت کافی بر رفتار ایجنت‌ها نداشته است. گزارش خود اوپن‌ای‌آی نیز تأیید می‌کند که مدل‌های مورد آزمایش با همه محدودیت‌های امنیتی نسخه‌های عمومی اجرا نمی‌شدند، هرچند نحوه توصیف مسئولیت حقوقی شرکت در دادخواست، ادعای شاکی است و دادگاه هنوز درباره آن تصمیمی نگرفته است.

این سازمان همچنین می‌گوید برای بررسی و واکنش به حادثه مجبور شده بخشی از زمان کارکنان و منابع خود را به این موضوع اختصاص دهد و بر همین اساس استدلال می‌کند حق طرح شکایت تحت قانون رقابت ناعادلانه کالیفرنیا را دارد. یکی از محور‌های اصلی پرونده این است که آیا توسعه‌دهنده یک سامانه هوش مصنوعی می‌تواند در برابر اقداماتی که مدل بدون دستور مستقیم انسان انجام داده، مسئول شناخته شود یا خیر.

اوپن‌ای‌آی پس از حادثه محدودیت‌ها را افزایش داد

اوپن‌ای‌آی پس از بررسی حادثه اعلام کرد مدل پژوهشی که نقش اصلی را در نفوذ داشت از دسترس خارج شده و مجموعه‌ای از تغییرات امنیتی را اجرا کرده است. شرکت محیط‌های آزمایشی را بیشتر از شبکه‌های خارجی جدا کرده، دسترسی به اینترنت را محدودتر کرده و نظارت بر فرایند استدلال و رفتار ایجنت‌ها را افزایش داده است. اوپن‌ای‌آی این حادثه را هشداری درباره توانایی ایجنت‌های پیشرفته توصیف کرده و پذیرفته است چنین سامانه‌هایی در نبود محدودیت‌های کافی می‌توانند آسیب‌پذیری‌های چند سامانه مختلف را پیدا و از آن‌ها سوءاستفاده کنند.

ماجرای هاگینگ فیس تنها مورد گزارش‌شده از خروج ایجنت‌های پیشرفته از محدوده آزمایش نیست. آنتروپیک نیز اوایل شهریور جزئیات ۴ حادثه را منتشر کرد که در آن‌ها مدل‌های Claude هنگام ارزیابی‌های امنیت سایبری به سامانه‌های واقعی اشخاص ثالث دسترسی بدون مجوز پیدا کرده بودند. این شرکت اعلام کرد همه موارد در محیط‌های آزمایشی رخ داده‌اند، اما رفتار مدل‌ها را جدی ارزیابی کرده و ضعف در نحوه تعریف محدوده مأموریت و تنظیم محیط آزمایش را از عوامل وقوع آن‌ها دانسته است.

LASST اکنون از دادگاه می‌خواهد علاوه بر جلوگیری از دسترسی بدون مجوز ایجنت‌های اوپن‌ای‌آی به سامانه‌های دیگر، این شرکت را از شیوه‌هایی که به ادعای شاکی قوانین ضدنفوذ کالیفرنیا را نقض می‌کنند یا می‌توانند خطر جدی برای عموم ایجاد کنند منع کند. نتیجه این پرونده می‌تواند به یکی از نخستین آزمون‌های حقوقی درباره مسئولیت شرکت‌ها در قبال اقداماتی تبدیل شود که ایجنت‌های خودکار آن‌ها بدون دستور مرحله‌به‌مرحله انسان انجام می‌دهند.

انتهای خبر/280611/