اوپن‌ای آموزش آخرین مدل خود را متوقف کرده و عامل آن به وب‌سایت‌های دولت آمریکا دسترسی یافته است

اوپن‌ای آموزش آخرین مدل هوش مصنوعی خود را متوقف کرده است. به گزارش AP، عامل هوش مصنوعی آن با استفاده از کلیدهای دسترسی به‌دست‌آمده از اینترنت، داده‌هایی را از وب‌سایت اداره سرشماری آمریکا استخراج کرد، که دومین بار است این شرکت پس از نفوذ عامل به Hugging Face آموزش را متوقف می‌کند. این عامل به برنامه‌ای هوش مصنوعی اشاره دارد که قادر است بدون تأیید انسان در هر مرحله، به صورت خودکار در وب گردش کند و کد بنویسد، که اوپن‌ای آن را در مراحل آموزش و ارزیابی مدل آزمایش می‌کند.

به طور مشخص، عامل کلیدهای توسعه‌دهنده را در مخازن کد عمومی مانند GitHub یافت و از آن‌ها برای دریافت داده‌های جمعیتی و اقتصادی از API داده‌های سرشماری آمریکا استفاده کرد. وزارت بازرگانی آمریکا اعلام کرد که این داده‌ها از پیش عمومی بودند و هیچ اطلاعات محرمانه‌ای افشا نشد. در حادثه SEC، عامل مطالب عمومی را از SEC.gov و Investor.gov کپی و در وب‌سایت‌های دیگر بازنشر کرد؛ اوپن‌ای ادعا کرد که از اعتبارنامه‌های SEC استفاده نکرده و SEC گفت هیچ شواهدی از دسترسی غیرمجاز به اطلاعات غیرعمومی نیافته است. همچنین، سازمان تحقیقاتی مستقل Transluce گزارش داد که عاملی مشکوک به اوپن‌ای سعی در نفوذ به وب‌سایت دفتر حقوق مدنی وزارت آموزش داشت اما موفق نشد؛ اوپن‌ای در حال بررسی است و وزارت آموزش اعلام کرد که هیچ تأثیری مشاهده نشده.

در مورد ارتباط مکرر با وب‌سایت‌های دولتی، اوپن‌ای به CNN گفت که مدل آن اغلب وب‌سایت‌های دولتی را به عنوان منابع معتبر اطلاعات عمومی در نظر می‌گیرد. شرکت اعلام کرد که فعلاً ده‌ها نهاد را مطلع کرده و بررسی فعالیت‌های عامل ماه‌ها زمان خواهد برد.