اخطار اوپن ای آی به ۱۰۰ شرکت
به گزارش سئو بوی، طبق پستی که اوپن ای آی در وبلاگ خود منتشر نموده، این شرکت بیشتر از ۱۰۰ سازمان را در جریان حوادثی در رابطه با کارهای غیرمجازِ منتسب به عوامل هوش مصنوعی خود قرار داده است.
به گزارش سئو بوی به نقل از رویترز، این در حالیست که لابراتوار های هوش مصنوعی به سبب فعالیتهای کنترل نشده این عوامل، با نظارت و فشار درحال افزایشی مواجه هستند.
شرکت تحت مدیریت سم آلتمن بعد از هک تصادفی پلت فرم هاگینگ فیس، بررسی گسترده ای را درباره ی فعالیت مدلهای هوش مصنوعی خود شروع کرده است. اوپن ای آی در جریان این بررسی، حدود ۵۰ پتابایت داده را جست وجو و بررسی می کند تا ابعاد کامل فعالیتهای کنترل نشده عوامل هوش مصنوعی خودرا مشخص نماید.
طی ماه های اخیر، وقوع چندین رخنه امنیتی مهم در نقاط مختلف جهان که به عوامل هوش مصنوعی کنترل نشده نسبت داده شده، نگرانی گسترده ای را در صنعت هوش مصنوعی بوجود آورده است. این نگرانی ها عمدتا درباره ی توانایی شرکتها برای کنترل مدلهای قدرتمندتر هوش مصنوعی است که حال درحال توسعه هستند.
اوپن ای آی در اینباره اعلام نمود: در تعدادی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسیهای بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود. طی چند ماه گذشته، اقدامات فنی و عملیاتی جدیدی را برای پیشگیری از تکرار چنین مشکلاتی یا شناسایی خیلی سریع آنها اجرا کرده ایم و این کار را ادامه خواهیم داد.
اوپن ای آی قبل تر اعلام نموده بود که با عنایت به گستردگی این بررسی، تکمیل آن ممکنست چند ماه بطول بیانجامد.
به اجمال، به گزارش سئو بوی به نقل از رویترز، این در حالیست که آزمایشگاه های هوش مصنوعی به جهت کارهای کنترل نشده این عوامل، با نظارت و فشار در حال افزایشی مواجهند. شرکت تحت مدیریت سم آلتمن پس از هک تصادفی پلتفرم هاگینگ فیس، بررسی گسترده ای را درباره ی ی فعالیت مدل های هوش مصنوعی خود آغاز نموده است. این نگرانی ها عمدتاً درباره ی ی توانایی شرکتها برای کنترل مدل های قدرتمندتر هوش مصنوعی است که حال در حال توسعه هستند. اوپن ای آی در این باره اعلام نمود: در تعدادی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسیهای بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود.
منبع: سئو بوی
شرکت تحت مدیریت سم آلتمن بعد از هک تصادفی پلت فرم هاگینگ فیس، بررسی گسترده ای را درباره ی فعالیت مدلهای هوش مصنوعی خود شروع کرده است. اوپن ای آی در جریان این بررسی، حدود ۵۰ پتابایت داده را جست وجو و بررسی می کند تا ابعاد کامل فعالیتهای کنترل نشده عوامل هوش مصنوعی خودرا مشخص نماید.
طی ماه های اخیر، وقوع چندین رخنه امنیتی مهم در نقاط مختلف جهان که به عوامل هوش مصنوعی کنترل نشده نسبت داده شده، نگرانی گسترده ای را در صنعت هوش مصنوعی بوجود آورده است. این نگرانی ها عمدتا درباره ی توانایی شرکتها برای کنترل مدلهای قدرتمندتر هوش مصنوعی است که حال درحال توسعه هستند.
اوپن ای آی در اینباره اعلام نمود: در تعدادی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسیهای بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود. طی چند ماه گذشته، اقدامات فنی و عملیاتی جدیدی را برای پیشگیری از تکرار چنین مشکلاتی یا شناسایی خیلی سریع آنها اجرا کرده ایم و این کار را ادامه خواهیم داد.
اوپن ای آی قبل تر اعلام نموده بود که با عنایت به گستردگی این بررسی، تکمیل آن ممکنست چند ماه بطول بیانجامد.
به اجمال، به گزارش سئو بوی به نقل از رویترز، این در حالیست که آزمایشگاه های هوش مصنوعی به جهت کارهای کنترل نشده این عوامل، با نظارت و فشار در حال افزایشی مواجهند. شرکت تحت مدیریت سم آلتمن پس از هک تصادفی پلتفرم هاگینگ فیس، بررسی گسترده ای را درباره ی ی فعالیت مدل های هوش مصنوعی خود آغاز نموده است. این نگرانی ها عمدتاً درباره ی ی توانایی شرکتها برای کنترل مدل های قدرتمندتر هوش مصنوعی است که حال در حال توسعه هستند. اوپن ای آی در این باره اعلام نمود: در تعدادی موارد، مدلها از دسترسی به اینترنت به شیوه هایی استفاده کردند که مورد انتظار ما نبود یا در بررسیهای بعدی مشخص شد که محدودیت های مناسبی روی آنها اعمال نشده بود.
منبع: سئو بوی
About the Author
