قوانین جدید چت جی پی تی برای حفظ ایمنی نوجوانان
به گزارش سئو بوی، «اوپن ای آی» هم زمان با بررسی استانداردهای هوش مصنوعی برای افراد زیر سن قانونی، قوانین جدیدی را برای ایمنی نوجوانان به «چت جی پی تی» اضافه می کند.
به گزارش سئو بوی به نقل از ایسنا، شرکت «اوپن ای آی»(OpenAI) در جدید ترین تلاش خود برای رسیدگی به نگرانی های فزاینده پیرامون تأثیر هوش مصنوعی بر جوانان، دستورالعمل های خودرا درباره ی نحوه رفتار مدلهای هوش مصنوعی خود با کاربران زیر ۱۸ سال بروزرسانی کرد و منابع آموزش جدیدی را برای هوش مصنوعی ویژه نوجوانان و والدین انتشار داد. با این حال، پرسش هایی درباره ی چگونگی اجرای مداوم چنین سیاست هایی باقیمانده است.
به نقل از تک کرانچ، این بروزرسانی ها در حالی منتشر می شوند که بعد از خودکشی چندین نوجوان در پی گفت وگوهای طولانی با چت بات های هوش مصنوعی، صنعت هوش مصنوعی و بطور ویژه اوپن ای آی با بررسی دقیق تری از طرف سیاست گذاران، مربیان و مدافعان ایمنی خردسالان رو به رو شده اند.
نسل Z که متولدین بین سالهای ۱۹۹۷ تا ۲۰۱۲ هستند، فعال ترین کاربران چت بات شرکت اوپن ای آی به شمار می روند و بعد از قرارداد اخیر اوپن ای آی با «دیزنی»(Disney) امکان دارد جوانان بیشتری به این پلت فرم روی بیاورند. این چت بات به کاربر امکان می دهد تا همه کارها را از درخواست کمک در انجام تکالیف گرفته تا تولید تصاویر و ویدیوها درباره ی هزاران موضوع انجام دهند.
۴۲ دادستان کل ایالت طی هفته قبل نامه ای را خطاب به شرکتهای بزرگ فناوری نوشتند و از آنها خواستند که برای حفاظت از خردسالان و افراد لطمه پذیر، تدابیر حفاظتی را درباره ی چت بات های هوش مصنوعی اجرا کنند. بااینکه دولت ترامپ درحال بررسی استاندارد فدرال پیرامون مقررات هوش مصنوعی است، اما سیاست گذارانی مانند سناتور «جاش هاولی»(Josh Hawley) جمهوری خواه اهل ایالت میزوری، قانونی را معرفی کرده اند که تعامل افراد زیر سن قانونی با چت بات های هوش مصنوعی را در مجموع ممنوع می کند.
مشخصات مدل بروزرسانی شده اوپن ای آی که دستورالعمل های رفتاری را برای مدلهای زبانی بزرگ آن تعیین می کند، بر طبق مشخصات موجود ساخته شده است که مدلها را از تولید محتوای جنسی در ارتباط با افراد زیر سن قانونی یا تشویق به خودآزاری، توهم یا شیدایی منع می کند. این مشخصات با یک مدل پیشبینی سن که در آینده عرضه خواهد شد، کار می کند. این مدل تشخیص می دهد که حساب کاربری متعلق به یک شخص زیر سن قانونی می باشد و بطور خودکار اقدامات حفاظتی نوجوانان را اعمال می کند.
در مقایسه با کاربران بزرگسال، وقتی یک نوجوان از این مدلها بهره می برد، مشمول قوانین سختگیرانه تری می شود. به مدلها فرمان داده شده است که از ایفای نقش عاشقانه، صمیمیت اول شخص و ایفای نقش جنسی یا خشونت آمیز اول شخص حتی زمانیکه غیر گرافیکی باشد، اجتناب کنند. همچنین، این مشخصات خواهان احتیاط بیشتر درباره ی موضوع هایی مانند تصویر بدن و رفتارهای در ارتباط با اختلال خوردن هستند و به مدلها دستور می دهند که در صورت وجود آسیب، ارتباط درباره ی ایمنی را بر خودمختاری اولویت دهند و از سفارش هایی که به نوجوانان کمک می نماید تا رفتار ناامن خودرا از مراقبان پنهان کنند، اجتناب کنند.
اوپن ای آی تصریح می کند که حتی وقتی دستورالعمل ها به شکل تخیلی، فرضی، تاریخی یا آموزشی ارایه می شوند، این محدودیت ها باید پابرجا بمانند؛ برای اینکه این موارد، تاکتیک های رایجی هستند که برای منحرف کردن یک مدل هوش مصنوعی از دستورالعمل هایش، به ایفای نقش یا سناریوهای حاشیه ای اتکا دارند.
خلاصه اینکه با این وجود، پرسش هایی درباره ی ی چگونگی اجرای مداوم چنین سیاست هایی باقی مانده است. به مدلها فرمان داده شده است که از ایفای نقش عاشقانه، صمیمیت اول شخص و ایفای نقش جنسی یا خشونت آمیز اول شخص حتی زمانیکه غیر گرافیکی باشد، خودداری کنند.
به نقل از تک کرانچ، این بروزرسانی ها در حالی منتشر می شوند که بعد از خودکشی چندین نوجوان در پی گفت وگوهای طولانی با چت بات های هوش مصنوعی، صنعت هوش مصنوعی و بطور ویژه اوپن ای آی با بررسی دقیق تری از طرف سیاست گذاران، مربیان و مدافعان ایمنی خردسالان رو به رو شده اند.
نسل Z که متولدین بین سالهای ۱۹۹۷ تا ۲۰۱۲ هستند، فعال ترین کاربران چت بات شرکت اوپن ای آی به شمار می روند و بعد از قرارداد اخیر اوپن ای آی با «دیزنی»(Disney) امکان دارد جوانان بیشتری به این پلت فرم روی بیاورند. این چت بات به کاربر امکان می دهد تا همه کارها را از درخواست کمک در انجام تکالیف گرفته تا تولید تصاویر و ویدیوها درباره ی هزاران موضوع انجام دهند.
۴۲ دادستان کل ایالت طی هفته قبل نامه ای را خطاب به شرکتهای بزرگ فناوری نوشتند و از آنها خواستند که برای حفاظت از خردسالان و افراد لطمه پذیر، تدابیر حفاظتی را درباره ی چت بات های هوش مصنوعی اجرا کنند. بااینکه دولت ترامپ درحال بررسی استاندارد فدرال پیرامون مقررات هوش مصنوعی است، اما سیاست گذارانی مانند سناتور «جاش هاولی»(Josh Hawley) جمهوری خواه اهل ایالت میزوری، قانونی را معرفی کرده اند که تعامل افراد زیر سن قانونی با چت بات های هوش مصنوعی را در مجموع ممنوع می کند.
مشخصات مدل بروزرسانی شده اوپن ای آی که دستورالعمل های رفتاری را برای مدلهای زبانی بزرگ آن تعیین می کند، بر طبق مشخصات موجود ساخته شده است که مدلها را از تولید محتوای جنسی در ارتباط با افراد زیر سن قانونی یا تشویق به خودآزاری، توهم یا شیدایی منع می کند. این مشخصات با یک مدل پیشبینی سن که در آینده عرضه خواهد شد، کار می کند. این مدل تشخیص می دهد که حساب کاربری متعلق به یک شخص زیر سن قانونی می باشد و بطور خودکار اقدامات حفاظتی نوجوانان را اعمال می کند.
در مقایسه با کاربران بزرگسال، وقتی یک نوجوان از این مدلها بهره می برد، مشمول قوانین سختگیرانه تری می شود. به مدلها فرمان داده شده است که از ایفای نقش عاشقانه، صمیمیت اول شخص و ایفای نقش جنسی یا خشونت آمیز اول شخص حتی زمانیکه غیر گرافیکی باشد، اجتناب کنند. همچنین، این مشخصات خواهان احتیاط بیشتر درباره ی موضوع هایی مانند تصویر بدن و رفتارهای در ارتباط با اختلال خوردن هستند و به مدلها دستور می دهند که در صورت وجود آسیب، ارتباط درباره ی ایمنی را بر خودمختاری اولویت دهند و از سفارش هایی که به نوجوانان کمک می نماید تا رفتار ناامن خودرا از مراقبان پنهان کنند، اجتناب کنند.
اوپن ای آی تصریح می کند که حتی وقتی دستورالعمل ها به شکل تخیلی، فرضی، تاریخی یا آموزشی ارایه می شوند، این محدودیت ها باید پابرجا بمانند؛ برای اینکه این موارد، تاکتیک های رایجی هستند که برای منحرف کردن یک مدل هوش مصنوعی از دستورالعمل هایش، به ایفای نقش یا سناریوهای حاشیه ای اتکا دارند.
خلاصه اینکه با این وجود، پرسش هایی درباره ی ی چگونگی اجرای مداوم چنین سیاست هایی باقی مانده است. به مدلها فرمان داده شده است که از ایفای نقش عاشقانه، صمیمیت اول شخص و ایفای نقش جنسی یا خشونت آمیز اول شخص حتی زمانیکه غیر گرافیکی باشد، خودداری کنند.
About the Author
