آپن‌آی، سازنده ی چت جی پی تی، به توسعه سیستم های هوش مصنوعی ایمن متعهد شده است

اوپن‌ای‌ای یک پست وب جدید منتشر کرده است که به توسعه هوش مصنوعی (AI) ایمن و برای همه مفید متعهد است.

چت‌جی‌پی‌تی، توسط مدل جدید اوپنای GPT-4 انتشار یافته، قادر است بهبود بهره‌وری، افزایش خلاقیت و ارائه تجارب یادگیری واژه‌بندی شده ارائه کند.

با این حال، اوپن‌ای‌آی (OpenAI) از وجود خطرات ذاتی در ابزارهای هوش مصنوعی آگاهی دارد که باید از طریق تدابیر ایمنی و استفاده مسئولانه با آن مواجه شود.

این‌جاست که شرکت برای کاهش خطرات اقداماتی انجام می‌دهد.

تضمین ایمنی در سیستم های هوش مصنوعی

OpenAI در قبال انجام آزمایشات دقیق، همکاری با متخصصان خارجی و بهبود مدل‌های هوش مصنوعی خود با بازخورد انسان قبل از انتشار سیستم‌های جدید ، مورد توجه قرار می‌گیرد.

مثلاً، انتشار GPT-4 پیش از آن چنانکه ماه‌ها در دسترس قرار گرفت و برای اطمینان از ایمنی و تناسب با نیازهای کاربران آزمایش شد.

اپن‌آی بر این باور است که سیستم‌های هوش مصنوعی قابل اعتماد باید مورد ارزیابی‌های امنیتی دقیق قرار گیرند و نیاز به تنظیمات قانونی دارند.

یادگیری از استفاده در جهان واقعی

استفاده در جهان واقعی یک اجزای بحرانی در توسعه سیستم های هوش مصنوعی ایمن است. با انتشار محتاطانه مدل های جدید به یک پایگاه کاربری که به طور تدریجی گسترده می شود، OpenAI می تواند بهبودهایی را انجام دهد که مسائل غیرمنتظره را برطرف می کند.

با ارائه مدل‌های هوش مصنوعی از طریق API و وب‌سایت خود، OpenAI قادر است برای جلوگیری از سوء استفاده، اقدامات مناسب را انجام دهد و سیاست‌های دقیقی را برای تعادل میان خطرات توسعه دهد.

حفاظت از کودکان و رعایت حریم خصوصی

OpenAI با تأکید بر حفاظت از کودکان، از تأییدسنین استفاده می کند و استفاده از فناوری خود را برای تولید محتوای مضر ممنوع می کند.

حفظ حریم خصوصی از جوانب اساسی کار OpenAI می‌باشد. این سازمان برای افزایش کارایی مدل‌های خود از داده استفاده می‌کند، اما در عین حفاظت از کاربران است.

به علاوه، OpenAI اطلاعات شخصی را از مجموعه داده های آموزشی حذف می کند و مدل ها را برای رد درخواست های اطلاعات شخصی تنظیم می کند.

OpenAI به درخواست‌ها برای حذف اطلاعات شخصی از سیستم خود پاسخ خواهد داد.

بهبود دقت واقعیت

دقت واقعیت مادی یکی از اهداف مهم برای OpenAI است. GPT-4 احتمالاً ۴۰٪ بیشتر محتوای دقیق را نسبت به سابقه خود، یعنی GPT-3.5، ارائه خواهد داد.

سازمان سعی می کند کاربران را درباره محدودیت های ابزارهای هوش مصنوعی و امکان وجود عدم دقت آنها آگاه کند.

پژوهش و مشارکت های بیشتر

OpenAI باور دارد که اختصاص زمان و منابع به تحقیق درباره فنون کاهش و تطبیق موثر موارد اصلی است.

با این حال، این چیزی نیست که تنها انجام دهد. رفع مسائل ایمنی نیاز به بحث گسترده، آزمایش و مشارکت میان ذینفعان دارد.

OpenAI همچنان متعهد به ترویج همکاری و گفتگوی باز برای ایجاد یک اکوسیستم هوش مصنوعی ایمن است.

انتقادهای درباره خطرات وجودی

با وجود تعهد OpenAI به اطمینان از ایمنی و فواید گسترده سیستم های هوش مصنوعی خود، پست وبلاگ آن منجر به انتقاداتی در رسانه های اجتماعی شده است.

کاربران توییتر ناامیدی خود را بیان کرده‌اند و اظهار داشته‌اند که OpenAI به بحران های وجودی مرتبط با توسعه هوش مصنوعی پاسخ نمی‌دهد.

یکی از کاربران توییتر نارضایتی خود را بیان کرد و به اوپن‌ای‌ای اتهام نمود که از ماموریت بنیانگذاری خود خائن شده است و تمرکز خود را بر روی تجاری‌سازی بی‌دقت گذاشته است.

کاربر توصیه می‌کند که رویکرد OpenAI در مورد ایمنی سطحی و بیشتر به رضایت بخشیدن به انتقادات تمرکز دارد تا به واقعیت خطرات وجودی پرداخته شود.

این بیش از حد نا امید کننده است، بی مفهوم و زیباسازی پنجره ای برای PR.

شما حتی به خطرات وجودی از هوش مصنوعی که مرکز نگرانی بسیاری از شهروندان، فناوران، پژوهشگران AI و رهبران صنعت AI است، اشاره نمیکنید، از جمله CEO خود @sama. @OpenAI خیانت می کند...

— Geoffrey Miller (@primalpoly) آوریل 5، 2023

یک کاربر دیگر از نارضایتی خود نسبت به این اعلان ابراز کرده است و ادعا می‌کند که این اعلان از مسائل واقعی عبور می‌کند و نامحدود است. کاربر همچنین برجسته می‌کند که گزارش به مسائل اخلاقی بحرانی و خطرات مرتبط با خودآگاهی هوش هوشمند مصنوعی توجه نمی‌کند و معنایی که رویکرد OpenAI به مسائل امنیتی ناکافی است.

به عنوان یک طرفدار GPT-4، از مقاله شما ناراضی هستم.

این مقاله به مسائل واقعی را چشم پوشی می‌کند، ابهام می‌راند و به مسائل اخلاقی اصولی و خطرات مرتبط با هوش مصنوعیی که شناخت ذات خود را پیدا کرده است، بی‌اهمیت است.

از نوآوری شما قدردانی می‌کنم، اما این روش مناسبی برای مقابله با مسائل امنیتی نیست.

— فرانکی لابز (@FrankyLabs) 5 آوریل 2023

انتقاد، بیشتر از دست خوشین‌ها و بحث‌های مستمر درباره خطرات وجودی که توسعه هوش مصنوعی در بر دارد، را نشان می‌دهد.

با اعلامیه OpenAI درباره تعهد خود به امنیت، حریم خصوصی و دقت، لازم است به نیاز برای بحث بیشتر برای مقابله با ابهامات بزرگتر نیز توجه کنیم.