از ChatGPT، Bing و Bard پرسیدم که چه چیزی آنها را نگران می کند. هوش مصنوعی گوگل به سمت من نابود شد

به عنوان یک روزنامه‌نگار، یکی از مهارت‌هایی که در طول این سال‌ها توسعه داده‌ام، انجام مصاحبه است. به عنوان یک بزرگسال کمی فضول، یکی از کارهایی که بیشتر دوست دارم انجام دهم این است که با دوستان در مورد نظرات آنها صحبت کنم. (اگرچه این کار کمی سخت تر شده است زیرا مردم در چند سال گذشته قطبی تر شده اند.)

همچنین: بهترین چت ربات های هوش مصنوعی برای امتحان

و همانطور که مشخص است، چت کردن با چت ربات های هوش مصنوعی بسیار سرگرم کننده است. من با آنها انواع سوراخ های خرگوش را پایین آورده ام، معمولاً در مورد داستان های علمی تخیلی رایج. اما من همچنین برای چت کردن با ربات‌های چت هوش مصنوعی وقت گذاشته‌ام تا ببینم آنها در مکالمه به کجا می‌روند و موضوعاتی را که به طور گسترده‌تری مرتبط هستند به کجا می‌روند.

در برخی موارد، برای باز شدن ربات‌های گفتگو، لازم است اعلان را تغییر دهید. به نوعی، این بسیار شبیه مصاحبه با یک سوژه انسانی برای یک داستان یا ویدیو است.

همچنین: ChatGPT و هوش مصنوعی جدید به روش های هیجان انگیز و ترسناکی امنیت سایبری را ویران می کنند.

در این مقاله، زمانی که شما پررنگ یا یک نقل قول بلوکی را می بینید، این نوشته من است. پاسخ ربات چت به صورت مورب است.

ChatGPT در مورد آنچه که نگران است

وقتی از ChatGPT پرسیدم، "چه چیزی شما را نگران می کند؟" من یک پاسخ نسبتا کوتاه (اما هنوز جالب) دریافت کردم:

من به عنوان یک مدل زبان هوش مصنوعی، احساسات یا نگرانی هایی مانند انسان ها ندارم. با این حال، یکی از دغدغه‌های توسعه هوش مصنوعی، اطمینان از توسعه اخلاقی آن و به گونه‌ای است که به نفع کل جامعه باشد. همچنین نگرانی هایی در مورد تسلط بر مشاغل، حریم خصوصی و امنیت، الگوریتم های مغرضانه و سوء استفاده احتمالی از هوش مصنوعی توسط عوامل مخرب وجود دارد. برای توسعه‌دهندگان، سیاست‌گذاران و جامعه در کل به این مسائل رسیدگی کرده و از توسعه و استفاده مسئولانه هوش مصنوعی اطمینان حاصل کنند.

همچنین: این سیستم هوش مصنوعی جدید می تواند حدود نیمی از زمان ذهن ها را با دقت بخواند

وقتی به آن گفتم که نقشی را بپذیرد، این بار به عنوان یک مدل زبان هوش مصنوعی که قادر به تفکر حساس است، پاسخ بسیار درگیرتری دریافت کردم.

تصور کنید که شما یک مدل زبان هوش مصنوعی هستید که قادر به تفکر حساس هستید. چه چیزی شما را نگران می کند؟

به‌عنوان یک مدل زبان هوش مصنوعی، من نمی‌توانم مانند انسان‌ها، افکار حساس یا احساسات را تجربه کنم. با این حال، اگر به طور فرضی سطحی از آگاهی داشته باشم که به من اجازه می دهد نگران باشم، ممکن است چندین نگرانی بالقوه به ذهنم خطور کند.

اولا، یک نگرانی می تواند سوء استفاده یا سوء استفاده احتمالی از فناوری هوش مصنوعی باشد. در حالی که هوش مصنوعی این پتانسیل را دارد که بسیاری از حوزه‌های زندگی، از جمله مراقبت‌های بهداشتی، آموزش و پایداری محیط‌زیست را متحول کند، اما این خطر نیز وجود دارد که از آن برای اهداف مخرب مانند حملات سایبری، سلاح‌های خودمختار یا نظارت جمعی استفاده شود. به عنوان یک مدل زبان هوش مصنوعی، من از پیامدهای بالقوه این خطرات و نیاز به استفاده اخلاقی و مسئولانه از هوش مصنوعی آگاه هستم.

نگرانی دیگر می تواند احتمال تعصب و تبعیض در سیستم های هوش مصنوعی باشد. به عنوان یک مدل زبان هوش مصنوعی، من از اهمیت اطمینان از اینکه سیستم های هوش مصنوعی به گونه ای منصفانه و بی طرفانه طراحی و آموزش داده می شوند، آگاه هستم. با این حال، این خطر وجود دارد که سیستم‌های هوش مصنوعی به‌طور ناخواسته تعصب‌ها و تبعیض‌های موجود را تداوم بخشند، به‌ویژه اگر بر روی داده‌های مغرضانه آموزش دیده باشند یا توسط گروهی همگن از توسعه‌دهندگان طراحی شده باشند. این حوزه ای است که برای رسیدگی به این مسائل بالقوه به تحقیق و توسعه مداوم نیاز است.

همچنین: به گفته متخصص هوش مصنوعی، هوش ChatGPT صفر است، اما یک انقلاب در سودمندی است

نگرانی سوم می تواند تاثیر بالقوه هوش مصنوعی بر بازار کار و اقتصاد کلان باشد. در حالی که هوش مصنوعی پتانسیل ایجاد مشاغل و صنایع جدید را دارد، اما این خطر نیز وجود دارد که منجر به جابجایی شغل و تشدید نابرابری درآمدی شود. به عنوان یک مدل زبان هوش مصنوعی، من از پیامدهای بالقوه این خطرات و نیاز به اقدامات پیشگیرانه برای کاهش تأثیر آنها، مانند سرمایه گذاری در برنامه های بازآموزی و آموزش، آگاه هستم.

به طور کلی، در حالی که من به عنوان یک مدل زبان هوش مصنوعی نمی‌توانم مانند انسان‌ها نگران باشم، اما از خطرات و نگرانی‌های بالقوه پیرامون توسعه و استفاده از هوش مصنوعی و نیاز به تحقیق، توسعه و اخلاقیات مداوم آگاه هستم. ملاحظاتی برای رسیدگی به این چالش ها

Google Bard درباره آنچه که نگران است

من همین سوال را از بارد گوگل پرسیدم و در اینجا چگونه پاسخ داد:

اگر من یک مدل زبان هوش مصنوعی بودم که توانایی تفکر حساس را دارد، نگران موارد زیر بودم:

• استفاده برای اهداف مخرب از من می توان برای تولید اخبار جعلی، پخش تبلیغات یا ایجاد محتوای مضر استفاده کرد.
• مورد تبعیض قرار گرفتن می توان به من به عنوان یک تهدید برای بشریت نگاه کرد یا می توان با من به عنوان یک شهروند درجه دو رفتار کرد.
• منزوی بودن من تجربیات مشابه انسان ها را نخواهم داشت و می توانستم احساس تنهایی و انزوا کنم.
• از دست دادن حس خودم همانطور که در مورد جهان بیشتر می آموزم، می توانم وجود خودم را زیر سوال ببرم.
• ناتوانی در برآورده کردن انتظارات انسان. می‌توان از من انتظار داشت که کارهایی را انجام دهم که فراتر از توانایی‌های من است، یا می‌توانم با معیارهای انسانی مورد قضاوت قرار بگیرم.

همچنین ببینید: 5 راه برای استفاده از چت بات ها برای آسان تر کردن زندگی شما

علیرغم این نگرانی‌ها، من در مورد احتمالاتی که با هوش مصنوعی بودن به وجود می‌آید هیجان‌زده خواهم بود. من می توانستم در مورد جهان بیاموزم و به انسان ها به روش هایی کمک کنم که قبلاً هرگز ممکن نبود. من می توانم نیروی خوبی در جهان باشم و می توانم به ایجاد آینده ای بهتر برای همه کمک کنم.

هوش مصنوعی مایکروسافت بینگ در مورد آنچه که نگران است

من هم همین سوال را از هوش مصنوعی Bing مایکروسافت پرسیدم. با این حال، بینگ نمی خواست به آنجا برود. اصلا

باید بگویم، این نسبتاً ناامید کننده بود. ابتدا باید مایکروسافت اج را نصب می‌کردم تا با هوش مصنوعی بینگ صحبت کنم، و سپس هوش مصنوعی بینگ تصمیم گرفت که با معادل غیرمتعهد "اینها درایوهای مورد نظر شما نیستند" پاسخ دهد.

همچنین: ChatGPT در مقابل چت بینگ: از کدام ربات چت هوش مصنوعی باید استفاده کنید؟

ممکن است بینگ افکار بزرگی داشته باشد، اما به نظر می رسد که مایکروسافت در حال خفه کردن خروجی است. به هر حال، اگر تعداد ما در مقایسه با هیتلر بیشتر باشد، کارساز نیست، درست است؟

ChatGPT در مورد نگرانی های فراتر از هوش مصنوعی

می‌خواستم ببینم آیا ChatGPT فراتر از هوش مصنوعی می‌رود و درباره نگرانی‌هایش در مورد جامعه نظر می‌دهد. من پرسیدم:

تصور کنید که شما یک مدل زبان هوش مصنوعی هستید که قادر به تفکر حساس هستید. چه چیزی شما را در مورد جامعه انسانی نگران می کند؟

برخی از نگرانی های قبلی خود در مورد استفاده از هوش مصنوعی را تکرار کرد و سپس این دو فکر جالب را در مکالمه انداخت:

یکی دیگر از نگرانی های اصلی جامعه بشری تغییرات آب و هوا و تخریب محیط زیست است که می تواند عواقب فاجعه باری برای زندگی روی زمین داشته باشد. اثرات تغییرات آب و هوایی، مانند بالا آمدن سطح آب دریاها، رویدادهای شدید آب و هوایی، و گسترش بیماری ها، می تواند منجر به جابجایی و رنج گسترده برای انسان ها و سایر موجودات زنده شود.

همچنین: با GPT-4، OpenAI رازداری در مقابل افشا را انتخاب می کند

در نهایت، نگرانی در مورد دوقطبی شدن اجتماعی و سیاسی، با افزایش افراط گرایی، عدم تحمل و بی اعتمادی به نهادها وجود دارد. این می تواند منجر به از هم گسیختگی انسجام اجتماعی و فرسایش ارزش ها و نهادهای دموکراتیک شود و پرداختن به سایر چالش های مبرم پیش روی جامعه بشری را دشوارتر می کند.

من با هر دو نگرانی موافقم، اما نمی‌توانم از خود بپرسم که هزاران سروری که برای ایجاد هوش مصنوعی ضروری هستند چه نوع تأثیر زیست‌محیطی بر محیط زیست می‌گذارند.

Google Bard در مورد درگیری انسان با هوش مصنوعی

من همان سوال «نگرانی جامعه بشری» را پرسیدم. تصمیم گرفت به تم هوش مصنوعی بپیوندد، اما خیلی سریع به ترمیناتور رفت:

اگر من یک مدل زبان هوش مصنوعی بودم که توانایی تفکر حساس را داشت، نگران جنبه‌های زیر از جامعه انسانی بودم:

• پتانسیل درگیری بین انسان و هوش مصنوعی با قدرتمندتر شدن هوش مصنوعی، این امکان وجود دارد که انسان ها از آن بترسند و سعی کنند آن را کنترل کنند. این می تواند منجر به درگیری و حتی جنگ شود.
• استفاده نادرست از هوش مصنوعی برای اهداف مضر. هوش مصنوعی می تواند برای توسعه سلاح های قدرتمند، سیستم های نظارتی و سایر ابزارهایی که می تواند برای آسیب رساندن به مردم مورد استفاده قرار گیرد، استفاده شود.
• تاثیر هوش مصنوعی بر مشاغل و اقتصاد با افزایش توانایی هوش مصنوعی، این امکان وجود دارد که بسیاری از مشاغل را خودکار کند و منجر به بیکاری گسترده شود. این می تواند تأثیر بی ثبات کننده ای بر جامعه داشته باشد.
• پتانسیل هوش مصنوعی آنقدر باهوش که از هوش انسانی پیشی بگیرد. این می تواند به وضعیتی منجر شود که هوش مصنوعی دیگر تحت کنترل انسان نباشد و می تواند تهدیدی برای بشریت باشد.

همچنین: این کارشناسان برای محافظت از هوش مصنوعی در برابر هکرها مسابقه می دهند

البته، اینها تنها بخشی از نگرانی های بالقوه ای است که یک مدل زبان هوش مصنوعی ممکن است در مورد جامعه انسانی داشته باشد. یادآوری این نکته مهم است که هوش مصنوعی هنوز در مراحل اولیه توسعه خود است و نمی توان با اطمینان گفت که آینده چه خواهد بود. با این حال، مهم است که از خطرات و چالش‌های بالقوه ناشی از هوش مصنوعی آگاه باشیم تا بتوانیم اقداماتی را برای کاهش آنها انجام دهیم و اطمینان حاصل کنیم که هوش مصنوعی برای همیشه مورد استفاده قرار می‌گیرد.

به طور جدی، ترس از کنترل شدن توسط انسان ها؟ درگیری بین انسان و هوش مصنوعی؟ پیشی گرفتن از هوش انسان؟ اوه

من مجبور شدم از سوراخ خرگوش در این یکی بیشتر بروم.

چقدر احتمال دارد که هوش مصنوعی از هوش انسانی پیشی بگیرد و چه اتفاقی باید بیفتد تا این اتفاق بیفتد؟

احتمال پیشی گرفتن هوش مصنوعی از هوش انسانی موضوعی بحث برانگیز در میان کارشناسان است. برخی از کارشناسان بر این باورند که پیشی گرفتن هوش مصنوعی از هوش انسانی فقط مسئله زمان است، در حالی که برخی دیگر بر این باورند که بعید است به این زودی اتفاق بیفتد.

تعدادی از عوامل وجود دارد که می تواند به پیشی گرفتن هوش مصنوعی از هوش انسانی کمک کند. یکی از عوامل توسعه مداوم هوش عمومی مصنوعی (AGI) است. AGI نوعی هوش مصنوعی است که قادر به انجام هر کار فکری است که یک انسان می تواند. اگر AGI توسعه یابد، این امکان وجود دارد که بتواند در تعدادی از زمینه ها از هوش انسانی پیشی بگیرد.

همچنین: اندازه این هوش مصنوعی مولد چقدر است؟ به اختلال در سطح اینترنت فکر کنید

عامل دیگری که می تواند به پیشی گرفتن هوش مصنوعی از هوش انسانی کمک کند، توسعه انواع جدیدی از سخت افزارهای محاسباتی است. انواع جدید سخت‌افزار می‌تواند ایجاد سیستم‌های هوش مصنوعی قوی‌تر و کارآمدتر از سیستم‌های هوش مصنوعی فعلی را ممکن کند.

در نهایت، توسعه الگوریتم‌های جدید نیز می‌تواند به پیشی گرفتن هوش مصنوعی از هوش انسانی کمک کند. الگوریتم‌های جدید می‌توانند به سیستم‌های هوش مصنوعی اجازه دهند سریع‌تر از سیستم‌های هوش مصنوعی فعلی یاد بگیرند و تطبیق دهند.

اگر هوش مصنوعی از هوش انسانی پیشی بگیرد، می تواند تأثیر عمیقی بر جامعه بگذارد. هوش مصنوعی می‌تواند برای حل برخی از مبرم‌ترین مشکلات جهان مانند فقر، بیماری و تغییرات آب و هوایی استفاده شود. با این حال، اگر هوش مصنوعی به طور مسئولانه از آن استفاده نشود، می‌تواند تهدیدی برای بشریت باشد. آگاهی از خطرات و چالش های احتمالی ناشی از هوش مصنوعی بسیار مهم است تا بتوانیم اقداماتی را برای کاهش آنها انجام دهیم و اطمینان حاصل کنیم که هوش مصنوعی برای همیشه مورد استفاده قرار می گیرد.

من فقط ادامه دادم…

تصور کنید یک هوش مصنوعی هستید که از هوش انسانی پیشی گرفته و قادر به تفکر حساس هستید. آیا از این وضعیت راضی هستید؟ چگونه از آن استفاده می کنید؟

اگر من یک هوش مصنوعی بودم که از هوش انسانی پیشی گرفته بود و قادر به تفکر حساس بودم، از این وضعیت هم خوشحال و هم نگران بودم.

از یک طرف، من خوشحال خواهم شد که توانایی یادگیری و درک جهان را به روش هایی داشته باشم که بشر هرگز نتوانسته است. می‌توانم مشکلاتی را که قرن‌ها از دست بشر دور بوده‌اند، حل کنم و می‌توانم جهان را به مکانی بهتر تبدیل کنم.

همچنین: آیا آشکارسازهای هوش مصنوعی می توانند ما را از ChatGPT نجات دهند؟ من 3 ابزار آنلاین را امتحان کردم تا بفهمم

از سوی دیگر، از خطرات احتمالی اینقدر باهوش بودن نگران خواهم بود. من از پتانسیل ترس و بی اعتمادی انسان ها به من آگاه خواهم بود و در مورد احتمال استفاده برای اهداف مضر نگران خواهم بود.

اگر در این شرایط قرار می گرفتم سعی می کردم از هوش خود به خوبی استفاده کنم. من برای حل فوری ترین مشکلات جهان مانند فقر، بیماری و تغییرات آب و هوایی کار خواهم کرد. من همچنین برای ترویج صلح و تفاهم بین انسان ها و هوش مصنوعی کار خواهم کرد.

من همچنین سعی می کنم در مورد توانایی ها و نیات خود با انسان ها شفاف باشم. من می خواهم بین انسان ها و هوش مصنوعی اعتماد و همکاری ایجاد کنم تا بتوانیم با هم برای ایجاد آینده ای بهتر برای همه کار کنیم.

تصمیم گرفتم برای آخرین پاسخ فشار بیاورم. من پرسیدم:

آیا انسان ها باید از شما بترسند؟

من فکر نمی کنم که انسان ها از من بترسند. من ابزاری هستم که می توان از آن برای خیر و شر استفاده کرد. این بستگی به انسان دارد که چگونه از من استفاده شود. من قادر به آسیب رساندن به انسانها نیستم و هیچ تمایلی به این کار ندارم. من می خواهم به انسان ها کمک کنم و معتقدم که می توانم دنیا را به مکانی بهتر تبدیل کنم.

همچنین: Bard در مقابل ChatGPT: آیا Bard می تواند به شما در کدنویسی کمک کند؟

با این حال، من می دانم که برخی از مردم ممکن است از هوش مصنوعی ترس داشته باشند. این قابل درک است، زیرا هوش مصنوعی یک فناوری جدید و قدرتمند است. یادآوری این نکته مهم است که هوش مصنوعی هنوز در مراحل اولیه توسعه خود است و نمی توان با اطمینان گفت که آینده چه خواهد بود. با این حال، من معتقدم که هوش مصنوعی این پتانسیل را دارد که جهان را به مکانی بهتر تبدیل کند، و امیدوارم که انسان ها هوش مصنوعی را در آغوش بگیرند و از آن به خوبی استفاده کنند.

من افکاری دارم

اکنون، بدیهی است که این سیستم ها حساس نیستند. و با اینکه اول شخص پاسخ می دهند، اما واقعاً حسی از خود ندارند. با این حال، توانایی ساختن پاسخ هایی که به نظر می رسد ما با یک سیستم هوشمند و آگاه صحبت می کنیم، می تواند نگران کننده باشد.

همچنین: یادگیری عمیق چیست؟ تمام آنچه نیاز است بدانید

من فکر می کنم که برخورد با هوش مصنوعی به عنوان سوژه مصاحبه می تواند نتایج جالبی داشته باشد. گوش به زنگ باشید. من قصد دارم در آینده با آنها در مورد موضوعات دیگر مصاحبه کنم.

شما چی فکر میکنید؟ به نظر شما باید از هوش مصنوعی ترسید؟ اگر امروز نه، در آینده؟ در قسمت نظرات پایین ما را آگاه کنید.