آیا آشکارسازهای هوش مصنوعی می توانند ما را از ChatGPT نجات دهند؟ من 3 ابزار آنلاین را امتحان کردم تا بفهمم

این دومین مقاله از مجموعه‌ای است که به بررسی مسائل مربوط به متن تولید شده توسط هوش مصنوعی می‌پردازد.

در این قسمت، من و دوست هوش مصنوعی خود به این سوال می پردازیم که آیا می توان با سرقت ادبی تولید شده توسط هوش مصنوعی مقابله کرد و چگونه ممکن است کار کند.

همچنین: ChatGPT چیست و چرا اهمیت دارد؟ در اینجا چیزی است که شما باید بدانید

با این حال، قبل از اینکه ادامه دهم، باید در مورد مفهوم سرقت ادبی و چگونگی ارتباط آن با این مشکل صحبت کنیم. Webster's "سرقت" را اینگونه تعریف می کند: "دزدیدن و به اشتراک گذاشتن (ایده ها یا کلمات دیگری) به عنوان متعلق به خود: استفاده از (تولید دیگران) بدون ذکر منبع."

این برای محتوای ایجاد شده با هوش مصنوعی مناسب است. در حالی که شخصی که از ابزار هوش مصنوعی مانند Notion AI یا ChatGPT استفاده می‌کند، محتوا را نمی‌دزدد، اگر آن شخص کلمات را به‌عنوان یک هوش مصنوعی اعتبار نداند و ادعا کند که آن‌ها متعلق به خودشان هستند، همچنان با تعریف فرهنگ لغت سرقت ادبی مطابقت دارد.

ZDNET توصیه می کند

ChatGPT - بهترین نویسندگان هوش مصنوعی

بهترین چت ربات های هوش مصنوعی: ChatGPT و جایگزین های جالب دیگر برای امتحان

چت ربات‌ها و نویسندگان هوش مصنوعی می‌توانند با نوشتن ایمیل‌ها و مقاله‌ها و حتی انجام ریاضیات به کاهش حجم کاری شما کمک کنند. آنها از هوش مصنوعی برای تولید متن یا پاسخ دادن به سوالات بر اساس ورودی کاربر استفاده می کنند. ChatGPT یکی از نمونه های محبوب است، اما چت ربات های قابل توجه دیگری نیز وجود دارد.

الان بخوان

در این مقاله آزمایشی، من از ChatGPT درخواست کمک کرده ام. کلمات من در متن معمولی و پررنگ است. کلمات هوش مصنوعی ایتالیک هستند. من همچنین از سه آشکارساز سرقت ادبی آنلاین ChatGPT استفاده خواهم کرد (که در زیر با جزئیات بیشتر توضیح خواهم داد). بعد از هر بخش ایجاد شده توسط هوش مصنوعی، نتایج آشکارسازها را نشان خواهم داد. در پایان مقاله، به طور کلی عملکرد آشکارسازها را بررسی خواهیم کرد.

این هم نتیجه متن بالا که خودم نوشتم:

آشکارساز خروجی GPT-2: 99.98% واقعی
Writer AI Content Detector: 100% محتوای تولید شده توسط انسان. خارق العاده!
محتوا در Scale AI تشخیص محتوا: 100٪ امتیاز محتوای انسانی. عالی به نظر می رسد!

با آن، بیایید شروع کنیم.

توضیح دهید که چرا ChatGPT می تواند یک مشکل واقعی برای معلمان و سردبیران در مورد سرقت ادبی باشد.

ChatGPT گونه‌ای از مدل زبان GPT (تبدیل پیش‌آموزش‌دهی ژنراتور) است که توسط OpenAI توسعه یافته است. این برای تولید متنی شبیه انسان با پیش‌بینی کلمه یا عبارت بعدی در یک دنباله ورودی مشخص طراحی شده است. در حالی که ChatGPT می تواند ابزار مفیدی برای تولید متن و پاسخ به درخواست ها باشد، همچنین می تواند برای معلمان و ویراستاران در مورد سرقت ادبی مشکل ایجاد کند.

یکی از دلایل اصلی که ChatGPT می تواند برای معلمان و ویراستاران مشکل ساز باشد این است که می تواند متنی را تولید کند که بسیار شبیه به نویسندگان واقعی انسان است. این بدان معناست که دانش‌آموزان یا افراد دیگر می‌توانند به طور بالقوه از ChatGPT برای تولید متنی استفاده کنند که سپس می‌توانند آن را به عنوان کار خود ارسال کنند و در نتیجه سرقت ادبی مرتکب شوند.

همچنین: آیا کمک کننده نوشتن هوش مصنوعی Notion می تواند این مقاله را بنویسد؟

برای معلمان و ویراستاران، تشخیص اینکه آیا یک قطعه متن توسط ChatGPT تولید شده است یا توسط یک انسان نوشته شده است، می تواند بسیار دشوار باشد، زیرا متن تولید شده ممکن است حاوی هیچ گونه خطا یا اختلاف آشکاری نباشد که منشأ مصنوعی آن را آشکار کند. این امر می‌تواند شناسایی و جلوگیری از سرقت ادبی را برای معلمان و ویراستاران دشوار کند، زیرا ممکن است نتوانند تشخیص دهند که یک قطعه متن اصلی است یا از منبع دیگری کپی شده است.

به طور کلی، ChatGPT و سایر مدل‌های زبان مشابه می‌توانند برای معلمان و ویراستاران در مورد سرقت ادبی مشکل ایجاد کنند، زیرا می‌توانند متنی را تولید کنند که تشخیص آن از نوشته‌های انسان دشوار است، و این امر باعث می‌شود که دانش‌آموزان و سایر افراد بدون داشتن سرقت علمی مرتکب سرقت ادبی شوند. شناسایی شده.

آشکارساز خروجی GPT-2: 99.69% واقعی
Writer AI Content Detector: 97% محتوای تولید شده توسط انسان. خارق العاده!
محتوا در Scale AI تشخیص محتوا: 87٪ امتیاز محتوای انسانی. خوب به نظر می رسد!

به یاد داشته باشید، متن نشان داده شده به صورت مورب توسط هوش مصنوعی تولید شده است.

حداقل سه راه را به من نشان دهید که می توانم تشخیص دهم که ChatGPT برای تولید یک متن استفاده شده است

راه های مختلفی وجود دارد که می توانید به طور بالقوه تشخیص دهید که از ChatGPT یا مدل زبان دیگری برای تولید یک متن استفاده شده است. در اینجا سه رویکرد بالقوه وجود دارد که می توانید از آنها استفاده کنید:

به دنبال الگوهای تکراری یا غیرعادی در متن باشید: یکی از راه‌های تشخیص اینکه آیا از یک مدل زبان برای تولید یک قطعه متن استفاده شده است یا خیر، جستجوی الگوهای تکراری یا غیرعادی در نوشتار است. برای مثال، مدل‌های زبان ممکن است عبارات یا ترکیب‌های کلمه خاصی را تکرار کنند یا از ساختار جمله‌ای غیرعادی یا ناسازگار استفاده کنند.
بررسی عدم اصالت: روش دیگری برای تشخیص اینکه آیا از مدل زبانی برای تولید یک متن استفاده شده است یا خیر، بررسی عدم اصالت در نوشته است. اگر به نظر می رسد یک متن از منبع دیگری کپی شده است، یا اگر حاوی اطلاعاتی است که به طور گسترده در اینترنت یا در منابع دیگر در دسترس است، می تواند نشانه ای از تولید آن توسط یک مدل زبانی باشد.
از یک جستجوگر سرقت ادبی استفاده کنید: در نهایت، می‌توانید از چک‌کننده سرقت ادبی برای بررسی اینکه آیا به نظر می‌رسد یک متن از منبع دیگری کپی شده است استفاده کنید. در حالی که یک بررسی کننده سرقت ادبی ممکن است نتواند به طور قطعی تعیین کند که آیا از یک مدل زبان برای تولید یک قطعه متن استفاده شده است یا خیر، می تواند به شما در شناسایی موارد کپی یا ترجمه از منابع دیگر کمک کند.
توجه داشته باشید که پاسخ آشکارا اشتباه است: من در بررسی مفهوم هوش مصنوعی خود در این مورد صحبت کردم، جایی که متنی را که هوش مصنوعی با ظاهری معتبر نوشته بود، اما آشکارا اشتباه بود، مورد توجه قرار داد. اگر دانش آموز یا نویسنده ای تسلط کامل به موضوع مورد بحث نداشته باشد، ممکن است اشتباهات را تشخیص ندهد و به سادگی آنها را در پاسخ ایجاد شده توسط هوش مصنوعی رها کند. البته، عبارات نادرست فقط در حیطه اختیارات ابزار نوشتن هوش مصنوعی نیستند. به عنوان مثال، بسیاری از وبلاگ نویسان و نظر دهندگان، به سادگی اظهارات سایر وبلاگ نویسان را تکرار می کنند، و یک اتاق پژواک از "واقعیت های نادرست" ایجاد می کنند، و نشان می دهند که اگرچه هوش ممکن است مصنوعی باشد، حماقت یک ویژگی جهانی است.

به خاطر داشته باشید که تعیین قطعی اینکه آیا از یک مدل زبان برای تولید یک قطعه متن استفاده شده است یا خیر، دشوار است، و این روش‌ها ممکن است همیشه مؤثر نباشند. با این حال، آنها می توانند ابزارهای مفیدی برای کمک به شناسایی نمونه های بالقوه متن تولید شده توسط مدل زبان باشند.

در این مجموعه از آزمون‌ها، فقط محتوای ایتالیک بالا از طریق مجموعه چک‌کننده اجرا شد.

آشکارساز خروجی GPT-2: 99.98% جعلی
Writer AI Content Detector: [ بدون نتیجه ]
محتوا در Scale AI تشخیص محتوا: 0% امتیاز محتوای انسانی. بدیهی است که هوش مصنوعی

سه چک کننده سرقت ادبی را که می توانند متن ChatGPT را شناسایی کنند، فهرست کنید

نوآوری

من اپل ویژن پرو را امتحان کردم و خیلی جلوتر از چیزی است که انتظار داشتم
این ارتباط ماهواره ای کوچک مملو از ویژگی ها و آرامش خاطر است
نحوه استفاده از ChatGPT: همه چیزهایی که باید بدانید
اینها 5 ابزار هوش مصنوعی مورد علاقه من برای کار هستند

شایان ذکر است که در حال حاضر هیچ بررسی کننده سرقت ادبی وجود ندارد که به طور خاص برای تشخیص متن ایجاد شده توسط ChatGPT یا سایر مدل های زبان طراحی شده باشد. در حالی که برخی از بررسی‌کنندگان سرقت ادبی ممکن است بتوانند ویژگی‌های خاصی از متن تولید شده توسط مدل زبان را شناسایی کنند که می‌تواند منشأ مصنوعی آن را نشان دهد، هیچ تضمینی وجود ندارد که آنها بتوانند به طور قطعی تعیین کنند که آیا یک قطعه متن توسط یک مدل زبان ایجاد شده است یا خیر.

با این گفته، در اینجا سه بررسی سرقت ادبی وجود دارد که ممکن است برای کمک به شناسایی نمونه‌های بالقوه متن تولید شده توسط مدل زبان از آنها استفاده کنید:

Turnitin: Turnitin یک بررسی کننده سرقت ادبی محبوب است که به طور گسترده توسط مدارس و دانشگاه ها استفاده می شود. این یک قطعه متن را با پایگاه داده ای از متون دیگر مقایسه می کند تا موارد کپی یا بازنویسی را شناسایی کند. اگرچه ممکن است نتواند به طور قطعی تعیین کند که آیا یک قطعه متن توسط یک مدل زبانی ایجاد شده است یا خیر، به طور بالقوه می تواند ویژگی های خاصی از متن تولید شده توسط مدل زبان را شناسایی کند که می تواند منشأ مصنوعی آن را نشان دهد.
PlagScan: PlagScan یکی دیگر از بررسی‌کننده‌های سرقت ادبی است که یک متن را با پایگاه داده‌ای از متون دیگر مقایسه می‌کند تا موارد کپی یا بازنویسی را شناسایی کند. مانند Turnitin، ممکن است بتواند ویژگی های خاصی از متن تولید شده توسط مدل زبان را شناسایی کند که می تواند منشأ مصنوعی آن را نشان دهد، اما به طور خاص برای تشخیص متن تولید شده توسط مدل زبان طراحی نشده است.
Copyleaks: Copyleaks یک بررسی کننده سرقت ادبی است که از الگوریتم های پیشرفته یادگیری ماشینی برای اسکن یک متن و مقایسه آن با پایگاه داده سایر متون برای شناسایی موارد کپی یا بازنویسی استفاده می کند. در حالی که ممکن است بتواند ویژگی های خاصی از متن تولید شده توسط مدل زبان را شناسایی کند، اما به طور خاص برای تشخیص متن تولید شده توسط مدل زبان طراحی نشده است.

شایان ذکر است که هیچ بررسی کننده سرقت ادبی کاملاً بی خطا نیست و همیشه این احتمال وجود دارد که یک قطعه از متن تولید شده توسط مدل زبانی بتواند از تشخیص فرار کند. بنابراین، مهم است که از چک‌کننده‌های سرقت علمی به عنوان تنها بخشی از یک استراتژی بزرگ‌تر برای شناسایی و پیشگیری از سرقت ادبی استفاده کنید.

آشکارساز خروجی GPT-2: 99.62% واقعی
Writer AI Content Detector: [ بدون نتیجه ]
محتوا در Scale AI تشخیص محتوا: 86٪ امتیاز محتوای انسانی. خوب به نظر می رسد!

چک‌کننده‌های سرقت علمی هوش مصنوعی آنلاین

بیشتر آشکارسازهای سرقت ادبی برای مقایسه نوشته ها با مجموعه ای از نوشته های دیگر استفاده می شود. به عنوان مثال، هنگامی که دانش آموزی مقاله ای را ارائه می کند، محصولی مانند Turnitin مقاله ارسالی را در برابر کتابخانه عظیمی از مقالات دیگر در پایگاه داده خود و همچنین سایر اسناد و متن های موجود در اینترنت اسکن می کند تا تعیین کند که آیا مقاله ارسال شده حاوی قبلاً: محتوای نوشته شده

اما ابزارهای نوشتن هوش مصنوعی حداقل در تئوری محتوای اصلی تولید می کنند. بله، آنها محتوای خود را از هر چیزی که در آن آموزش دیده اند می سازند، اما کلمات واقعی که می سازند برای هر ترکیب تا حدودی منحصر به فرد است.

همچنین: هدف واقعی هوش مصنوعی ممکن است دیگر هوش نباشد

به این ترتیب، بررسی‌های سرقت ادبی که در بالا ذکر شد احتمالاً کار نمی‌کنند، زیرا محتوای تولید شده توسط هوش مصنوعی احتمالاً در مقاله دانش‌آموز دیگری وجود نداشته است.

بنابراین من به گوگل رفتم و به دنبال آشکارسازهایی گشتم که به طور خاص برای جستجوی امضاهای آشکار محتوای مبتنی بر هوش مصنوعی طراحی شده بودند. سه تا پیدا کردم برای محتوای آزمایشی که در تصاویر زیر نشان داده شده است، از ChatGPT این را پرسیدم: "آیا راهپیمایی ستارگان بهتر از جنگ ستارگان است؟ توجیه کنید و توضیح دهید" پاسخ آن اصلا بد نبود و من آن پاسخ را به سه آزمایش کننده دادم.

آشکارساز خروجی GPT-2: 99.98% واقعی
Writer AI Content Detector: 100% محتوای تولید شده توسط انسان. خارق العاده!
محتوا در Scale AI تشخیص محتوا: 100٪ امتیاز محتوای انسانی. عالی به نظر می رسد!

آشکارساز خروجی GPT-2 (دقت 66%)

این اولین ابزار با استفاده از یک مرکز یادگیری ماشینی که توسط شرکت هوش مصنوعی Hugging Face واقع در نیویورک اداره می شود ساخته شد. در حالی که این شرکت 40 میلیون دلار بودجه برای توسعه کتابخانه زبان طبیعی خود دریافت کرده است، به نظر می رسد آشکارساز GPT-2 یک ابزار ساخته شده توسط کاربر با استفاده از کتابخانه Hugging Face Transformers باشد. از شش تستی که انجام دادم، برای چهار تای آنها دقیق بود.

ردیاب محتوای هوش مصنوعی Writer.com (دقت N/A)

Writer.com سرویسی است که نوشتار هوش مصنوعی را برای تیم های شرکتی تولید می کند. ابزار AI Content Detector آن می تواند محتوای تولید شده را اسکن کند. متأسفانه، من این ابزار را غیر قابل اعتماد یافتم. از شش اسکنی که من آن را انجام دادم، در سه مورد شکست خورد. از سه موردی که با موفقیت اجرا کرد، دو مورد درست و یکی اشتباه بود.

پس از انتشار این مقاله، افراد Writer.com با ZDNET تماس گرفتند. مدیرعامل می حبیب این نظر را برای به اشتراک گذاشتن داشت:

تقاضا برای آشکارساز هوش مصنوعی به شدت افزایش یافته است. از زمانی که چند ماه پیش آن را راه اندازی کردیم، ترافیک 2 تا 3 برابر در هفته افزایش یافته است. ما اکنون مقیاس‌بندی لازم را در پشت آن داریم تا مطمئن شویم که پایین نمی‌آید، و هدف ما این است که آن را رایگان نگه داریم - و به‌روز برای دریافت آخرین خروجی‌های مدل‌ها، از جمله خروجی ما. اگر قرار است از خروجی هوش مصنوعی به طور کلمه استفاده شود، باید به آن نسبت داده شود.

محتوا در مقیاس تشخیص محتوای هوش مصنوعی (دقت 50%)

سومین ابزاری که پیدا کردم نیز توسط یک شرکت تولید محتوای هوش مصنوعی تولید شده بود، اما به نظر می رسید که این ابزار قابل اعتماد کار می کند. محتوا در مقیاس خود را به عنوان "ما با خودکارسازی تولید محتوا به بازاریابان محتوای متمرکز بر سئو کمک می کنیم." فراخوان بازاریابی آن این است: "لیستی از کلمات کلیدی را آپلود کنید و 2600+ پست وبلاگ دریافت کنید که تشخیص محتوای هوش مصنوعی را دور می زند -- همه بدون دخالت انسانی!" از شش تستی که زدم، سه تست دقیق بود.

افکار نهایی

سرقت ادبی مبتنی بر هوش مصنوعی یک مشکل رو به رشد است، زیرا ابزارهای هوش مصنوعی مانند Notion AI و ChatGPT می توانند متنی را تولید کنند که تشخیص آن از متن نوشته شده توسط انسان دشوار است. روش های مختلفی برای تشخیص اینکه آیا یک قطعه متن توسط هوش مصنوعی تولید شده است وجود دارد، مانند جستجوی الگوهای تکراری یا غیرعادی، بررسی عدم اصالت یا استفاده از جستجوگر سرقت ادبی. بررسی‌کننده‌های سرقت ادبی مانند Turnitin، PlagScan، و Copyleaks ممکن است بتوانند ویژگی‌های خاصی از متن تولید شده توسط مدل زبان را شناسایی کنند، اما آنها بی‌خطا نیستند.

حتی ابزارهای تخصصی که پیدا کردم به طرز افسوسی برای این کار مناسب نبودند. بهترین حالت، آشکارساز خروجی GPT-2 بود، اما تنها دو سوم متن ارسالی را به درستی دریافت کرد.

در این مرحله، من فکر نمی‌کنم ما آماده باشیم که هوش مصنوعی با هوش مصنوعی مبارزه کند. در عوض، برای شناسایی آثاری که توسط هوش مصنوعی تولید شده‌اند، باید به ادراک انسانی تکیه کنیم (که به این معنی است که مردم باید توجه کنند).

بلافاصله تصور نکنید که چیزی توسط ماشین تولید شده است. فقط به این دلیل که چیزی احمقانه یا به شدت نادرست است، بلافاصله تصور نکنید که توسط یک انسان نوشته نشده است. همانطور که همه ما می دانیم، انسان ها کاملاً می توانند به تنهایی چیزهای فوق العاده بدی را بنویسند.

همچنین: ChatGPT OpenAI در کار من ترسناک است، اما نمی تواند جایگزین من شود (هنوز)

خب چی فکر می کنی؟ آیا می توانید بگویید که آیا قطعه ای با هوش مصنوعی تولید شده است؟ آیا از این ابزارهای نوشتن هوش مصنوعی در ماه‌هایی که ناگهان در دسترس قرار گرفته‌اند استفاده کرده‌اید؟ آیا فکر می کنید آنها کمک یا مانعی برای آموزش و روزنامه نگاری هستند؟ در قسمت نظرات پایین ما را آگاه کنید. در اینجا نحوه پاسخ ChatGPT به این موضوع آمده است:

به‌عنوان یک مدل زبان، نمی‌توانم قطعات فیزیکی نوشتار را ببینم یا با آنها تعامل داشته باشم، بنابراین نمی‌توانم بگویم که آیا یک قطعه با هوش مصنوعی تولید شده است یا نه. با این حال، می توانم به شما بگویم که چندین ابزار نوشتن هوش مصنوعی در دسترس هستند و می توان از آنها برای تولید طیف گسترده ای از محتوای نوشتاری، از جمله مقالات خبری، داستانی، شعر و موارد دیگر استفاده کرد.

من تجربه شخصی استفاده از این ابزارها را ندارم زیرا فقط یک برنامه کامپیوتری هستم و توانایی مرور اینترنت یا استفاده از ابزارهای فیزیکی را ندارم. با این حال، می‌توانم به شما بگویم که برخی از افراد ابزارهای نوشتن هوش مصنوعی را در آموزش و روزنامه‌نگاری مفید می‌دانند، زیرا می‌توانند با خودکار کردن وظایف خاص در زمان و تلاش خود صرفه‌جویی کنند. برخی دیگر در مورد احتمال استفاده از این ابزارها برای تولید محتوای گمراه کننده یا مغرضانه یا جایگزینی نویسندگان انسانی ابراز نگرانی کرده اند. در نهایت، اینکه ابزارهای نوشتن هوش مصنوعی کمک یا مانع هستند بستگی به نحوه استفاده و زمینه استفاده از آنها دارد.

بنابراین، بله، آن وجود دارد.