از هوش مصنوعی در مجلات خود هوشمندانه و درست استفاده کنیم

خلاصه: چگونگی استفاده مسئولانه از ChatGPT در فرآیند داوری مقالات

1. ظهور هوش مصنوعی در داوری مقالات:
• حدود ۱۷٪ از داوری‌های مقالات علوم کامپیوتر اکنون تا حدی توسط ابزارهای هوش مصنوعی مانند ChatGPT نوشته می‌شوند.
• داوری‌های تولیدشده توسط هوش مصنوعی معمولاً لحن رسمی، محتوای کلی و عدم ارجاع دقیق دارند.

2. چالش‌های استفاده از هوش مصنوعی در داوری:
• ابزارهای هوش مصنوعی فاقد استدلال علمی عمیق و نقد فنی هستند.
• ممکن است بازخوردهای بی‌معنی («توهمات») تولید کنند و اشتباهات موجود در مقالات پژوهشی را نادیده بگیرند.
• استفاده غیرمسئولانه از هوش مصنوعی می‌تواند به تضعیف فرآیند داوری منجر شود.

3. کاربردهای مسئولانه هوش مصنوعی:
• کمک به تصحیح گرامر و یافتن اطلاعات مرتبط.
• خلاصه‌سازی مقالات مرتبط و بررسی رعایت دستورالعمل‌ها.
• پیشنهاد بهبودهای قابل اجرا برای بازخوردهای ارائه شده توسط داوران.

4. محدودیت‌ها و خطرات:
• ابزارهای هوش مصنوعی باید مکمل داوران انسانی باشند، نه جایگزین آن‌ها.
• خروجی‌های تولیدشده توسط هوش مصنوعی باید به‌طور دقیق بررسی شوند، زیرا ممکن است حاوی اشتباهات باشند.
• ابزارهای تشخیص متن‌های تولیدشده توسط هوش مصنوعی قابل اعتماد نیستند و ممکن است متن‌های انسانی را نیز به اشتباه تشخیص دهند.

5. توصیه‌ها برای جامعه علمی:
• تدوین دستورالعمل‌های مشخص برای استفاده از هوش مصنوعی در داوری مقالات.
• الزام داوران به اعلام صریح استفاده از ابزارهای هوش مصنوعی.
• ترویج پلتفرم‌های تعاملی داوری مانند OpenReview برای تشویق به همکاری انسانی.

6. جهت‌گیری‌های آینده:
• توسعه سیستم‌هایی که استفاده از هوش مصنوعی را به وظایف مشخص و کم‌خطر محدود کنند.
• انجام پژوهش‌های بیشتر برای ادغام مسئولانه هوش مصنوعی در فرآیندهای علمی به‌منظور حفظ یکپارچگی علمی.

منبع:

https://www.nature.com/articles/d41586-024-03588-8