Volume 24, Issue 9 (12-2025)
JRUMS 2025, 24(9): 773-774 |
Back to browse issues page
Download citation:
BibTeX | RIS | EndNote | Medlars | ProCite | Reference Manager | RefWorks
Send citation to:
BibTeX | RIS | EndNote | Medlars | ProCite | Reference Manager | RefWorks
Send citation to:
Rezaeian M. Limitations of Using Generative Artificial Intelligence in Writing Scientific Articles: Use of Fake Citations and Tendency Towards Western Texts. JRUMS 2025; 24 (9) :773-774
URL: http://journal.rums.ac.ir/article-1-7906-en.html
URL: http://journal.rums.ac.ir/article-1-7906-en.html
Abstract: (22 Views)
سخن سردبیر
Editorial
مجله دانشگاه علوم پزشکی رفسنجان
دوره 24، آذر 1404، 774-773
محدودیتهای استفاده از هوش مصنوعی مولد در نگارش مقالات علمی: استفاده از منابع جعلی و گرایش به سمت متون غربی
Limitations of Using Generative Artificial Intelligence in Writing Scientific Articles: Use of Fake Citations and Tendency Towards Western Texts
محسن رضائیان[1]
Mohsen Rezaeian
سخن سردبیری شماره شهریورماه سالجاری به رهیافت مجله دانشگاه در مورد چگونگی استفاده از ابزار هوش مصنوعی مولد اختصاص داده شده بود. همان جا اشاره کردیم که استفاده از این ابزار دارای نکات مثبت و محدودیتهای متعددی میباشد. با این وجود، به نظر میرسد که در حال حاضر محدودیتهای استفاده از هوش مصنوعی در نگارش مقالات سلامت آن قدر زیاد است که باید با دقت هر چه تمامتر این ابزار را به کار گرفت. ما در همان سخن سردبیری به یکی از این محدودیتها اشاره کردیم. آن محدودیت این بود که اگر از ابزار هوش مصنوعی مولد بخواهیم بخشهایی از مقاله نظیر مقدمه را برایمان بنوسید، ممکن است که از منابعی استفاده نماید که خود تولید کرده و این منابع وجود خارجی نداشته باشند (1). چنین منابع جعلی (Fake) را حاصل توهم (Hallucination) هوش مصنوعی، قلمداد کردهاند (2).
Hua و همکاران از دو نسخه قدیمی و جدیدتر یک ابزار هوش مصنوعی مولد درخواست کردند که خلاصههای علمی همراه با ده منبع برای سؤالات تحقیقات بالینی در هفت رشتهی تخصصی چشمپزشکی را برایشان تهیه کند. آنها نشان دادند که سی و سه درصد از منابع تولید شده توسط نسخه اولیه و بیست و نه درصد از منابع تولید شده توسط نسخه به روز شده، منابع جعلی بوده است که توسط هوش مصنوعی تولید شده است (2). از آنجاییکه استفاده از منابع جعلی به بنیاد علم لطمههای جبرانناپذیری وارد میکند، بنابراین، محققین به خصوص محققین جوان، باید استفاده از این ابزار را با آگاهی هر چه تمامتر از این محدودیت انجام دهند (1).
افزون بر این، Cohen و Moher در مقاله خود به یکی از محدودیتهای دیگر ابزار هوش مصنوعی مولد در نگارش مقالات علمی اشاره کردهاند. آنها به این نکته اشاره میکنند که ابزارهای هوش مصنوعی مولد، برای تولید متن با بهرهگیری از مدلهای زبانی بزرگ (Large language models) طراحی شدهاند. برای این منظور و به طور بهینه، مدلهای زبانی بزرگ بر روی مجموعه دادههای وسیعی که مشتمل بر محتوای متنی متنوع بوده و با در نظر گرفتن میلیاردها پارامتر آموزش داده میشوند (4).
با این که منابع دقیق دادههای آموزشی برای اغلب مدلهای زبانی بزرگ گزارش نشده و یا نامشخص میباشند، این احتمال قوی وجود دارد که اغلب آنها به طور نامتناسبی به زبان انگلیسی بوده و تولید شده توسط مؤسسات موجود از کشورهای غربی با درآمد بالا باشند. چون، مؤسسات موجود در کشورهای شرقی و با درآمد پایین، به طور تاریخی چنین دادههایی را یا تولید نکرده و یا با کیفیت پایین تولید مینمایند. از همین رو، متونی که در حال حاضر توسط ابزارها هوش مصنوعی مولد تولید میگردند، بیشتر در برگیرنده شرایط و مقتضای کشورهای غربی با درآمد بالا بوده و همین امر میتواند به شکاف موجود در این زمینه، بیشتر از بیش دامن بزند (4).
کد پستی: 7718175911، تلفن: 31315243-034، پست الکترونیکی: moeygmr2@yahoo.co.uk، ارکید: 0000-0003-3070-0166
Editorial
مجله دانشگاه علوم پزشکی رفسنجان
دوره 24، آذر 1404، 774-773
محدودیتهای استفاده از هوش مصنوعی مولد در نگارش مقالات علمی: استفاده از منابع جعلی و گرایش به سمت متون غربی
Limitations of Using Generative Artificial Intelligence in Writing Scientific Articles: Use of Fake Citations and Tendency Towards Western Texts
محسن رضائیان[1]
Mohsen Rezaeian
سخن سردبیری شماره شهریورماه سالجاری به رهیافت مجله دانشگاه در مورد چگونگی استفاده از ابزار هوش مصنوعی مولد اختصاص داده شده بود. همان جا اشاره کردیم که استفاده از این ابزار دارای نکات مثبت و محدودیتهای متعددی میباشد. با این وجود، به نظر میرسد که در حال حاضر محدودیتهای استفاده از هوش مصنوعی در نگارش مقالات سلامت آن قدر زیاد است که باید با دقت هر چه تمامتر این ابزار را به کار گرفت. ما در همان سخن سردبیری به یکی از این محدودیتها اشاره کردیم. آن محدودیت این بود که اگر از ابزار هوش مصنوعی مولد بخواهیم بخشهایی از مقاله نظیر مقدمه را برایمان بنوسید، ممکن است که از منابعی استفاده نماید که خود تولید کرده و این منابع وجود خارجی نداشته باشند (1). چنین منابع جعلی (Fake) را حاصل توهم (Hallucination) هوش مصنوعی، قلمداد کردهاند (2).
Hua و همکاران از دو نسخه قدیمی و جدیدتر یک ابزار هوش مصنوعی مولد درخواست کردند که خلاصههای علمی همراه با ده منبع برای سؤالات تحقیقات بالینی در هفت رشتهی تخصصی چشمپزشکی را برایشان تهیه کند. آنها نشان دادند که سی و سه درصد از منابع تولید شده توسط نسخه اولیه و بیست و نه درصد از منابع تولید شده توسط نسخه به روز شده، منابع جعلی بوده است که توسط هوش مصنوعی تولید شده است (2). از آنجاییکه استفاده از منابع جعلی به بنیاد علم لطمههای جبرانناپذیری وارد میکند، بنابراین، محققین به خصوص محققین جوان، باید استفاده از این ابزار را با آگاهی هر چه تمامتر از این محدودیت انجام دهند (1).
افزون بر این، Cohen و Moher در مقاله خود به یکی از محدودیتهای دیگر ابزار هوش مصنوعی مولد در نگارش مقالات علمی اشاره کردهاند. آنها به این نکته اشاره میکنند که ابزارهای هوش مصنوعی مولد، برای تولید متن با بهرهگیری از مدلهای زبانی بزرگ (Large language models) طراحی شدهاند. برای این منظور و به طور بهینه، مدلهای زبانی بزرگ بر روی مجموعه دادههای وسیعی که مشتمل بر محتوای متنی متنوع بوده و با در نظر گرفتن میلیاردها پارامتر آموزش داده میشوند (4).
با این که منابع دقیق دادههای آموزشی برای اغلب مدلهای زبانی بزرگ گزارش نشده و یا نامشخص میباشند، این احتمال قوی وجود دارد که اغلب آنها به طور نامتناسبی به زبان انگلیسی بوده و تولید شده توسط مؤسسات موجود از کشورهای غربی با درآمد بالا باشند. چون، مؤسسات موجود در کشورهای شرقی و با درآمد پایین، به طور تاریخی چنین دادههایی را یا تولید نکرده و یا با کیفیت پایین تولید مینمایند. از همین رو، متونی که در حال حاضر توسط ابزارها هوش مصنوعی مولد تولید میگردند، بیشتر در برگیرنده شرایط و مقتضای کشورهای غربی با درآمد بالا بوده و همین امر میتواند به شکاف موجود در این زمینه، بیشتر از بیش دامن بزند (4).
[1]- استاد گروه آموزشی اپیدمیولوژی و آمار زیستی، دانشکده بهداشت، مرکز تحقیقات محیط کار، دانشگاه علوم پزشکی رفسنجان، رفسنجان، ایران
کد پستی: 7718175911، تلفن: 31315243-034، پست الکترونیکی: moeygmr2@yahoo.co.uk، ارکید: 0000-0003-3070-0166
Keywords: Generative Artificial Intelligence
Type of Study: Research |
Subject:
آموزش پزشكي
Received: 2025/12/7 | Accepted: 2025/12/19 | Published: 2025/12/19
Received: 2025/12/7 | Accepted: 2025/12/19 | Published: 2025/12/19
References
1. Rezaeian M. Updating Publication Ethics Checklist. J Rafsanjan Univ Med Sci 2025; 24 (6): 495-6.
2. Chelli M, Descamps J, Lavoue V, Trojani C, Azar M, Deckert M, et al. Hallucination rates and reference accuracy of ChatGPT and Bard for systematic reviews: comparative analysis. J Med Internet Res 2024; 26: e53164.
3. Hua HU, Kaakour AH, Rachitskaya A, Srivastava S, Sharma S, Mammo DA. Evaluation and comparison of ophthalmic scientific abstracts and references by current artificial intelligence chatbots. JAMA Ophthalmol 2023; 141(9): 819e24.
4. Cohen JF, Moher D. Generative artificial intelligence and academic writing: friend or foe? J Clin Epidemiol 2025; 179: 111646.
Send email to the article author
| Rights and permissions | |
 |
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License. |
