سقوط در لانه خرگوش؛ محتوای بی‌کیفیت هوش مصنوعی آمازون را فرا گرفته است

26 مرداد 1405 سقوط در لانه خرگوش؛ محتوای بی‌کیفیت هوش مصنوعی آمازون را فرا گرفته است

مقاله‌ای که اخیراً در The Atlantic منتشر شد، عنوان صریح و قابل‌تأملی داشت: «پایان دوران مطالعه فرا رسیده است». طبق این مقاله، پژوهش National Endowment for the Arts (NEA) نشان می‌دهد که در سال ۲۰۲۲، کمتر از ۵۰ درصد بزرگسالان آمریکایی حتی یک کتاب خوانده‌اند و تنها ۳۸ درصد آن‌ها یک رمان یا داستان کوتاه مطالعه کرده‌اند.

در همین حال، بازار کتاب آمریکا هر سال رکوردهای تازه‌ای در انتشار کتاب ثبت می‌کند. برای مثال، در سال ۲۰۲۵ تعداد عناوین جدید منتشرشده از چهار میلیون عنوان فراتر رفت؛ رقمی که نسبت به سال ۲۰۲۴ حدود یک‌سوم افزایش داشت. بخش بزرگی از این آمار، یعنی ۳.۵ میلیون عنوان، مربوط به انتشار مستقل کتاب‌ها بود و یکی از مهم‌ترین محرک‌های این روند نیز سرویس Kindle Direct Publishing (KDP) آمازون است.

نظریه من درباره این تناقض آماری این است: دیگر کسی کتاب نمی‌خواند، چون همه بیش از حد مشغول نوشتن کتاب هستند! اما شوخی را کنار بگذاریم؛ اگر هنوز خواننده‌ای باقی مانده باشد، احتمالاً تا الان حدس زده که این ماجرا قرار است به کجا برسد: هوش مصنوعی قدرتمند و همه‌جا حاضر.

چندی پیش، یکی از خبرنگاران حوزه فناوری New York Times با تعجب متوجه شد که زندگی‌نامه‌ای از او در آمازون منتشر شده است؛ بررسی کوتاهی هم کافی بود تا مشخص شود این کتاب با هوش مصنوعی نوشته شده است. او با بررسی عمیق‌تر دنیای انتشار کتاب‌های تولیدشده با هوش مصنوعی، به آثار یک مشاور بازنشسته امنیت سایبری رسید که تعداد حیرت‌انگیزی کتاب منتشر کرده بود. اینکه پس از آن چه اتفاقی افتاد و در عصر هوش مصنوعی چطور می‌توان منابع اطلاعاتی قابل‌اعتماد پیدا کرد، موضوع این مطلب است.

پیش‌زمینه؛ خبرنگاری که در تعقیب خرگوش سفید به درون لانه افتاد

از ابتدا شروع کنیم. در تابستان ۲۰۲۶، Kashmir Hill، خبرنگار حوزه فناوری New York Times، از طریق یکی از آشنایانش متوجه شد که یک سال قبل زندگی‌نامه‌ای درباره او در آمازون منتشر شده است.

عنوان کتاب این بود:

«زندگی‌نامه کشمیر هیل؛ خبرنگار فناوری New York Times که Clearview AI را افشا کرد، غول‌های فناوری را به چالش کشید و مفهوم حریم خصوصی را در عصر دیجیتال بازتعریف کرد»

این موضوع برای هیل بسیار عجیب بود؛ زیرا هیچ‌کس برای تحقیق درباره این کتاب نه با خودش و نه با هیچ‌یک از افرادی که او می‌شناخت، تماس نگرفته بود.

«آلیس ناگهان از جا برخاست؛ چون به ذهنش رسید که تا آن لحظه هرگز خرگوشی ندیده بود که جیب جلیقه داشته باشد، چه رسد به اینکه ساعتی از آن بیرون بیاورد...»

نام نویسنده کتاب John Crane Miller ثبت شده بود، اما تصویری که در صفحه آمازون او دیده می‌شد، در واقع یک عکس استوک عمومی از یک مرد سفیدپوست بود؛ تصویری که در نقاط مختلف اینترنت نیز دیده می‌شد. هیل نتوانست هیچ اطلاعات شخصی یا راه ارتباطی با این نویسنده پیدا کند.

اما بررسی بیشتر پروفایل آمازون او نکته جالب‌تری را آشکار کرد: در تنها یک هفته از تابستان ۲۰۲۵، این نویسنده نه‌تنها زندگی‌نامه هیل، بلکه زندگی‌نامه ۹ خبرنگار آمریکایی دیگر را نیز منتشر کرده بود. حتی خوش‌بین‌ترین خواننده هم به‌سختی می‌تواند باور کند که یک نابغه ادبی بدون کمک گرفتن از هوش مصنوعی بتواند با چنین سرعت حیرت‌انگیزی کتاب تولید کند.

زندگی‌نامه تولیدشده با هوش مصنوعی درباره Kashmir Hill به‌صورت اتفاقی توسط خود او در آمازون پیدا شد.

با این حال، نسخه گالینگور زندگی‌نامه Kashmir Hill با قیمت ۲۶.۹۹ دلار فروخته می‌شد؛ آن هم در حالی که کتاب فقط ۹۰ صفحه داشت.

هیل پس از خواندن کتاب با مجموعه‌ای از «حقایق» درباره زندگی خودش روبه‌رو شد که تا آن زمان حتی خودش هم از آن‌ها خبر نداشت! از جمله شرح مفصلی درباره عادت روزانه او برای درست کردن قهوه؛ کاری که به گفته خود هیل، در واقع همسرش انجام می‌دهد. آقای Miller حتی در کتاب ادعا کرده بود که دفتر خاطرات دوران کودکی Kashmir Hill را نیز خوانده است.

«...کنجکاوی سراسر وجودش را فرا گرفته بود؛ پس در دشت به دنبال خرگوش دوید و خوشبختانه درست به‌موقع رسید تا ببیند خرگوش داخل لانه بزرگی زیر پرچین ناپدید شد.»

تلاش‌های هیل برای پیدا کردن نویسنده زندگی‌نامه‌اش به نتیجه نرسید. او در صفحه آمازون کتاب پیامی گذاشت و از نویسنده خواست با او تماس بگیرد، اما هیچ پاسخی دریافت نکرد. مدت زیادی هم نگذشت که تمام کتاب‌های منتشرشده در پروفایل John Crane Miller ناپدید شدند.

با این حال، همین موضوع سرنخی برای پیدا کردن چند نویسنده دیگر در آمازون به او داد که از هوش مصنوعی استفاده می‌کردند.

در این میان، هیل به فردی به نام Bill Johns رسید که صفحه نویسندگی او در آمازون رقم باورنکردنی ۴۴۵ کتاب را نشان می‌داد. هیل بدون اینکه انتظار چندانی برای دریافت پاسخ داشته باشد، از Johns پرسید آیا حاضر است با او مصاحبه کند یا نه؛ اما برخلاف انتظار، او موافقت کرد.

احتمالاً درست از همین نقطه بود که تحقیقات Kashmir Hill به سفری واقعی و عمیق در لانه خرگوش هوش مصنوعی تبدیل شد...

«لحظه‌ای بعد، آلیس نیز به دنبال او پایین رفت، بی‌آنکه حتی یک‌بار فکر کند چطور قرار است دوباره از آنجا بیرون بیاید.»

ماجراجویی‌های هوش مصنوعی Bill در سرزمین عجایب

Bill Johns در سال ۲۰۲۴ و پس از سال‌ها فعالیت به‌عنوان مشاور امنیت سایبری بازنشسته شد. در سال ۲۰۲۵ تصمیم گرفت ChatGPT را امتحان کند و طی چند هفته، با کمک آن نخستین کتاب خود را تولید کرد. موضوع کتاب درباره امنیت سایبری و به‌طور مشخص تاریخچه هک بود و با عنوان نه‌چندان خلاقانه Ghosts in the Machine منتشر شد. Johns تنها چند نسخه از این کتاب فروخت، اما این موضوع مانع از آن نشد که طی یک سال بعد، ۴۴۴ کتاب دیگر تولید کند.

صفحه نویسندگی Bill Johns در آمازون نشان می‌دهد که او تنها در یک سال ۴۴۵ کتاب منتشر کرده است؛ کتاب‌هایی درباره موضوعاتی از امنیت سایبری و حتی پل‌ها گرفته تا ورزش، زندگی‌نامه و فلسفه.

این تعداد چشمگیر شامل یک مجموعه ۱۳ جلدی درباره امنیت سایبری نیز می‌شود که علاوه بر کتاب تاریخچه هک، عناوین زیر را در بر می‌گیرد:

  • طرح جامع امنیت سایبری؛ ایجاد و عملیاتی‌سازی یک استراتژی دفاعی کامل
  • دژ سخت‌افزاری؛ نقش Data Diodeها در حفاظت از زیرساخت‌های حیاتی
  • Zero Trust؛ بازتعریف امنیت در دنیای بدون مرز شبکه
  • تهدیدات در حال تحول، زنجیره‌های در حال تحول؛ امنیت سایبری برای زنجیره تأمین مدرن
  • ضرورت یکپارچه‌سازی؛ امنیت سایبری برای سیستم‌های Legacy OT/ICS و غلبه بر چالش‌های تحول دیجیتال در زیرساخت‌های حیاتی

با این حال، امنیت سایبری تنها موضوع فعالیت این نویسنده پرکار نیست و حتی نمی‌توان آن را موضوع اصلی آثار او دانست. مجموعه آثار Bill Johns حوزه‌هایی مانند ورزش، پل‌ها، انواع نوشیدنی‌های الکلی از Sake گرفته تا Whiskey، زندگی‌نامه افراد مشهور، هوانوردی نظامی و فلسفه را نیز شامل می‌شود. خلاصه اینکه پیدا کردن موضوعی که Johns هنوز درباره آن کتابی ننوشته باشد، کار دشواری است.

«فرایند خلاقانه» Johns به این صورت است که ابتدا فصل‌های کتاب را با کمک ChatGPT برنامه‌ریزی می‌کند و سپس هر فصل را به‌تدریج می‌نویسد. به گفته خودش، درخواست از هوش مصنوعی برای تولید یک فصل کامل در یک مرحله نتیجه چندان خوبی ندارد ــ چه غافلگیرکننده! ــ بنابراین بهتر است متن به‌صورت بخش‌بخش تولید شود. هرجا هم لازم باشد، از ChatGPT می‌خواهد متن را اصلاح کند.

پس از انتشار، Johns یک نسخه از هرکدام از ۴۴۵ کتابش را از آمازون می‌خرد؛ اما فقط برای اینکه آن را در قفسه قرار دهد، چون ظاهراً خواندن آن‌ها چندان اهمیتی ندارد. از دید Johns، او هنگام تولید کتاب‌ها آن‌ها را خوانده و همین کافی است.

هدف این غول ادبی، تولید ۱۰ کتاب در هفته است؛ دقیقاً حداکثر تعدادی که آمازون اجازه انتشار آن را در این بازه زمانی می‌دهد. جالب اینکه فقط سه سال قبل، این محدودیت دو برابر مقدار فعلی بود. البته برخلاف نویسنده زندگی‌نامه Kashmir Hill، کتاب‌های Johns معمولاً حجم بسیار بیشتری دارند.

آخرین قطعه برای تکمیل تصویر این ماشین خودانتشاری، در واقع همان تصویر خودش است؛ عکسی که در صفحه نویسندگی آمازون و پشت جلد تمام کتاب‌هایش دیده می‌شود. Johns پنهان نمی‌کند که این تصویر نیز با هوش مصنوعی تولید شده و دلیل انتخابش را با همان نگاه عمل‌گرایانه و صریح همیشگی توضیح می‌دهد:

«یا باید از این تصویر استفاده می‌کردم، یا کت‌وشلوار می‌پوشیدم و از خودم سلفی می‌گرفتم.»

حتی تصویر نویسندگی خودش را هم Johns به هوش مصنوعی سپرده است؛ ظاهراً لباس رسمی پوشیدن و گرفتن یک سلفی، بیش از حد دردسر داشت.

اقتصاد سرزمین عجایب هوش مصنوعی؛ عجیب‌تر و عجیب‌تر

برای هر خواننده‌ای یک سؤال طبیعی مطرح می‌شود: چرا Bill Johns و سایر تولیدکنندگان کتاب‌های هوش مصنوعی اصلاً چنین کاری انجام می‌دهند، آن هم در این مقیاس؟

شاید بتوان یک کتاب «نوشت» تا لینک آن را در رزومه قرار داد، با افتخار عبارت «نویسنده در آمازون» را به Bio شبکه‌های اجتماعی اضافه کرد و در جمع‌ها خود را نویسنده معرفی کرد. شاید هم برای اطمینان بیشتر، یکی دو کتاب دیگر منتشر کرد. اما چرا باید بیش از ۴۰۰ کتاب تولید کرد؟

پاسخ را باید در مدل اقتصادی جست‌وجو کرد که آمازون مدت‌ها پیش از ظهور هوش مصنوعی ایجاد کرده بود.

برخلاف ناشران سنتی، آمازون کتاب‌ها را از قبل در تیراژ مشخص چاپ نمی‌کند. بیشتر کتاب‌هایی که از طریق Kindle Direct Publishing (KDP) منتشر می‌شوند، از مدل Print-on-Demand استفاده می‌کنند؛ یعنی نسخه فیزیکی کتاب تنها زمانی چاپ می‌شود که یک مشتری واقعاً آن را از آمازون سفارش دهد.

به همین دلیل، نویسنده می‌تواند تقریباً بدون هزینه اولیه کتاب منتشر کند. مهم‌تر اینکه خطر باقی ماندن نسخه‌های چاپ‌شده و فروخته‌نشده در انبار نیز وجود ندارد.

به بیان دیگر، قرار دادن صدها کتاب در فروشگاه آنلاین تقریباً هیچ هزینه‌ای برای آمازون یا نویسنده ندارد.

وقتی هزینه سرمایه‌گذاری نزدیک به صفر باشد، حتی تقاضای محدود هم می‌تواند سود واقعی ایجاد کند. برای مثال، Bill Johns ماهانه چند صد جلد کتاب به خوانندگانی می‌فروشد که از نحوه تولید آن‌ها اطلاعی ندارند. به گفته خودش، در یکی از فصل‌های تعطیلات، از دسامبر تا اوایل ژانویه، فروش او به ۸۲۱ نسخه رسید و حدود ۶۰۰۰ دلار درآمد برایش ایجاد کرد؛ مبلغ قابل‌توجهی برای افزایش درآمد دوران بازنشستگی.

برخی کتاب‌های تولیدشده با هوش مصنوعی حتی درآمد بسیار بیشتری برای نویسندگانشان ایجاد می‌کنند.

برای مثال، زندگی‌نامه تولیدشده با هوش مصنوعی درباره فعال سیاسی آمریکایی Charlie Kirk پس از ترور او به یکی از کتاب‌های پرفروش آمازون تبدیل شد. خوانندگان از کیفیت کتاب رضایت نداشتند و پس از انتشار ده‌ها نقد که در آن‌ها از عباراتی مانند «خسته‌کننده»، «کلاهبرداری» و «مایه شرمساری» استفاده شده بود، آمازون کتاب را از پلتفرم حذف کرد.

با این حال، احتمالاً پیش از حذف کتاب، هزاران نسخه از آن فروخته شده بود و سود قابل‌توجهی نصیب نویسنده و آمازون کرده بود.

چگونه کلاغ را از میز تحریر تشخیص دهیم؟

در دنیایی که هوش مصنوعی همه‌جا را فرا گرفته، تشخیص محتوای تولیدشده توسط انسان از محتوای تولیدشده توسط ماشین به مسئله‌ای مهم‌تر از همیشه تبدیل شده است.

آمازون نیز تنها بازار آنلاین بزرگی نیست که به گسترش محتوای بی‌کیفیت تولیدشده با هوش مصنوعی دامن می‌زند؛ بنابراین دلایل زیادی وجود دارد که انتظار داشته باشیم این وضعیت در آینده بدتر شود.

برای اینکه مجبور نباشید میان انبوهی از توهمات بی‌کیفیت و بی‌روح Chatbotها به‌دنبال اطلاعات واقعی بگردید، توصیه می‌کنیم برای موضوعاتی که واقعاً اهمیت دارند، به منابع معتبر و قابل‌اعتماد مراجعه کنید.

برای مثال، در زمینه تخصصی امنیت سایبری، وبلاگ کسپرسکی می‌تواند نقطه شروع مناسبی باشد. برخلاف برخی مشاوران بازنشسته فوق‌العاده پرکار، تمام مطالب این وبلاگ توسط خود نویسندگان نوشته می‌شوند و آن‌ها مسئولیت محتوای منتشرشده را نیز می‌پذیرند.

محصولات مرتبط

  • Kaspersky Cloud Password Manager

    Kaspersky Cloud Password Manager ابزار مدیریت کلمه عبور ابری کسپرسکی (KCPM) ضمن ذخیره ایمن تمامی کلمات عبور مورد استفاده شما برای وبسایت‌ها، اپلیکیشن‌ها، و شبکه‌های اجتماعی آنها را در تمامی ...

    17,754,720 ریال29,591,200 ریال
    خرید
  • Kaspersky Safe Kids

    اپلیکیشن همه‌کاره برای فرزندپروریِ دیجیتال و سلامت خانواده نرم افزار امنیت کودکان کسپرسکی، نظارت‌های والدین را آسان می‌کند. ردیابی مکان و عادات دستگاه، محدودسازی محتوا، متعادل‌سازی ...

    17,754,720 ریال29,591,200 ریال
    خرید
  • Kaspersky Security Cloud Personal

    تمام اپ‌های امنیتیِ ما در دستانتان. به کل خانواده‌ی اپ‌های ما برای دسکتاپ و موبایل دسترسی پیدا کنید. از آنتی‌ویروس گرفته تا ابزارهای حریم خصوصی و اجرایی، هر کدام را به میل ...

    197,381,200 ریال
    خرید
  • Kaspersky Standard

    سیستم امنیتی بهبودیافته به همراه تقویت‌کننده عمکرد دستگاه طرح امنیتی استاندارد ما، نه تنها سیستم امنیتی قدرتمندی را برای انواع ویروس‌ها، بدفزارها و باج‌افزارها ارائه می‌دهد ...

    33,501,600 ریال55,836,000 ریال
    خرید
  • Kaspersky Plus

    امنیت. کارایی. حریم خصوصی. همه در یک برنامه با کاربری آسان کسپرسکی پلاس با ارائه امنیت سایبری نسل بعد، شما در برابر ویروس‌ها، باج‌افزارها و بدافزارهای جدید محافظت کند - بدون ...

    48,041,520 ریال80,069,200 ریال
    خرید
  • Kaspersky Premium

    حفاظت کامل از دستگاه ها، حریم خصوصی و هویت شما با محصول Kaspersky Premium تمام نیازهای امنیتی خود و خانواده‌تان را پوشش دهید. حفاظت پیشرفته ...

    51,391,680 ریال85,652,800 ریال
    خرید
  • Kaspersky Small Office Security

    محافظت در حین کار Kaspersky Small Office Security به طور خاص برای سازمان‌هایی طراحی شده است که 5 تا 50 دستگاه کامپیوتر در خود جای داده‌اند. نصب آن بسیار آسان است؛ مدیریت آن ...

    355,320,000 ریال
    خرید
  • Kaspersky Small Office Security

    امنیت ادارات کوچک

    568,493,200 ریال
    خرید
  • Kaspersky Small Office Security

    امنیت ادارات کوچک

    426,365,200 ریال
    خرید
  • Kaspersky Small Office Security

    682,985,200 ریال
    خرید
  • Kaspersky Small Office Security

    497,429,200 ریال
    خرید
  • Kaspersky Small Office Security

    795,503,200 ریال
    خرید
  • Kaspersky Small Office Security

    568,493,200 ریال
    خرید
  • Kaspersky Small Office Security

    909,995,200 ریال
    خرید
  • Kaspersky Small Office Security

    639,557,200 ریال
    خرید
  • Kaspersky Small Office Security

    1,022,513,200 ریال
    خرید
  • Kaspersky Small Office Security

    651,401,200 ریال
    خرید
  • Kaspersky Small Office Security

    1,042,253,200 ریال
    خرید
  • Kaspersky Small Office Security

    917,891,200 ریال
    خرید
  • Kaspersky Small Office Security

    1,468,637,200 ریال
    خرید
  • Kaspersky Small Office Security

    1,184,381,200 ریال
    خرید
  • Kaspersky Small Office Security

    1,895,021,200 ریال
    خرید
  • Kaspersky Small Office Security

    1,431,131,200 ریال
    خرید
  • Kaspersky Small Office Security

    2,289,821,200 ریال
    خرید
  • Kaspersky Small Office Security

    2,714,231,200 ریال
    خرید
  • Kaspersky Small Office Security

    4,342,781,200 ریال
    خرید
  • Kaspersky Standard For Mobile

    امنیت موبایل خود را در تمامی دستگاه‌ها به‌طور کامل سامان‌دهی کنید. دستگاه‌های هوشمند خود را با یک موبایل سکیوریتی، در برابر جدیدترین تهدیدات دیجیتال محافظت کنید — تا خیال‌تان ...

    33,501,600 ریال
    خرید

نظر خودتان را ارسال کنید


کاربر گرامی چنانچه تمایل دارید، نقد یا نظر شما به نام خودتان در سایت ثبت شود، لطفاً وارد سایت شوید.
*نظر
کلیه حقوق مادی و معنوی این سایت محفوظ و متعلق به شرکت گسترش خدمات تجارت الکترونیک ایرانیان است و هر گونه کپی برداری از آن پیگرد قانونی دارد