هوش مصنوعی از یک فناوری تازه و نوظهور به ابزاری چنان عادی تبدیل شده که حتی دانشآموزان دوره ابتدایی هم از آن استفاده میکنند. در چنین شرایطی، تلاش برای ممنوع کردن استفاده کودکان از هوش مصنوعی تقریباً به همان اندازه بیمعناست که زمانی بخواهیم استفاده از موتورهای جستوجو یا ویکیپدیا را ممنوع کنیم.
در این مطلب بررسی میکنیم چتباتها واقعاً چگونه کار میکنند و چطور میتوان به کودکان آموزش داد که از هوش مصنوعی بهعنوان ابزاری برای کمک به یادگیری استفاده کنند، نه جایگزینی برای فکر کردن و یادگیری مستقل.
برای فرزندتان (و خودتان) توضیح دهید هوش مصنوعی چگونه کار میکند
پیش از آنکه بخواهید درباره هوش مصنوعی برای فرزندتان توضیح دهید، بهتر است خودتان بدانید این فناوری واقعاً چگونه کار میکند و چه محدودیتهایی دارد.
بیشتر چتباتهای محبوبی که کودکان و البته بزرگسالان از آنها استفاده میکنند، بر پایه مدلهای زبانی بزرگ یا LLMها ساخته شدهاند. برای ایجاد چنین مدلی، پژوهشگران آن را با حجم بسیار زیادی از متون آموزش میدهند تا بتواند الگوهای موجود در آنها را شناسایی کند.
مدل، متن را به واحدهای کوچکی به نام توکن (Token) تقسیم میکند. هر توکن میتواند مجموعهای از کلمات، یک علامت نگارشی، یک کلمه یا کاراکتر منفرد یا حتی یک جمله کامل باشد. سپس مدل پیشبینی میکند که کدام توکن به احتمال بیشتری در ادامه قرار میگیرد.
نمونهای از نحوه تقسیم متن به توکن توسط GPT-3.5 و GPT-4
این نمونه نشان میدهد مدلهای GPT-3.5 و GPT-4 چگونه پیامها را به توکنهای مختلف تقسیم میکنند.
همین فرایند هنگام گفتوگوی یک چتبات با کاربر نیز اتفاق میافتد. یک مدل زبانی در واقع بهصورت مستقل استدلال نمیکند؛ بلکه محاسبه میکند کدام کلمات و عبارات با احتمال بیشتری باید در ادامه یکدیگر قرار بگیرند تا پاسخی متناسب با درخواست کاربر تولید شود.
به همین دلیل، چتباتها گاهی پاسخهای ناقص یا حتی کاملاً اشتباه ارائه میکنند؛ صرفنظر از اینکه چند بار بهروزرسانی یا دوباره آموزش داده شده باشند. نمونه جالب آن مربوط به تنها دو سال پیش است؛ زمانی که برخی چتباتهای محبوب با اطمینان به کاربران میگفتند کلمه strawberry بهجای سه حرف «r»، فقط دو حرف «r» دارد. چنین خطاهایی معمولاً با عنوان توهم هوش مصنوعی (Hallucination) شناخته میشوند.
بسیاری از چتباتها همچنین میتوانند برای یافتن اطلاعات در اینترنت جستوجو کنند. در این شرایط، هوش مصنوعی دادهها را از یک منبع خارجی دریافت میکند، اما همچنان با استفاده از الگوریتمهای داخلی خود پاسخ نهایی را شکل میدهد. از طرف دیگر، خود نتایج جستوجو نیز ممکن است شامل مطالب قدیمی، محتوای تبلیغاتی، رسانههای زرد و سایر منابع غیرقابل اعتماد باشند.
چگونه به فرزندتان کمک کنید هوشمندانه از هوش مصنوعی استفاده کند
درباره احتمال اشتباه کردن هوش مصنوعی با او صحبت کنید
همانطور که دیدیم، هوش مصنوعی از خطا مصون نیست. متأسفانه، توهمهای هوش مصنوعی تنها مشکل موجود نیستند. حتی زمانی که یک چتبات از اطلاعات صحیح استفاده میکند، ممکن است با حذف بخشی از اطلاعات، تأکید نادرست بر یک موضوع یا رسیدن به نتیجهای قابل بحث، آن اطلاعات را به شکلی گمراهکننده ارائه دهد.
گاهی اوقات نیز نتیجه به عواملی بستگی دارد که ممکن است کاربر هنگام مطرح کردن سؤال حتی به آنها فکر نکند.
یکی از عوامل جالب، زبانی است که برای پرسیدن سؤال استفاده میکنید. بخش عمده دادههایی که مدلهای بزرگ با آنها آموزش دیدهاند به زبان انگلیسی هستند؛ بنابراین این سیستمها معمولاً در زبان انگلیسی عملکرد بهتری دارند.
برای مثال، ممکن است یک مدل هوش مصنوعی به سؤالی به زبان انگلیسی پاسخ صحیح بدهد، اما همان سؤال را وقتی مثلاً به زبان صربی مطرح میکنید، اشتباه پاسخ دهد. این تفاوت بهویژه در حوزههایی مانند علوم، پزشکی، فناوری و حقوق بیشتر دیده میشود؛ زیرا حجم محتوای باکیفیت انگلیسیزبان که مدل میتواند از آن استفاده کند، بسیار بیشتر است.
یکی دیگر از ویژگیهای عجیب چتباتها این است که هرچه اطلاعات بیشتری در اختیار آنها قرار دهید، ممکن است عملکردشان ضعیفتر شود. مطالعات نشان میدهند با افزایش حجم متن و دادهای که مدل باید پردازش کند، دنبال کردن جزئیات، برقراری ارتباط میان اطلاعات بخشهای مختلف یک گفتوگو و پاسخ دادن به پرسشهایی که به درک عمیق نیاز دارند، برای آن دشوارتر میشود.
بنابراین، آپلود کردن یک کتاب کامل در یک چتبات و سپس پرسیدن سؤالات بسیار جزئی درباره آن، میتواند احتمال بروز توهم و ارائه اطلاعات نادرست را افزایش دهد.
همچنین فقط اطلاعاتی که هوش مصنوعی ارائه میدهد مهم نیست؛ بلکه باید به شیوه مطرح کردن سؤال نیز توجه کرد. چتباتها اغلب تلاش میکنند پاسخی متناسب با دیدگاه ظاهری کاربر ارائه دهند و ممکن است پاسخ خود را براساس پیشفرض موجود در سؤال شکل دهند.
برای مثال، یک چتبات ممکن است به دو سؤال «چرا جمعیت زمین بیش از حد زیاد است؟» و «چرا جمعیت زمین بیش از حد زیاد نیست؟» پاسخهایی کاملاً متضاد بدهد؛ زیرا در هر مورد، پاسخ خود را براساس فرضی که از ابتدا در سؤال وجود دارد تنظیم میکند.
یک مطالعه جدید نشان داده است که حتی پیشرفتهترین مدلهای زبانی نیز در ۲۶ تا ۴۲ درصد موارد نتوانستهاند پیشفرضهای نادرست موجود در پرسش کاربران را به چالش بکشند.
اجازه دهید هوش مصنوعی به یادگیری کمک کند، نه اینکه جای یادگیری را بگیرد
بسیاری از دانشآموزان سابق بهخوبی میدانند که کپی کردن تکالیف دیگران خودش هنری بود که مهارت خاصی میخواست و دستکم فرد را تا حدی با موضوع درگیر میکرد؛ گاهی حتی به میزان قابل توجهی!
اما امروزه متأسفانه حتی همان مهارت هم در معرض نابودی قرار گرفته است. وسوسه کپی کردن پاسخی که تنها در چند ثانیه تولید شده، بسیار زیاد است. با این حال، خود چتباتها هم قرار نیست همیشه شاگرد ممتاز کلاس باشند.
در یک مطالعه، پژوهشگران از سه چتبات محبوب خواستند در یک آزمون شیمی شرکت کنند و سپس نتایج آنها را با نمرات دانشآموزان واقعی بین سالهای ۲۰۰۹ تا ۲۰۲۳ مقایسه کردند. در نهایت، دانشآموزان عملکرد بهتری داشتند.
چتباتها ممکن است گاهی به پاسخ صحیح برسند، اما مسیر استدلالی که برای رسیدن به آن طی میکنند میتواند دارای اشکال باشد؛ بنابراین پاسخ آنها به همان اندازه ممکن است نادرست از آب دربیاید.
