ChatGPT اغلب پاسخ های برنامه اشتباه می دهد!


بیش از یک سال است که هوش مصنوعی و ربات‌های چت مانند ChatGPT از OpenAI همیشه به عنوان ابزارهای انقلابی ارائه شده‌اند که می‌توانند به افراد در حرفه‌های مختلف کمک کنند تا وظایف خود را به نحو احسن انجام دهند و حتی ممکن است در آینده جایگزین آن افراد شوند. اما یک مطالعه جدید نشان می دهد که ChatGPT خطاهای فاحشی در پاسخ به سوالات برنامه نویسی دارد. این تحقیق که توسط دانشگاه پردو انجام شد و اولین بار توسط Futurism News منتشر شد، نتایج جالبی را به همراه داشت. با دی جی همراه باشید.

نتایج یک مطالعه دانشگاه پوردو

این مطالعه که در کنفرانس تعامل انسان با کامپیوتر در هاوایی ارائه شد، 517 سوال برنامه نویسی از Stack Overflow را بررسی کرد که به ChatGPT ارسال شده بود. نتایج نشان می دهد که 52 درصد از پاسخ های ChatGPT حاوی اطلاعات نادرست و 77 درصد از پاسخ ها بیش از حد طولانی هستند.

با این حال، شرکت کنندگان در نظرسنجی همچنان 35 درصد از پاسخ های ChatGPT را به دلیل جامعیت و زبان آزاد ترجیح می دهند. این نشان می دهد که حتی اگر اطلاعات ارائه شده توسط هوش مصنوعی نادرست باشد، به دلیل ارائه واضح و جذاب باز هم می توان آن را پذیرفت و این واقعا خطرناک است.

اهمیت مقابله با اطلاعات نادرست

یکی از نکات نگران کننده این مطالعه این است که برنامه نویسان در 39 درصد مواقع خطا را در پاسخ های ChatGPT تشخیص ندادند. این امر نیاز به مبارزه با اطلاعات نادرست در پاسخ‌های هوش مصنوعی و افزایش آگاهی از خطرات مرتبط با پاسخ‌های به ظاهر صحیح را برجسته می‌کند.

شرکت‌های بزرگ فناوری مانند متا، مایکروسافت و گوگل میلیاردها دلار در هوش مصنوعی سرمایه‌گذاری کرده‌اند تا چت‌بات‌های قابل اعتمادتری ارائه کنند. این شرکت ها در رقابت شدیدی برای دستیابی به این فناوری نوظهور هستند که پتانسیل تغییر اساسی رابطه ما با اینترنت را دارد.

گوگل از خود در برابر این انتقادات دفاع کرده و گفته است که پاسخ های نادرست تنها در موارد نادری رخ می دهد و تجربه اکثر افراد را منعکس نمی کند. یکی از سخنگویان گوگل به Gizmodo گفت:

اکثر نتایج بررسی هوش مصنوعی اطلاعات با کیفیتی را ارائه می دهند که شامل پیوندهایی به تحقیقات اضافی در وب است.

اما این دفاع که مدعی است تنها سؤالات «غیر عادی» به پاسخ های اشتباه منجر می شود، قابل قبول نیست. این ابزارها به عنوان ابزارهای انقلابی معرفی می شوند که باید بتوانند به سؤالات مختلف پاسخ دهند، نه تنها به سؤالات ساده و روزمره مردم.

در نهایت، مطالعه دانشگاه پردو نشان می‌دهد که هوش مصنوعی و چت ربات‌هایی مانند ChatGPT هنوز راه زیادی در پیش دارند تا بتوانند به عنوان ابزاری قابل اعتماد در زمینه‌های تخصصی مانند برنامه‌نویسی عمل کنند. با وجود تلاش زیاد شرکت های بزرگ فناوری، همچنان مشکلاتی مانند ارائه اطلاعات نادرست و عدم شناسایی این اطلاعات توسط کاربران وجود دارد. این مسائل نیازمند توجه و تلاش بیشتری برای بهبود دقت و قابلیت اطمینان پاسخ‌های هوش مصنوعی است.

Related Posts