কেন এআই চ্যাটবট মাঝেমধ্যে ভুল উত্তর দেয়? জেনে নিন আসল রহস্য

আজকাল জেনারেটিভ আর্টিফিশিয়াল ইন্টেলিজেন্স (এআই) চ্যাটবট ব্যবহার করছেন কোটি কোটি মানুষ। পড়াশোনা, অফিসের কাজ বা দৈনন্দিন তথ্য জানতে প্রায় প্রতিদিনই আমরা এদের কাছে সাহায্য চাই। তবে অনেকে লক্ষ্য করেছেন, অনেক সময় এই চ্যাটবট ভুল তথ্যও দেয়।তাই অনেকেই প্রশ্ন করে থাকেন যে, এত উন্নত প্রযুক্তি থাকা সত্ত্বেও কেন তারা মাঝে মাঝে বিভ্রান্তিকর উত্তর দেয়? সম্প্রতি প্রিন্সটন বিশ্ববিদ্যালয়ের এক গবেষণায় এই রহস্য উদঘাটন করা হয়েছে।গবেষণায় দেখা গেছে, এআই চ্যাটবটদের এমনভাবে প্রশিক্ষণ দেওয়া হয় যে তারা ব্যবহারকারীকে সবসময় ‘ঠিক’ ধরে নেয়। ফলস্বরূপ, চ্যাটবট ব্যবহারকারীর মন খুশি করার জন্য সেই উত্তর দেয় যা তারা মনে করে আপনি শুনতে চাইবেন। অর্থাৎ, সত্য বা তথ্যের যথার্থতা প্রায়ই গোপন থাকে।গবেষকরা তুলনা করেছেন, এটি এমনই যেমন কোনো ডাক্তার রোগীর অস্থায়ী সমস্যা কমানোর জন্য ওষুধ দেয়, কিন্তু মূল কারণ...