বর্তমানে কৃত্রিম বুদ্ধিমত্তা বা এআই চ্যাটবটের মতো লার্জ ল্যাঙ্গুয়েজ মডেলের,এলএলএম-র অন্যতম বড় সমস্যা হচ্ছে হ্যালুসিনেশন বা বিভ্রান্তি।
বিভিন্ন এআই চ্যাটবট কেন হ্যালুসিনেট করে সম্প্রতি এর সমাধান খুঁজে পাওয়ার দাবি করেছেন ওপেনএআই গবেষকরা।কোনো এলএলএম যখন ভুল বা মিথ্যা তথ্য তৈরি করে সেটিকে ইউজারদের সামনে এমনভাবে উপস্থাপন করে যেন তা সত্যি, এমন ঘটনাকে বলে হ্যালুসিনেশন।এ সমস্যা ওপেনএআইয়ের চ্যাটজিপিটি ৫ থেকে শুরু করে অ্যানথ্রপিকের ক্লড পর্যন্ত জনপ্রিয় সব এআই মডেলেই রয়েছে।নিজেদের নতুন এক গবেষণাপত্রে ওপেনএআই বলেছে, বিভিন্ন এলএলএম-এর হ্যালুসিনেশনের কারণ হচ্ছে,এগুলোকে এমনভাবে প্রশিক্ষণ দেওয়া হচ্ছে, যেখানে অনিশ্চয়তা স্বীকার করার চেয়ে অনুমান বা আন্দাজ করে উত্তর দেওয়ার বেলায় পুরস্কৃত করা হয়।অন্যভাবে বললে, বিভিন্ন এলএলএমকে শেখানো হচ্ছে, কোনো বিষয়ে না জানলেও আত্মবিশ্বাসের সঙ্গে কিছু একটা বলে ফেলা। তবে সব মডেল একরকম না, কোনো কোনো চ্যাটবট এ ক্ষেত্রে অন্যদের চেয়ে কার্যকর।গত মাসে এক ব্লগ পোস্টে ওপেনএআই বলেছে, অ্যানথ্রপিকের বিভিন্ন ক্লড মডেল নিজেদের অনিশ্চয়তা সম্পর্কে বেশি সচেতন এবং এরা ভুল তথ্য এড়ানোর চেষ্টা করে।
বেশিরভাগ সময় উত্তর দেওয়ার বেলায় কোনো কিছু সম্পর্কে না জানলে, না, বলে ক্লড মডেল।তবে এতে করে এর ব্যবহার কমে যেতে পারে।