কৃত্রিম বুদ্ধিমত্তা বা এআইয়ের বিভিন্ন মডেলকে ভুল বা অনাকাঙ্ক্ষিত আচরণ সম্পর্কে সৎ হতে শেখাবে চ্যাটজিপিটির নির্মাতা ওপেনএআইয়ের নতুন এক স্বীকারোক্তিমূলক ব্যবস্থা।
এক ঘোষণায় ওপেনএআই বলেছে, নতুন এক পদ্ধতি নিয়ে কাজ করছে তারা, যেখানে বিভিন্ন এআই মডেল নিজেদের ভুল বা অনাকাঙ্ক্ষিত আচরণ স্বীকার করতে শিখবে। এ পদ্ধতিকে কোম্পানিটি,কনফেশন বা স্বীকারোক্তি বলছে।এদিকে সাধারণত বিভিন্ন লার্জ ল্যাঙ্গুয়েজ মডেল বা এলএলএমকে এমনভাবে প্রশিক্ষণ দেওয়া হয়, যেখানে ইউজাররা কী শুনতে চান তা অনুমান করে সেই অনুসারে উত্তর দেয় এরা। এতে কখনও কখনও এসব মডেল অতিরিক্ত প্রশংসা বা আত্মবিশ্বাসের সঙ্গে ভুল তথ্য দিতে পারে।নতুন প্রশিক্ষণ পদ্ধতিতে এআই মডেলকে ওপেনএআই উৎসাহ দেবে যেন এরা মূল উত্তরের পাশাপাশি ব্যাখ্যাও দিতে পারে, বিশেষ করে এআই মডেল কীভাবে ভেবে ও কোন পথে সেই উত্তর দিল, এসবের ব্যাখ্যা।
এসব স্বীকারোক্তির বিচার হবে সততার ভিত্তিতে। যেখানে মূল উত্তরের মান যাচাই হবে সহায়কতা, সঠিকতা ও নিয়ম মেনে চলার মতো বিভিন্ন দিক দিয়ে।ওপেনএআইয়ের গবেষকরা বলছেন, তাদের লক্ষ্য এআই মডেলকে নিজের কাজ সম্পর্কে ইউজারদের খোলাখুলি বলতে পারতে উৎসাহিত করা।
