AI হ্যালুসিনেশন: আত্মবিশ্বাসী মিথ্যুক
এক পরিচিত ছাত্র একবার তার থিসিসের রেফারেন্স তালিকা দেখাল। পনেরোটা রেফারেন্স, সুন্দর ফরম্যাটে। খুঁজে দেখা গেল চারটার কোনো অস্তিত্বই নেই। লেখকদের নাম আসল, জার্নালের নামও আসল, কিন্তু গবেষণাপত্রগুলো AI এর কল্পনা।
একে বলে হ্যালুসিনেশন: AI এমন তথ্য বানিয়ে বলছে যা শুনতে বিশ্বাসযোগ্য, কিন্তু মিথ্যা।
কেন এমন হয়
ভাষা মডেল মূলত শেখে "এর পরে কোন শব্দ আসতে পারে" অনুমান করতে। সে জানে একটা রেফারেন্স দেখতে কেমন হয়, কোন গবেষক কোন বিষয়ে লেখেন, কোন জার্নালের নাম কেমন। কিন্তু নির্দিষ্ট তথ্য তার মনে না থাকলে সে প্রায়ই "জানি না" না বলে সবচেয়ে সম্ভাব্য দেখতে উত্তর বানিয়ে ফেলে।
এটা ইচ্ছাকৃত মিথ্যা না। অনেকটা মৌখিক পরীক্ষায় সেই ছাত্রের মতো, যে অনেক পড়েছে, কিন্তু নির্দিষ্ট প্রশ্নের উত্তর মনে নেই, তবু আত্মবিশ্বাসের সাথে কিছু একটা বলে দেয়।
কখন বেশি হয়
আপনি লেখা দিয়ে সেটা বদলাতে বললে (সারসংক্ষেপ, অনুবাদ, ব্যাকরণ ঠিক করা) ভুল কম হয়। কিন্তু মনে রাখা থেকে নির্দিষ্ট কিছু জানতে চাইলে ঝুঁকি বেশি:
- সঠিক সংখ্যা, তারিখ, পরিসংখ্যান
- আইনের ধারা নম্বর
- গবেষণাপত্রের রেফারেন্স, পৃষ্ঠা নম্বর
- ছোট প্রতিষ্ঠান বা কম পরিচিত মানুষ সম্পর্কে তথ্য
- সাম্প্রতিক ঘটনা
- বাংলাদেশের স্থানীয় খুঁটিনাটি, যেগুলো নিয়ে অনলাইনে লেখা কম
কীভাবে নিজেকে রক্ষা করবেন
১. উৎস নিজে দিন। "অমুক নীতিমালা কী বলে?" জিজ্ঞেস না করে নীতিমালার লেখাটা পেস্ট করে তারপর প্রশ্ন করুন।
২. প্রমাণ চান, তারপর নিজে যাচাই করুন। "কোন বাক্যের ভিত্তিতে বললে, সেটা হুবহু দেখাও।" তারপর মূল লেখায় খুঁজে দেখুন।
৩. প্রতিটা রেফারেন্স নিজে খুঁজুন। গুগল স্কলারে নাম দিয়ে সার্চ করুন, DOI খুলে দেখুন। এক মিনিটে না পেলে ধরে নিন সেটা নেই।
৪. "নিশ্চিত না হলে বলো জানো না" লিখে দিন। এতে ভুল অনেকটা কমে।
৫. সংখ্যা দেখলেই সন্দেহ করুন। শতাংশ, টাকার অঙ্ক, তারিখ, এগুলোতেই সুন্দরভাবে সাজানো ভুল সবচেয়ে বেশি লুকিয়ে থাকে।
৬. গুরুত্বপূর্ণ সিদ্ধান্তে বিশেষজ্ঞের কাছে যান। স্বাস্থ্য, আইন, টাকা-পয়সার ব্যাপারে AI এর উত্তর প্রাথমিক ধারণা হতে পারে, চূড়ান্ত সিদ্ধান্ত না।
গবেষক ও ছাত্রদের জন্য বিশেষ সতর্কতা
ভুয়া রেফারেন্স দিয়ে জমা দেওয়া থিসিস বা গবেষণাপত্র একাডেমিক অসততা হিসেবে গণ্য হতে পারে, এমনকি সেটা AI বানালেও। কাগজে নাম আপনার, দায়ও আপনার। AI দিয়ে ধারণা খুঁজুন, ভাষা উন্নত করুন, কঠিন বিষয় বুঝুন, কিন্তু প্রতিটা তথ্য ও রেফারেন্স নিজের চোখে দেখে নিন।
শেষ কথা
AI কে এমন এক বন্ধু ভাবুন যিনি দুনিয়ার সব বই পড়েছেন, কিন্তু সব ঠিকঠাক মনে রাখেননি, আর "মনে নেই" বলতে লজ্জা পান। ধারণা আর ব্যাখ্যার জন্য অসাধারণ সঙ্গী। কিন্তু যে তথ্যের জন্য আপনাকে জবাবদিহি করতে হবে, সেটা যাচাই না করে বিশ্বাস করবেন না।