😵 Hallucination কী?
যখন LLM আত্মবিশ্বাসের সাথে ভুল তথ্য দেয় — যা training-এ ছিল না বা বিকৃত — সেটাই hallucination। সবচেয়ে বিপজ্জনক কারণ model নিজে জানে না সে ভুল বলছে।
📝 বাস্তব উদাহরণ
- "Professor X-এর 2019 সালের paper" — যে paper আসলে নেই।
- API method বানিয়ে লেখে যা library-তে exist করে না।
- ভুল তারিখ, ভুল জীবনী।
- মনগড়া ঐতিহাসিক ঘটনা।
- Code generate করে এমন package import করে যা কখনো তৈরিই হয়নি।
🔍 কেন হয়?
- Probabilistic generation — model "সবচেয়ে সম্ভাব্য" word বেছে নেয়, "সবচেয়ে সঠিক" না।
- "আমি জানি না" বলার training কম।
- বিপুল ডেটার compression — detail হারিয়ে যায়।
- Outdated training data।
- Pattern matching > truth checking — প্যাটার্ন দেখে guess করে।
🕵️ Hallucination চেনার উপায় ⭐
- Primary source-এ check — LLM যা বলে, original document-এ খুঁজুন।
- একই প্রশ্ন ভিন্নভাবে জিজ্ঞেস — উত্তর বদলে গেলে সন্দেহজনক।
- Specific দিন-তারিখ-সংখ্যা সব সময় সন্দেহ করুন।
- "Cite sources" দাবি করুন — তারপর URL verify করুন।
- Search-augmented model (Perplexity, Gemini with Grounding) ব্যবহার করুন।
🛡️ Hallucination কমানোর কৌশল
১. Grounding / RAG
Model-কে তার নিজের memory-র বদলে আপনার দেয়া document থেকে উত্তর দিতে বলুন।
২. Temperature 0
Deterministic output — কম creative কিন্তু কম hallucinate।
৩. Chain-of-thought
Reasoning step-by-step দেখতে বলুন — ভুল যুক্তি ধরা পড়ে।
৪. Self-consistency
একই প্রশ্ন ৩-৫ বার চালান — majority vote নিন।
৫. "জানি না" বলতে অনুমতি
"যদি উত্তর জানো না, সরাসরি বলো 'আমি জানি না'। তথ্য বানিয়ে বলবে না।"
৬. Constrained output
JSON schema দিয়ে output structure বাঁধুন।
৭. Tool use
Calculator, search, code execution tool দিন — fact check করতে পারবে।
⚠️ উচ্চ ঝুঁকির ক্ষেত্র
- Medical advice ❌ (ডাক্তার দেখান)
- Legal interpretation ❌
- Financial decision ❌
- Academic citation ⚠️ (verify required)
- Code ⚠️ (test mandatory)
📋 Recommended Prompt Pattern
"নিচের Context থেকেই ANSWER দাও।
Context-এ যদি answer না থাকে, বলো:
'আমার কাছে এই তথ্য নেই।'
তথ্য বানাবে না।
Context:
{documents}
Question: {user_query}"
✅ Verification Workflow
- LLM-কে answer generate করতে দিন।
- Key claim গুলো extract করুন।
- প্রতিটা claim primary source-এ search করুন।
- Confidence level annotate করুন।
- Low confidence-গুলো human review-এ পাঠান।
🧭 মনোভাব ⭐
LLM-কে একজন বুদ্ধিমান intern হিসেবে ভাবুন — দ্রুত, সহায়ক, কিন্তু গুরুত্বপূর্ণ কাজ সবসময় double-check করতে হয়।
🚨 Production Safety
- User-কে notify করুন: "AI-generated, verify before using"
- Critical path-এ human-in-the-loop রাখুন।
- Output log করুন audit trail-এর জন্য।
- Feedback mechanism রাখুন (👍/👎)।
- Regular quality audit করুন।