CareGuardAI: Context-Aware Multi-Agent Guardrails for Clinical Safety & Hallucination Mitigation in Patient-Facing LLMs
CareGuardAI एक संदर्भ-जागरूक, मल्टी-एजेंट फ्रेमवर्क है जो दोहरी जोखिम मूल्यांकन (SRA और HRA) के साथ एक मल्टी-स्टेज इन्फरेंस पाइपलाइन का उपयोग करके, रिलीज से पहले प्रतिक्रियाओं को फ़िल्टर और परिष्कृत करके क्लिनिकल सुरक्षा सुनिश्चित करता है और पेशेंट-फेसिंग LLMs में मतिभ्रम (hallucinations) को कम करता है।