#एडवर्सेरियल उदाहरण

कंप्यूटर साइंस

कोड की ख़ामी पैच की जा सकती है। जो मॉडल ग़लत चीज़ सीख गया हो, उसे पैच नहीं किया जा सकता

5 सित॰ 2026 · 10 मिनट का पठन

सॉफ़्टवेयर की ख़ामी किसी की लिखी हुई पंक्ति में होती है और दोबारा लिखी जा सकती है। AI की ख़ामी उस सीखे हुए फलन में होती है जिसे किसी ने लिखा ही नहीं — और उनमें सबसे अहम, प्रॉम्प्ट इंजेक्शन, का कोई स्वीकृत इलाज है ही नहीं।

पूरा पढ़ें →