AI और सुरक्षा · प्रश्न 31 / 60
स्व-अधिगम (self-learning) किसी सिस्टम के safety case को क्यों कमज़ोर करता है?
1 उत्तर सही है। मध्यम AI से बनाया गया
उत्तर दिखाएँ
उत्तर
- D क्योंकि व्यवहार धीरे-धीरे मूल रूप से टेस्ट किए गए व्यवहार से दूर होता जाता है
व्याख्या
उपयोग से पहले व्यापक टेस्टिंग दिखाती है कि सिस्टम सुरक्षित है। लेकिन स्व-अधिगम वाला सिस्टम बाद में भी बदलता रहता है, और हर बदलाव के साथ पुराने प्रमाण कम फिट बैठते हैं। उपाय हैं यह नियम कि मॉडल कैसे और किस डेटा से सीख सकता है, या अंतर्निहित सुरक्षा तंत्र।