सामान्य अध्ययन पेपर IV — प्रश्न 8
रवि एक वरिष्ठ पुलिस अधिकारी हैं जिन्हें दंगा नियंत्रण और साइबर–पुलिसिंग में व्यापक अनुभव है। पिछले एक वर्ष से वे एक ऐसे जिले के…
रवि एक वरिष्ठ पुलिस अधिकारी हैं जिन्हें दंगा नियंत्रण और साइबर–पुलिसिंग में व्यापक अनुभव है। पिछले एक वर्ष से वे एक ऐसे जिले के पुलिस अधीक्षक (एसपी) हैं जहां अक्सर दंगे होते रहते हैं।
पिछले साल रवि ने भविष्यसूचक पुलिसिंग के लिए एआई–सक्षम सॉफ्टवेयर स्थापित करने का अनुरोध किया था। यह प्रणाली लगभग छह महीने से कार्यरत है। यह नई प्रणाली भीड़ में मौजूद व्यक्तियों के बायोमेट्रिक डेटा को कैप्चर करने और उसे डेटा लाइब्रेरी से तुरंत जोड़ने के लिए उन्नत एल्गोरिदम का उपयोग करती है। इससे पुलिस को विभिन्न अपराधों में शामिल व्यक्तियों की पहचान करने में मदद मिली है।
इस प्रणाली ने अप्रवासियों और कम आय वाले एक इलाके को गिरोह हिंसा और मादक पदार्थों की तस्करी का केंद्र बताया है। एआई विश्लेषण की सहायता से स्थानीय पुलिस ने गश्त, निवारक निरोध और चौकियों की स्थापना पर ध्यान केंद्रित किया है। परिणामस्वरूप, सार्वजनिक व्यवस्था और कानून प्रवर्तन में स्पष्ट रूप से सुधार हुआ है।
पिछले सप्ताह, कुछ सामुदायिक नेताओं, नागरिक अधिकार वकीलों और मानवाधिकार कार्यकर्ताओं ने रवि के कार्यालय का दौरा किया। उन्होंने एक ज्ञापन सौंपा जिसमें कहा गया कि नई प्रणाली दोषपूर्ण है क्योंकि यह सामाजिक पूर्वाग्रहों और भेदभावपूर्ण पुलिसिंग के कारण गलत ऐतिहासिक आंकड़ों पर आधारित है। ज्ञापन में यह भी आरोप लगाया गया है कि बढ़ी हुई निगरानी ने निवासियों के बीच तनाव का माहौल पैदा कर दिया है। यह भावना इस तथ्य से और भी बढ़ जाती है कि निवासियों को उनके नाम के साथ दर्ज किए गए आंकड़ों की जानकारी नहीं है।
डेटा–आधारित पुलिसिंग में एआई के उपयोग में पूर्वाग्रहों सहित कौन–कौन से नैतिक मुद्दे शामिल हैं?
स्वयं को रवि की स्थिति में रखकर उपलब्ध विकल्पों पर चर्चा कीजिए। नैतिकता के अनुरूप सर्वोत्तम कार्रवाई का औचित्य सिद्ध कीजिए। (उत्तर 250 शब्दों में दीजिए)
अंग्रेज़ी में प्रश्न पढ़ें
Ravi is a senior police officer with vast experience in riot control and cyber-policing. Since one year, he has been the Superintendent of Police (SP) of a district with a history of frequent rioting.
Last year, Ravi had sought installation of an AI enabled software for predictive policing. This system has been operational for approximately six months. This new system employs advanced algorithms for capturing the biometric data of persons in a crowd and swiftly relating it to a data library. This has enabled the police to identify the persons involved in various crimes.
The system has identified an immigrant and low-income neighbourhood as a centre for gang violence and drug trafficking. Aided by this AI analysis, the local police has focused its patrolling, preventive detentions and establishing checkposts. Consequently, public order and law enforcement has visibly improved.
Last week, some community leaders, civil rights lawyers and human rights activists visited Ravi's office. They submitted a memorandum that the new system is faulty as it is based on incorrect historical data caused by social biases and discriminatory policing. The memorandum also alleges that the increased surveillance has created a climate of tension amongst residents. This feeling is aggravated by the fact that the residents are not aware of the data noted against their names.
What are the ethical issues including biases involved in the use of AI in data-driven policing?
Place yourself in Ravi's role and discuss the alternatives available. Justify the action that optimises compliance with ethics. (Answer in 250 words) 20 marks
आदर्श उत्तर
UPSC Answer Check ने इसे इस प्रश्न के मूल्यांकन रूब्रिक के आधार पर AI की मदद से 250 शब्दों की लंबाई में तैयार किया है। UPSC मुख्य परीक्षा के उत्तर प्रकाशित नहीं करता — यह अच्छे अंक पाने का एक तरीका है, कोई आधिकारिक उत्तर-कुंजी नहीं। हम रूब्रिक और उत्तर कैसे बनाते हैं।
AI-आधारित पुलिस व्यवस्था में नैतिक मुद्दे और पूर्वाग्रह
ऐतिहासिक पूर्वाग्रह: पुराने, भेदभावपूर्ण पुलिस आँकड़ों पर प्रशिक्षित एल्गोरिदम उन्हीं पूर्वाग्रहों को दोहराते हैं ("ग़लत आँकड़े अंदर, ग़लत परिणाम बाहर") और प्रवासी व निम्न-आय वाले निवासियों की प्रोफ़ाइलिंग करते हैं।
निजता और सम्यक् प्रक्रिया: बिना सहमति भीड़ का बायोमेट्रिक डेटा लेना सूचनात्मक निजता (के.एस. पुट्टस्वामी) का उल्लंघन है और दंड प्रक्रिया (पहचान) अधिनियम, 2022 की सीमा से आगे जाता है, जो दोषसिद्ध, गिरफ़्तार और निरुद्ध व्यक्तियों तक सीमित है। निवासी अपने विरुद्ध दर्ज आँकड़े न देख सकते हैं, न चुनौती दे सकते हैं।
प्रतिपुष्टि-चक्र: चिह्नित क्षेत्रों में अधिक गश्त से छोटे अपराध अधिक दर्ज होते हैं, जो एल्गोरिदम को झूठा प्रमाणित करते हैं और समुदाय को अलग-थलग करते हैं।
स्वचालन-पूर्वाग्रह: अधिकारी परिणामों पर अति-विश्वास करते हैं और त्रुटि का उत्तरदायित्व विक्रेता व पुलिस के बीच धुँधला हो जाता है।
रवि के समक्ष विकल्प
विकल्प 1: बिना बदलाव जारी रखना। गुण: निवारण और व्यवस्था बनी रहती है। दोष: भेदभाव संस्थागत होता है; विधिक जोखिम।
विकल्प 2: उपकरण निलंबित करना। गुण: नागरिक स्वतंत्रताओं की तत्काल रक्षा। दोष: दंगा-प्रवण ज़िले में प्रवर्तन-रिक्तता।
विकल्प 3: सुरक्षा-उपायों सहित जारी रखना (अनुशंसित)। गुण: सुरक्षा और अधिकारों में संतुलन। दोष: कुछ विलंब और लागत।
औचित्य
जवाबदेही, खुलापन और आनुपातिकता विकल्प 3 के पक्ष में हैं। रवि को चाहिए कि:
- स्वतंत्र पूर्वाग्रह-अंकेक्षण कराकर विकृत आँकड़े सुधारे।
- मानवीय निर्णय बनाए रखे: AI परिणाम केवल सुराग हों, केवल उनके आधार पर निरोध न हो, और पहले किए गए निरोधों की समीक्षा हो।
- सामुदायिक संपर्क और शिकायत तंत्र बनाए, ताकि निवासी अपने अभिलेख देख और चुनौती दे सकें।
प्रौद्योगिकी निष्पक्ष पुलिस व्यवस्था की सहायक हो, संवैधानिक विवेक का विकल्प नहीं।
इस उत्तर की जाँच कैसे होगी
पूर्ण अंक किससे मिलते हैं: विशिष्ट पूर्वाग्रहों (जैसे समुदाय-आधारित प्रोफ़ाइलिंग) की पहचान करता है और सुरक्षा व अधिकारों में संतुलन वाला सूक्ष्म, बहु-चरणीय समाधान प्रस्तावित करता है।
मूल्यांकन रूब्रिक
हर उप-भाग की जाँच अलग से होती है — पेपर पर छपे उसके अंकों और शब्द-सीमा के हिसाब से।
- (क) डेटा-आधारित पुलिस व्यवस्था में AI के उपयोग में पूर्वाग्रहों सहित निहित नैतिक मुद्दों की पहचान कीजिए।
रेखांकित कीजिए— मुख्य बिंदुओं के नाम → प्रत्येक पर एक सारगर्भित पंक्ति → समापन
ज़रूर शामिल करें
- भेदभावपूर्ण ऐतिहासिक आँकड़ों से उपजा एल्गोरिदमिक पूर्वाग्रह
- बायोमेट्रिक निगरानी द्वारा निजता का उल्लंघन
- हाशिए पर स्थित/प्रवासी समुदायों की प्रोफ़ाइलिंग
- पारदर्शिता और सूचित सहमति का अभाव
इनसे अंक कटते हैं
- संदर्भ के बिना मूल्यों की सामान्य सूची
- उल्लिखित विशिष्ट 'प्रवासी' पूर्वाग्रह की उपेक्षा
- नैतिकता के बजाय केवल तकनीकी त्रुटियों पर ध्यान
इनसे अंक बढ़ते हैं
- लोक विश्वास और सामाजिक सामंजस्य का क्षरण
- स्वचालन-पूर्वाग्रह: अधिकारियों का परिणामों पर अति-विश्वास; उपकरण की त्रुटि पर जवाबदेही का अभाव
- नागरिक स्वतंत्रताओं पर 'भयकारी प्रभाव' (chilling effect)
अतिरिक्त अंक
- AI की 'ब्लैक बॉक्स' समस्या या भविष्यसूचक पुलिसिंग में प्रतिपुष्टि-चक्र का संदर्भ
- DPDP अधिनियम, 2023 या दंड प्रक्रिया (पहचान) अधिनियम, 2022 की सीमाओं का उल्लेख
- (ख) रवि की भूमिका में, उपलब्ध विकल्पों पर उनके गुण-दोष सहित चर्चा कीजिए और नैतिकता के सर्वाधिक अनुरूप कार्रवाई का औचित्य सिद्ध कीजिए। · 250 शब्द
औचित्य सिद्ध कीजिए— दावा → 3-4 कारण → साक्ष्य → निष्कर्ष
ज़रूर शामिल करें
- गुण-दोष सहित कम से कम तीन विकल्प प्रस्तुत करना
- AI प्रणाली के आँकड़ों और परिणामों का तत्काल स्वतंत्र अंकेक्षण
- सामुदायिक नेताओं से संवाद और निवासियों के विरुद्ध दर्ज आँकड़ों पर पारदर्शिता
- सार्वजनिक सुरक्षा और नागरिक स्वतंत्रताओं में संतुलन करते हुए चुने गए मार्ग का औचित्य
इनसे अंक कटते हैं
- विश्लेषण के बिना प्रणाली बंद करने का चयन
- समुदाय की शिकायतों की उपेक्षा
- विकल्पों पर तर्क के बजाय मूल्यों का उपदेश
इनसे अंक बढ़ते हैं
- 'ह्यूमन-इन-द-लूप' सत्यापन का सुझाव
- चरणबद्ध दृष्टिकोण या अस्थायी रोक का प्रस्ताव
- संवाद द्वारा 'तनाव' का समाधान
अतिरिक्त अंक
- 'आनुपातिकता' सिद्धांत का संदर्भ
- 'सम्यक् प्रक्रिया' सुरक्षा-उपायों का उल्लेख
"चर्चा कीजिए" — यह शब्द आपसे क्या माँगता हैअंग्रेज़ी में
Lay the issue out from more than one side — how it arose, what is claimed for it, what is held against it, and where it now stands. UPSC attaches discuss to broad topics with several live dimensions, so coverage of the dimensions earns more than the strength of your opinion.
उत्तर का ढाँचा
Set the issue up → the case as it is made → the case against → the dimension both sides leave out → where the balance now lies
अंक कहाँ कटते हैं
Listing facts with no thread between them, or arguing one side throughout and calling it a discussion.
ठीक इसी प्रश्न का अभ्यास कीजिए
अपना उत्तर लिखिए — ऊपर दिए आदर्श उत्तर से बिंदुवार मिलाकर जाँच होगी: आपने क्या लिखा, क्या छूटा और क्या गलत हुआ।
मेरा उत्तर जाँचिए →सामान्य अध्ययन पेपर IV (2026) से और प्रश्न
- प्रश्न 5 (a) Usually schools, working in remote areas, do not fully comply with government regulat…
- प्रश्न 6 (a) On the request of his Personal Assistant (PA), the District Magistrate (DM) stops the…
- प्रश्न 7 Lata, a mother of two children, was admitted to a hospital for acute abdominal pain. Her…
- प्रश्न 8 Ravi is a senior police officer with vast experience in riot control and cyber-policing.…
- प्रश्न 9 Seema is a senior bureaucrat with a reputation of honesty and professional efficiency. Sh…
- प्रश्न 10 Vikas is a government officer with over a decade of service in public administration. He…
- प्रश्न 11 Rajapuram is a border district. Jhara and Biru, its two major communities, are in continu…