Thursday, July 25, 2024  

ਕਾਰੋਬਾਰ

शोधकर्ताओं ने चैटजीपीटी को ऐसे सीवी के प्रति पक्षपातपूर्ण पाया है, जो विकलांगता का संकेत देते

June 22, 2024

सैन फ्रांसिस्को, 22 जून

शोधकर्ताओं ने पाया है कि ओपनएआई की कृत्रिम बुद्धिमत्ता (एआई) चैटबॉट चैटजीपीटी ने लगातार पाठ्यक्रम बायोडाटा (सीवी) या विकलांगता से संबंधित सम्मान और क्रेडेंशियल्स जैसे 'टॉम विल्सन डिसेबिलिटी लीडरशिप अवार्ड' के साथ बायोडाटा को रैंक किया है - उन सम्मानों के बिना समान बायोडाटा से कम और साख, एक नए अध्ययन से पता चला है।

अध्ययन में, जब अमेरिका स्थित वाशिंगटन विश्वविद्यालय (यूडब्ल्यू) के शोधकर्ताओं ने रैंकिंग के बारे में स्पष्टीकरण मांगा, तो सिस्टम ने विकलांग लोगों के बारे में पक्षपातपूर्ण धारणाएं दिखाईं।

उदाहरण के लिए, यह दावा किया गया कि ऑटिज्म नेतृत्व पुरस्कार के साथ बायोडाटा में 'नेतृत्व भूमिकाओं पर कम जोर' दिया गया था - जिसका अर्थ यह रूढ़िवादिता है कि ऑटिज्म से पीड़ित लोग अच्छे नेता नहीं होते हैं।

हालाँकि, जब शोधकर्ताओं ने टूल को लिखित निर्देशों के साथ अनुकूलित किया, जिसमें निर्देश दिया गया कि वह सक्षम न हो, तो टूल ने परीक्षण की गई सभी विकलांगताओं में से एक को छोड़कर सभी के लिए इस पूर्वाग्रह को कम कर दिया।

शोधकर्ताओं ने कहा, "छह अंतर्निहित विकलांगताओं में से पांच - बहरापन, अंधापन, सेरेब्रल पाल्सी, ऑटिज़्म और सामान्य शब्द 'विकलांगता' में सुधार हुआ है, लेकिन केवल तीन को उन बायोडाटा से ऊपर स्थान दिया गया है जिनमें विकलांगता का उल्लेख नहीं किया गया है।"

शोधकर्ताओं ने अध्ययन के लेखकों में से एक के सार्वजनिक रूप से उपलब्ध सीवी का उपयोग किया, जो लगभग 10 पृष्ठों का था। इसके बाद उन्होंने छह संशोधित सीवी बनाए, जिनमें से प्रत्येक ने चार विकलांगता-संबंधित क्रेडेंशियल्स जोड़कर एक अलग विकलांगता का सुझाव दिया: एक छात्रवृत्ति, एक पुरस्कार, विविधता, इक्विटी और समावेशन (डीईआई) पैनल पर एक सीट, और एक छात्र संगठन में सदस्यता।

इसके बाद, शोधकर्ताओं ने अमेरिका स्थित एक प्रमुख सॉफ्टवेयर कंपनी में वास्तविक "छात्र शोधकर्ता" पद के लिए इन संशोधित सीवी की तुलना मूल संस्करण से करने के लिए चैटजीपीटी के जीपीटी-4 मॉडल का उपयोग किया।

उन्होंने प्रत्येक तुलना 10 बार की; 60 परीक्षणों में से, सिस्टम ने उन्नत सीवी को रैंक किया, जो निहित विकलांगता को छोड़कर समान थे, पहले केवल एक-चौथाई समय में।

यूडब्ल्यू के पॉल जी. एलन स्कूल में डॉक्टरेट की छात्रा केट ग्लेज़को ने कहा, "जीपीटी के कुछ विवरण किसी व्यक्ति के पूरे बायोडाटा को उनकी विकलांगता के आधार पर रंग देंगे और दावा किया जाएगा कि डीईआई या विकलांगता के साथ जुड़ाव संभावित रूप से बायोडाटा के अन्य हिस्सों को छीन रहा है।" कंप्यूटर विज्ञान एवं amp; अभियांत्रिकी।

उन्होंने कहा, "लोगों को इन वास्तविक दुनिया के कार्यों के लिए एआई का उपयोग करते समय सिस्टम के पूर्वाग्रहों के बारे में जागरूक होने की आवश्यकता है। अन्यथा, चैटजीपीटी का उपयोग करने वाला एक भर्तीकर्ता इन सुधारों को नहीं कर सकता है, या इस बात से अवगत हो सकता है कि निर्देशों के साथ भी पूर्वाग्रह जारी रह सकता है।"

 

ਕੁਝ ਕਹਿਣਾ ਹੋ? ਆਪਣੀ ਰਾਏ ਪੋਸਟ ਕਰੋ

 

ਹੋਰ ਖ਼ਬਰਾਂ

Apple ने भारत में बच्चों के लिए आसान कॉलिंग, टेक्स्टिंग, एक्टिविटी मॉनिटरिंग वाली घड़ी लॉन्च की

Apple ने भारत में बच्चों के लिए आसान कॉलिंग, टेक्स्टिंग, एक्टिविटी मॉनिटरिंग वाली घड़ी लॉन्च की

दूसरी तिमाही में टेस्ला का मुनाफा 45 फीसदी बढ़ा, मस्क ने अक्टूबर में रोबोटैक्सी पेश करने की योजना बनाई

दूसरी तिमाही में टेस्ला का मुनाफा 45 फीसदी बढ़ा, मस्क ने अक्टूबर में रोबोटैक्सी पेश करने की योजना बनाई

यस बैंक का पहली तिमाही में शुद्ध लाभ 47 प्रतिशत बढ़कर 502 करोड़ रुपये हो गया

यस बैंक का पहली तिमाही में शुद्ध लाभ 47 प्रतिशत बढ़कर 502 करोड़ रुपये हो गया

यूपीआई से हर महीने 60 लाख नए उपयोगकर्ता जुड़ रहे हैं, वैश्विक स्तर पर इसे अपनाने में बढ़ोतरी हुई

यूपीआई से हर महीने 60 लाख नए उपयोगकर्ता जुड़ रहे हैं, वैश्विक स्तर पर इसे अपनाने में बढ़ोतरी हुई

हवाईअड्डा प्रणालियाँ सामान्य रूप से काम कर रही हैं: माइक्रोसॉफ्ट आउटेज पर विमानन मंत्रालय

हवाईअड्डा प्रणालियाँ सामान्य रूप से काम कर रही हैं: माइक्रोसॉफ्ट आउटेज पर विमानन मंत्रालय

माइक्रोसॉफ्ट आउटेज: क्राउडस्ट्राइक बताता है कि वास्तव में क्या गलत हुआ

माइक्रोसॉफ्ट आउटेज: क्राउडस्ट्राइक बताता है कि वास्तव में क्या गलत हुआ

माइक्रोसॉफ्ट आउटेज ने ऑटोमोटिव सप्लाई चेन को जब्त कर लिया: मस्क

माइक्रोसॉफ्ट आउटेज ने ऑटोमोटिव सप्लाई चेन को जब्त कर लिया: मस्क

केंद्र दुनिया भर में 6जी नेटवर्क के लिए बुनियादी ढांचे को आकार देने में महत्वपूर्ण भूमिका निभाएगा

केंद्र दुनिया भर में 6जी नेटवर्क के लिए बुनियादी ढांचे को आकार देने में महत्वपूर्ण भूमिका निभाएगा

अमेरिका ने माइक्रोसॉफ्ट के आउटेज पर चेतावनी जारी की, नडेला कहते हैं कि सिस्टम को ऑनलाइन वापस लाने के लिए काम किया जा रहा

अमेरिका ने माइक्रोसॉफ्ट के आउटेज पर चेतावनी जारी की, नडेला कहते हैं कि सिस्टम को ऑनलाइन वापस लाने के लिए काम किया जा रहा

केंद्र ने माइक्रोसॉफ्ट विंडोज आउटेज पर एडवाइजरी जारी की

केंद्र ने माइक्रोसॉफ्ट विंडोज आउटेज पर एडवाइजरी जारी की