नस्लीय पूर्वाग्रह से ग्रस्त छवियां बना रहे AI इमेज टूल्स
न्यूयॉर्क। रोना वांग नाम की एक 24 वर्षीय एशियाई अमेरिकी छात्रा ने अपनी लिंक्डइन प्रोफाइल के लिए तस्वीर बनाने में आर्टिफिशियल इंटेलीजेंस इमेज जनरेटर की मदद ली। वह यह देख कर हतप्रभ रह गई कि एआई टूल ने तस्वीर में उसकी नस्ल ही बदल कर रख दी। वांग ने अपनी तस्वीर ट्वीट करते हुए बताया कि उसने स्वेटशर्ट पहनी हुई अपनी मूल तस्वीर को जब एडिट करने के लिए इमेज जनरेटर में डाला तो जो नई फोटो सामने आई, उसमें वह मूल रंग की अपेक्षा अधिक गोरे रंग की और नीली आंखों वाली दिखाई दे रही थी। इमेज जनरेटर ने उसकी तस्वीर किसी श्वेत नस्ल की लड़की के जैसी बना दी थी। वांग का कहना है कि नस्लीय पूर्वाग्रह किसी एआई टूल द्वारा बार-बार की जाने वाली गलती है। वांग को इस गलती के कारण होने वाले परिणामों को लेकर चिंता है। उनका कहना है कि यदि किसी कंपनी ने अपने कर्मचारी की नियुक्ति के लिए एआई का सहारा लिया तो वह गोरे दिखने वाले लोगों को ही प्राथमिकता देगा।
अभी स्मार्ट नहीं हैं मॉडल पर समस्या दूर हो जाएगी
प्लेग्राउंड एआई के संस्थापक सुहैल दोशी ने वांग की पोस्ट का जवाब देते हुए कहा कि एआई मॉडल उस तरह से निर्देश योग्य नहीं हैं, इसलिए यह संकेत के आधार पर कोई भी सामान्य चीज चुन लेते हैं। दुर्भाग्य से, वे पर्याप्त स्मार्ट नहीं हैं। उन्होंने कहा, हम इससे काफी नाखुश हैं और उम्मीद करते हैं कि इसका समाधान हो जाएगा।
उच्च पदों के लिए श्वेत पुरुषों को चुनता है एआई
एआई फर्म हगिंग फेस के रिसर्चर्स ने अध्ययन में यह पाया है कि डेल-ई2 जैसे इमेज जनरेटर में जेंडर एवं नस्ल को लेकर भेदभाव करने की समस्या है। इस अध्ययन में यह पाया गया कि इस टूल के द्वारा एडिट की जाने वाली 97 प्रतिशत इमेज में डायरेक्टर एवं सीईओ जैसे पदों में चयन के लिए श्वेत पुरुषों को ही प्राथमिकता दी जाती है।
