OpenAI को जल्द ही अपनी सबसे बड़ी नियामकीय चुनौती का सामना करना पड़ सकता है क्योंकि इटली के अधिकारियों का कहना है कि कंपनी 30 अप्रैल तक खुली रहेगी।
इतालवी सरकार ने मार्च के अंत में OpenAI के GPT उत्पादों पर एक व्यापक प्रतिबंध जारी किया, केवल उत्पादों को छोड़ने वाला पहला पश्चिमी देश बन गया। कार्रवाई ने एक डेटा उल्लंघन का पालन किया जिसने चैटजीपीटी और जीपीटी एपीआई क्लाइंट को विभिन्न उपयोगकर्ताओं द्वारा उत्पन्न डेटा देखने की अनुमति दी।
हमारा मानना है कि उन उपयोगकर्ताओं की संख्या जिनकी जानकारी वास्तव में किसी और के साथ साझा की गई थी, बेहद कम है और हमने उन लोगों से संपर्क किया है जो प्रभावित हो सकते थे। हम इसे बहुत गंभीरता से लेते हैं और अपनी जांच और योजना का विवरण यहां साझा कर रहे हैं।' 2/2 https://t.co/JwjfbcHr3g
– ओपनएआई (@OpenAI) मार्च २०,२०२१
इतालवी से बिंग-संचालित अनुवाद के अनुसार आदेश OpenAI को देश के भीतर अपने ChatGPT संचालन को तब तक निलंबित करने का आदेश देना जब तक कि वह अनुपालन दिखाने के लिए तैयार न हो जाए:
“इतालवी एसए अपने आदेश में जोर देता है कि उपयोगकर्ताओं और ज्ञान विषयों को कोई जानकारी प्रदान नहीं की जाएगी जिसका डेटा ओपन एआई द्वारा एकत्र किया जाता है; इससे भी महत्वपूर्ण बात यह है कि प्लेटफ़ॉर्म पर निर्भर एल्गोरिदम को 'अभ्यास' करने के लिए निजी ज्ञान के विशाल संग्रह और प्रसंस्करण के लिए कोई कानूनी आधार नहीं है।
इतालवी शिकायत में कहा गया है कि OpenAI को यह सुनिश्चित करने के लिए आयु सत्यापन उपायों को भी लागू करना चाहिए कि उसके सॉफ़्टवेयर और सेवाएँ कंपनी के स्वयं के सेवा नियमों का पालन करें, जिसके लिए उपयोगकर्ताओं की आयु 13 वर्ष से अधिक होनी चाहिए।
एसोसिएटेड: यूरोपीय संघ के सांसदों ने 'संरक्षित' एआई का नाम दिया क्योंकि Google सीईओ ने तेजी से विकास की चेतावनी दी
इटली और बाकी यूरोपीय संघ में डेटा सुरक्षा नियमों का अनुपालन प्राप्त करने के लिए, OpenAI को अपनी व्यापक डेटा संग्रह प्रक्रियाओं के लिए एक आधार स्थापित करने की आवश्यकता है।
यूरोपीय संघ के सामान्य सूचना सुरक्षा विनियमन (जीडीपीआर) के तहत तकनीकी संगठन हैं चाहिए निजी ज्ञान के साथ कोचिंग के लिए व्यक्ति की सहमति मांगें। साथ ही, यूरोप में काम कर रहे निगमों को यूरोपीय लोगों को ज्ञान संग्रह और प्रकटीकरण पर आपत्ति करने का मौका देना चाहिए।
विशेषज्ञों के अनुसार, OpenAI के लिए यह एक कठिन चुनौती होगी क्योंकि इसके मॉडल को इंटरनेट से स्क्रैप किए गए बड़े डेटासेट पर प्रशिक्षित किया जाएगा और प्रशिक्षण इकाइयों में विलय कर दिया जाएगा। इस प्रकार का ब्लैक फील्ड कोचिंग लक्ष्यों "उद्भव" के रूप में जाना जाने वाला एक प्रतिमान बनाने के लिए जिसके द्वारा सहायक विकल्प अप्रत्याशित रूप से खुद को फैशन में प्रकट करते हैं।
"जीपीटी-4... बढ़ते आचरण को प्रदर्शित करता है"।
रुको, रुको, रुको, रुको। अगर हम कोचिंग ज्ञान नहीं जानते हैं, तो हम कैसे बता सकते हैं कि क्या 'आकस्मिक' है और क्या 'परिणाम' है?!?!
मुझे लगता है कि वे "उद्भव" के विचार का जिक्र कर रहे हैं, लेकिन मैं अभी भी निश्चित नहीं हूं कि इसका क्या मतलब है। https://t.co/Mnupou6D1d
- MMitchell (@mmitchell_ai) अप्रैल १, २०२४
दुर्भाग्य से, इसका मतलब है कि बिल्डरों को शायद ही पता हो कि रिपोर्ट में क्या है। और क्योंकि इंजन उत्पादन करते समय कई ज्ञान कारकों को मर्ज करता है, जानकारी के व्यक्तिगत आइटम को निकालना या संशोधित करना भी समकालीन तकनीशियनों की प्रतिभा से परे हो सकता है।
मार्गरेट मिशेल, एक एआई नैतिकता पेशेवर, बोला था एमआईटी की तकनीकी समीक्षा में कहा गया है कि "ओपनएआई लोगों के ज्ञान को निर्धारित करने और उन्हें अपने फैशन से दूर करने के लिए इसे व्यावहारिक रूप से असंभव समझेगा।"
अनुपालन प्राप्त करने के लिए, OpenAI को यह साबित करना होगा कि उसने ग्राहकों की सहमति से अपने मॉडलों को प्रशिक्षित करने के लिए उपयोग की गई जानकारी प्राप्त की - कुछ ऐसा जो कंपनी का है अनुसंधान कागजात प्रदर्शित करना सही नहीं है - या यह प्रदर्शित करना कि जानकारी को हटाने में उनकी "पेशेवर जिज्ञासा" भी थी।
न्यूकैसल विश्वविद्यालय में इंटरनेट कानून के एक प्रोफेसर लिलियन एडवर्ड्स ने एमआईटी टेक्नोलॉजी रिव्यू को बताया कि विवाद सिर्फ इतालवी मुकदमे से बड़ा है, उन्होंने कहा, "ओपनएआई के उल्लंघन इतने स्पष्ट हैं कि यह मामला अमेरिकी अदालत में समाप्त होने की संभावना है। न्याय का।" यूरोपीय संघ बन जाता है, यूरोपीय संघ का सर्वोच्च न्यायालय।
यह OpenAI को संभावित रूप से अनिश्चित स्थान पर रखता है। चाहे वह उपयोगकर्ता के अनुरोध पर व्यक्तिगत डेटा को पहचानने और हटाने में असमर्थ हो, या लोगों को गलत तरीके से पेश करने वाले डेटा में बदलाव करता है, यह 30 अप्रैल की समय सीमा के बाद इटली में अपने चैटजीपीटी उत्पादों को बंद कर सकता है।
कंपनी की मुश्किलें यहीं नहीं रुक सकतीं, क्योंकि फ्रेंच, जर्मन, आयरिश और ईयू रेग्युलेटर भी फिलहाल चैटजीपीटी को मैनेज करने की कार्रवाई पर विचार कर रहे हैं।
