एलोन मस्क के बच्चों में से एक की मां एशले सेंट क्लेयर ने गुरुवार को मस्क की एक्सएआई आर्टिफिशियल इंटेलिजेंस कंपनी पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि एआई दिग्गज ने लापरवाही बरती और अपने एआई टूल, जिसे ग्रोक कहा जाता है, के उपयोगकर्ताओं को यौन रूप से स्पष्ट पोज़ में उनकी डीपफेक तस्वीरें बनाने और ऐसा करने में विफल रहने पर सक्षम बनाकर भावनात्मक संकट पैदा किया। ऐसे व्यवहार को पर्याप्त रूप से सीमित करें उसकी शिकायतों के बाद.
मुक़दमा के बाद आता है हफ्तों तक बढ़ती प्रतिक्रिया ग्रोक की गैर-सहमति वाले डीपफेक उत्पन्न करने की क्षमता के खिलाफ, उपयोगकर्ताओं को सेवा पर अपलोड की गई तस्वीरों में चित्रित लोगों के कपड़े हटाने की अनुमति देता है और अक्सर कपड़ों को बिकनी या अंडरवियर से बदल देता है। उसका मुकदमा न्यूयॉर्क की राज्य अदालत में दायर किया गया था, लेकिन तुरंत ही उसे न्यूयॉर्क के संघीय दक्षिणी जिले में स्थानांतरित कर दिया गया एक्सएआई से अनुरोध.
सेंट क्लेयर ने सूचित किया था xAI का दावा है कि उपयोगकर्ता उसकी “एक बच्चे के रूप में बिकिनी पहने हुए” और “यौन रूप से स्पष्ट मुद्रा में एक वयस्क के रूप में” उसकी अवैध डीपफेक तस्वीरें बना रहे थे और अनुरोध किया कि ग्रोक सेवा को गैर-सहमति वाली छवियां बनाने से रोका जाए, मुकदमा कहता है।
मुकदमे में आरोप लगाया गया है कि भले ही ग्रोक ने पुष्टि की कि “भविष्य की पीढ़ियों या प्रतिक्रियाओं में स्पष्ट सहमति के बिना छवियों का उपयोग या परिवर्तन नहीं किया जाएगा,” एक्सएआई ने उपयोगकर्ताओं को उसकी अधिक स्पष्ट एआई-जनरेटेड छवियां बनाने की अनुमति देना जारी रखा और इसके बजाय उसके एक्स खाते को विमुद्रीकृत करके प्रतिशोध लिया।
एक्स और एक्सएआई ने टिप्पणी के अनुरोध का तुरंत जवाब नहीं दिया। गुरुवार को xAI ने सेंट क्लेयर पर मुकदमा दायर किया टेक्सास में संघीय अदालत मेंयह कहते हुए कि उसने xAI की सेवा शर्तों का उल्लंघन किया है और $75,000 से अधिक के नुकसान का दावा किया है। एक्सएआई ने अपने मुकदमे में कहा कि कंपनी के खिलाफ कोई भी दावा टेक्सास के उत्तरी जिले में संघीय अदालत या टारंट काउंटी, टेक्सास में राज्य अदालतों में दायर किया जाना चाहिए।
पिछले हफ़्ते, के रूप में रिपोर्टिंग का समयवे क्षमताएं स्टैंडअलोन ग्रोक ऐप और ग्रोक वेबसाइट और एक्स पर समर्पित ग्रोक टैब में बरकरार रहीं।
ग्रोक कामुक एआई-जनित छवियों की बाढ़ पैदा कर रहा है हफ़्तों के लिएपिछले सप्ताह प्रति घंटे ऐसी हजारों छवियों तक पहुंचने की गति के साथ, शोधकर्ताओं के अनुसार. कई छवियाँ X पर सार्वजनिक रूप से पोस्ट की गई हैं।
गैर-सहमति वाली कामुक छवियों का निर्माण और प्रसार हुआ है विश्वव्यापी प्रतिक्रिया उत्पन्न हुईजिसमें कई सरकारी जांच और शामिल हैं के लिए बुलाता है स्मार्टफोन ऐप बाज़ार X पर प्रतिबंध लगाना या प्रतिबंधित करना. हालाँकि, नियामकों और अन्य तकनीकी कंपनियों ने ऐप को प्रतिबंधित करना बंद कर दिया है।
कैलिफ़ोर्निया के अटॉर्नी जनरल ने गॉव गेविन न्यूसोम के रूप में बुधवार को ग्रोक में एक जांच शुरू की एक्स पर पोस्ट किया गया कि “शिकारियों के लिए प्रजनन स्थल बनाने और होस्ट करने का xAI का निर्णय गैर-सहमति वाले यौन रूप से स्पष्ट एआई डीपफेक फैलाने के लिए, जिसमें बच्चों को डिजिटल रूप से कपड़े उतारने वाली छवियां भी शामिल हैं, घृणित है।”
सेंट क्लेयर के मुकदमे में आरोप लगाया गया है कि ग्रोक की सुविधा जो उपयोगकर्ताओं को बिना सहमति के डीपफेक बनाने की अनुमति देती है, एक डिज़ाइन दोष है और कंपनी ने गैरकानूनी छवियों के साथ लोगों को परेशान करने के लिए इस सुविधा का उपयोग करने की योजना बनाई होगी।
इसमें कहा गया है कि सेंट क्लेयर समेत डीपफेक में चित्रित लोगों को अत्यधिक परेशानी का सामना करना पड़ा।
मुक़दमे में कहा गया है, “प्रतिवादी अत्यधिक और अपमानजनक आचरण में लिप्त है, जो शालीनता की सभी सीमाओं को पार कर गया है और एक सभ्य समाज में पूरी तरह से असहनीय है।”